מחקר חדש של שלוש חוקרות מהטכניון מצא שהיכולת האלגוריתמית של מערכות מבוססות בינה מלאכותית לא מספיקה: כדי שצרכנים יבחרו במערכת היא צריכה להיות חמימה.
ספוטיפיי או אפל מיוזיק? ווייז או גוגל מפות? צרכנים נדרשים לבחור לעיתים תכופות בין מערכות שונות שמציעות שירות דומה. כיצד הם בוחרים באיזו אפליקציה מבוססת בינה מלאכותית להשתמש? בהתחשב בכמות המשאבים שחברות משקיעות בשיפור ביצועי אלגוריתמים של בינה מלאכותית, ניתן היה לצפות שהיכולות הטכנולוגיות של מערכות תעמוד בבסיס הבחירה של המשתמשים. עם זאת, מחקר חדש של חוקרות מהפקולטה להנדסת תעשיה וניהול בטכניון מראה כי בעת בחירה בין מערכות, צרכנים מייחסים חשיבות רבה לכוונות המערכת ונכונותה לפעול לטובתם.
מחקר שהתפרסם לאחרונה בכנס המוביל בתחום אינטראקציית אדם-מכונה (CHI, 2021) מציע תובנות על המנגנונים הפסיכולוגיים הנמצאים בבסיס הבחירה של צרכנים פוטנציאליים. החוקרות, זהר גלעד, עפרה עמיר וליאת לבונטין מהפקולטה להנדסת תעשיה וניהול בטכניון, ערכו שישה ניסויים שבהם השתתפו יותר מ-1600 אנשים. בכל ניסוי התבקשו המשתתפים לבחור בין שתי מערכות מבוססות בינה מלאכותית שתוארו על-ידי החמימות והיכולת שלהן, שני ממדים בסיסיים בפסיכולוגיה חברתית, ונבדק כיצד האופן בו אנשים תופסים את המערכת משפיע על הבחירה שלהם. ממד החמימות מתייחס לכוונות של המערכת (טובות או לא רק טובות) וממד היכולת מתייחס ליכולתה של המערכת לפעול בהתאם לכוונותיה.
יכולת וחמימות הן שני ממדים בסיסיים בפסיכולוגיה חברתית שידועים כמשפיעים על שיפוטים אנושיים. למרות שממדים אלו נחקרו לרוב בשיפוטים של אנשים אחרים, מחקרים הראו כי אנשים משתמשים בהם גם בשיפוטים של ישויות לא אנושיות כמו סוכנים ווירטואליים ורובוטים. במילים אחרות, אנשים מייחסים כוונות התנהגות גם למערכות עם בינה מלאכותית.
בעוד שמרבית המחקרים על תפיסות חמימות של מערכות מבוססות בינה מלאכותית התמקדו בסוכנים ווירטואליים ורובוטים, המחקר הנוכחי התמקד במערכות בינה מלאכותית שאין להן נוכחות פיזית או וירטואלית כמו מערכות המלצה (כדוגמת נטפליקס או ספוטיפיי), מנועי חיפוש ואפליקציות ניווט. עבור מערכות מסוג זה החוקרות הגדירו את החמימות של המערכת על-ידי המרוויח העיקרי מהשימוש בה. כלומר, את מי המערכת שמה בראש סדר העדיפויות. לדוגמה, דמיינו שאתם בדרך הביתה, אתם מפעילים את אפליקציית הניווט החביבה עליכם, ובוחנים את הדרך שהיא מציעה. יש לכם תחושה חזקה שזאת לא הדרך המהירה ביותר אלא שהאפליקציה מנסה לבדוק על חשבונכם האם יש פקק בכבישים בסביבה או ללמוד על מהירות הנסיעה בכבישים צדדיים. תחושה כזו מעידה על תפיסת חמימות נמוכה של המערכת שכן אנחנו לא בטוחים שהמערכת פועלת לטובתנו.
החוקרות מצאו שתפיסת החמימות של המערכת היוותה שיקול חשוב בעיני משתמשים פוטנציאליים והשפיעה יותר על בחירת הצרכנים מתפיסת היכולת של המערכת. מרבית האנשים העדיפו מערכת חמה על פני מערכת בעלת יכולות טכנולוגיות גבוהות. העדפה זו נמשכה גם כאשר המערכת החמה הייתה בעלת נחיתות טכנולוגית מוצהרת. כך לדוגמה, כאשר התבקשו לבחור בין שתי מערכות שממליצות על ביטוח רכב, מרבית המשתתפים בניסוי העדיפו מערכת עם יכולת נמוכה (המבוססת על אלגוריתם בסיסי יחסית שאומן על אלף החלטות קודמות) וחמימות גבוה (פותחה עבור אנשים כמוהם) על פני מערכת עם יכולת גבוהה (המבוססת על אלגוריתם חדשני שאומן על מיליון החלטות קודמות) וחמימות נמוך (פותחה עבור סוכני ביטוח). באופן דומה, מרבית האנשים העדיפו מערכת המלצת סרטים בעלת אלגוריתם נחות אבל כזו שמתבססת רק על מידע שמגיע מהם על פני מערכת בעלת אלגוריתם מתקדם שמתבססת גם על מידע המגיע מהם אך גם מנסה לקדם סרטים מסוימים. כלומר, צרכנים מוכנים לוותר במידה מסוימת על היכולת של המערכת אם הם מאמינים שהיא ידידותית ופועלת לטובתם.
ממצאים אלו דומים לממצאים המתקבלים במחקר על אינטראקציות בין בני אדם, שכן גם בשיפוט של בני אדם אחרים תפיסת החמימות מקבלת עדיפות על תפיסת היכולת. לאנשים חשוב קודם כל כוונות ההתנהגות של האדם העומד מולם ורק לאחר מכן היכולת שלו לפעול בהתאם לכוונותיו. מכאן ניתן ללמוד כי אנשים משתמשים באותם חוקים חברתיים כדי לשפוט בני אדם ומערכות מבוססות בינה מלאכותית, גם כאשר מערכות אלו אינן בעלות מאפיינים אנושיים. באופן טבעי, הפוקוס של מפתחי מערכות בינה מלאכותית הוא היכולת הטכנולוגית של המערכת ושל האלגוריתמים בפרט. עם זאת למפתחים כדאי להקדיש תשומת לב גם לחמימות של המערכת ולאופן שבו הם מציגים אותה לצרכים פוטנציאליים.
ועוד על המחקר בפודקסט "שלושה שיודעים" של כאן-תאגיד השידור הישראלי. (דקה: 1:19:34)
