"פאניקה בפייסבוק": האמת על האירוע שעורר סערה ברשת

הכותרות הזהירו: "בינה מלאכותית שנוצרה במעבדות פייסבוק זרעה פאניקה ונוטרלה ברגע האחרון" ■ אלא שהמציאות סביב האירוע שהתרחש לאחרונה הרבה פחות מאיימת, ודווקא עשויה ללמד אותנו לא מעט על הדרך שבה מחשבים לומדים לתקשר עם בני אדם

פייסבוק, כתיבה, מחשב / צילום: שאטרסטוק
פייסבוק, כתיבה, מחשב / צילום: שאטרסטוק

כותרות העיתונים ואתרי האינטרנט זעקו לא מכבר: בפייסבוק נוטרלה בינה מלאכותית שהחלה לדבר בשפה לא מוכרת! הכותרות זרעו פאניקה שלוותה מיד בשלל אזכורים של סרטי מדע בדיוני על בינות מלאכותיות שיצאו משליטה, כמו "מטריקס", "שליחות קטלנית", "אודיסאה בחלל" ועוד. המציאות, מסתבר, מפחידה וצבעונית הרבה פחות ממה שעשו ממנה - אבל עדיין מעניינת.

המהנדסים בפייסבוק למעשה ניסו ללמד את תוכנת המחשב להתמקח בשפה טבעית, כדי שיוכלו למקסם את הרווח מהמכירה או הקנייה. מיומנות כזאת תהיה כמובן יעילה במיוחד עבור מפעילי אתרי מכירות, בפייסבוק ובמערכות ממוחשבות אחרות.

בעזרת שיטה של למידת חיזוק קיבלו הרובוטים מקבץ של תמלולי התמקחות של משתתפים אנושיים, ואלגוריתם היה אמור להוביל אותם לפתח שיטת מיקוח יעילה עם קונים ומוכרים עתידיים. במסגרת תהליך הלמידה שני עותקים של התוכנה התמקחו ביניהם, תוך מתן "ערך" לכל תוצאה עתידית של ההתמקחות. כך יכלה התוכנה לייעץ על הדרך שתוביל לתוצאה עתידית מוצלחת יותר.

מה שהמהנדסים שכחו לעשות היה להגביל את התוכנה לשימוש בשפה נכונה תחבירית. לאחר כמה חזרות, שבמהלכן קיבלה התוכנה שרשרת של החלטות כדאיוּת, נוצר מצב שבו שני הצדדים השתמשו בשברי משפטים שאינם מרכיבים משפט נכון תחבירית, אך עדיין מאפשרים להעביר מידע ולסיים את המיקוח בהצלחה. לאחר שתוקנה הטעות, הרובוטים הגיעו לתוצאות מרשימות למדי, כפי שהתפרסם במאמר אקדמי שפרסמו, וברשומה בבלוג של פייסבוק.

בעניין דומה, התפרסם בעבר כי מנוע התרגום של גוגל משתמש ב"שפה נייטרלית" שהמציא כדי לתווך תרגומים בין זוגות של שפות. גם במקרה הזה אמנם מדובר בצעד טכני מעניין, שממיר משפטים בשפת הקלט לייצוג ביניים לפני תרגומם לשפת הפלט, אך בניגוד לכותרות המרעישות - בהחלט לא מדובר בשפה חדשה שמתיימרת להחליף את כל השפות בעולם.