מכונת הוויכוח של IBM: הגיונית ומצחיקה, אך הדרך עוד ארוכה

שש שנות פיתוח הולידו מכונה שיודעת להתווכח עם בני אדם. בדיבייט שנערך אתמול בישראל היא הפסידה ליריביה האנושיים, אך נשפטה כאילו היא אחת מהם - ופה טמון ההישג המרשים באמת

הדיבייטור יער בך ד"ר רנית אהרונוב ד"ר נעם סלונים / צילום: אור קפלן
הדיבייטור יער בך ד"ר רנית אהרונוב ד"ר נעם סלונים / צילום: אור קפלן

הם ניצבו זה מול זה - מצד אחד אדם ומצד שני מכונה - לשני סיבובי דיבייט על נושאים מורכבים ושנויים במחלוקת. המכונה היא ה-Debater ("המתדיינת"), תוכנת בינה מלאכותית מתקדמת, פרי פיתוח בן שש שנים של חוקרים ישראלים במעבדות IBM בישראל, שהוצגה אתמול באופן חד פעמי מחוץ לגבולות ארה"ב, על ידי ד"ר איה סופר, מובילת תחום הבינה המלאכותית ב-IBM העולמית. הדיבייטר ניסתה לטעון נגד רישות הערים במצלמות מעקב וטענה בזכות הזכות לפרטיות. מולה ניצב יער בך, קצין מודיעין במילואים ונשיא אגודת הדיבייט של המרכז הבינתחומי הרצליה, שניסה לשכנע בדעה הנגדית. הקהל כלל עיתונאי טכנולוגיה, שהוזמנו למופע "חי" במעבדה הרב תחומית לפיתוח תוכנה ומחקר של החברה בגבעתיים.

בך ניסח את עמדתו: "מפריע לי אם הבוס שלי יהיה זה שיידע את הסודות שלי, אבל לא אכפת לי אם פקיד או מישהו באי נידח יידע אותם, זה לא פוגע בפרטיות שלי באמת. כן למדע בדיוני, לא לאורוול". הדיבייטר, בתורה, ניסתה לשכנע את הקהל בהיגיון ולקנות את לב העיתונאים בהומור. היא שלפה מתוך מאגר של עשרה מיליארד משפטים את הטענה שמעקב המוני אחר אזרחים באמצעות מצלמות הפזורות בערים "לא מתאים לדמוקרטיה ומפר את האיזון בין הממשלה לאזרחים. צריך להיפטר ממנו כמו מזר פרחים לפני שהוא מתחיל להסריח". הקהל התאהב.

הסיטואציה שעשעה את חיה גולדליסט אייכלר, מנחת הדיבייט: "זו הפעם הראשונה שאני שומעת את הדיבייטר פונה נגד בני מינה", אמרה גולדליסט אייכלר, לשעבר יו"ר אגודת הדיבייט של האוניברסיטה העברית ויועצת מיוחדת לפרויקט הדיבייט של יב"מ. גולדליסט אייכלר התעמתה עם המכונה בעצמה בסיבוב הדיבייט השני, שעסק בשאלה מורכבת עוד יותר: האם להרחיב את גבולות המותר בהשבחה גנטית. בטיעוניה, גולדליסט אייכלר ניסתה לנגן על הרגש המוסרי - האם נכון מוסרית להימנע מגבולות לטכנולוגיה שתאפשר להורים לתפור לילדם חליפה גנטית כבקשתם? הדיבייטר, קולה מתכתי ומזכיר מחשבי-על גנריים מסרטי מדע בדיוני, לא התרשמה והלעיטה את הקהל בממצאי מחקרים שמצביעים על יתרונות הטכנולוגיה בחקלאות וברפואה.

המכונה נשפטה כאילו היא אנושית

מבחינה פילוסופית, האנושות עדיין לא החליטה האם ייתכן שמכונת בינה מלאכותית מתוחכמת תהיה בעלת תודעה. לכן, כמובן, הביטוי "לא התרשמה" - הוא לא יותר מהשלכה אנושית. האוזן האנושית לעומתה, בהחלט התרשמה.

קשה היה לחוש בזמן אמת עד כמה ביצועיה של המכונה היו מרשימים. מחשבי בינה מלאכותית נמצאים בתודעה לפחות מאז האל 9000, המחשב המניפולטיבי של ספינת החלל ב-"2001: אודיסאה בחלל" - שיצא לאקרנים ב-1968, כך שמה לעשות, היו לנו חמישים שנה להתרגל.

לכן צריך היה ממש להתרכז ולחשוב על ההישג, על מנת שיחלחל להכרה: בזמן שהעוזרים האוטומטיים של אפל, גוגל ואמזון עדיין עושים פדיחות של ילדים בני חמש, מערכת אוטומטית לחלוטין הצליחה להנדס בזמן אמת שלושה נאומים (פתיחה, דיון וסיכום) שיישמעו קוהרנטיים ואינטליגנטיים מספיק לאוזן אנושית מנוסה, עד כדי כך שהיא כמעט תביס את האדם בדעת הקהל. מצביע אחד אמר שאיכות ההגשה של הדיבייטר הייתה טובה יותר משל האדם, לעומת שישה שהצביעו לבן האנוש; שישה אמרו שרמת ההגשה של שניהם הייתה זהה; מצביע אחד אפילו השתכנע יותר מהדיבייטר מאשר מהאדם.

תופרת חתיכות טקסט לכדי נאום

איך הם עשו את זה? "דיבייטר מאתרת פיסות טקסט שיש להם שלוש תכונות - רלוונטיות לנושא, ארגומנטטיביות (לא סתם עובדות כלליות על הנושא) וכמובן שהן יתמכו בצד שלו (כדי לא לטעון בטעות בעד היריב)", הסבירה ד"ר רנית אהרונוב, מנהלת פרויקט הדיבייטר. "בשלב השני דיבייטר מבינה מהתוכן את האספקטים המרכזיים שהדיון מתנהל סביבם, וזה מאפשר לה לארגן את כל הטקסט, להפטר מחזרתיות, להקשיב ליריב ולבצע חיזוי על סמך הדאטה".

"פיתחנו יכולות רבות, שלוש מהן חשובות במיוחד", אמר ד"ר נעם סלונים, החוקר הראשי בפרויקט. "הראשון הוא לכתוב נאום אוטומטית לחלוטין על בסיס נתונים: המערכת מסתכלת על מאגר מידע גדול מאוד של עשרה מיליארד משפטים, וצריכה למצוא חתיכות קטנות של טקסט ואז להלחים אותן לנאום קוהרנטי ומשכנע; לצד זה, צריכה להיות לה יכולת של הבנת הנשמע ליריב שמדבר במשך כמה דקות בצורה ספונטנית וטעונת רגש, להבין את התמצית של מה שאומר ולהגיב בהתאם. לפעמים זה עובד יותר טוב ולפעמים פחות; ולבסוף, היכולת לבנות מודל לעולם הדילמות האנושיות כפי שמשתקף בוויכוחים. בכל יום במהלך השנים האחרונות בנינו בסיס ידע ייחודי שממדל דילמות אנושיות. כשהמערכת מקבלת נושא היא מנווטת בבסיסי הידע הזה כדי לזהות טיעונים עקרוניים כדי שהיא תוכל להשתמש בהם במהלך הדיבייט. פרסמנו כבר 30 מאמרים בנושא ויש עוד הרבה בקנה".

בדיוק כמו בן אדם, הדיבייטר עניינה לפרקים, שעממה לפרקים והצחיקה. התגובה הרגשית החזקה ביותר הייתה צחוק, מהול באימה ובספקנות. התגובה הזו התקבלה כשהדיבייטר אמרה: "אני לא מקבלת את חוסר ההתחשבות בזכויותיהם של בני אדם. ואם זה לא ברור אבהיר - לא רק שפריסת מצלמות מעקב מסוכנת ופוגענית, אלא שיש לסיימה ולא להסתפק רק בהפניית אצבע מאשימה. זו עמדה שחייבת להיות מבוססת על מידע ולא רק על תחושה. כפי שאמרה איין ראנד - ציוויליזציה היא שחרור בני האדם מהאדם". 

צרו איתנו קשר *5988