"חושבים ש־AI יפתור לנו את הבעיות, אבל בהדרגה נאבד את הקשר לקבלת ההחלטות בעולם"

משה מורגנשטרן, מנהל חטיבת טכנולוגיות במגדל ביטוח ופיננסים, דיבר בכנס ההשקעות של גלובס על חדירת הבינה המלאכותית לשווקים. לדבריו, "ההבדל הכי גדול בין כל הטכנולוגיות שייצרו עד היום לבינה מלאכותית, הוא שב־AI אתה בהגדרה לא יכול לצפות מה תהיה התוצאה. הסיכוי ברור - אתה יכול לקבל תשובות טובות בהרבה משל המוח האנושי. אבל יש סיכון בקצה".

● כנס ההשקעות של גלובס | מנכ״ל בנק ירושלים: "רואים עלייה בביקוש של תושבי חוץ לדירות, מאמין שנראה גל עלייה לישראל"
● כנס ההשקעות של גלובס | ראש אגף התקציבים: "ניסינו לבנות את ה'גזירות' בצורה שוויונית, אבל האילוצים הפוליטיים שינו את העמדה המקצועית"
● כנס ההשקעות של גלובס | רונן אגסי, מנכ"ל מגדל: "פתרון אזורי למלחמה יכול להוביל לצמיחה דו ספרתית"

את הסיכון הזה הדגים מורגנשטרן כך: "כמה שעות אחרי שהעלנו תוכנה שמשתמשת ב־AI, קיבלתי הודעות בסגנון 'אתה מביך את עצמך' ו'תוריד את זה מהאוויר'. ובאמת התשובות של התוכנה היו קצת משעשעות. אבל זה חלק מהדרך. זה הסיכון שצריך לקחת".

מורגנשטרן התריע כי "יש אנשים שחושבים ש־AI יפתור לנו את כל הבעיות, אבל אנחנו נגלה שלא כך הדבר. הסיכון הגדול באמת של AI הוא שנפסיק לדעת מה אמיתי יותר ומה פחות. הסיכון הגדול הוא לא שנראה רובוטים ברחובות או שהם ישעבדו אותנו, אלא שנאבד בהדרגה את הקשר לקבלת ההחלטות ואת הסיבה והתוצאה. ברגע שכבר לא נבין למה דברים קורים - אז בעצם כבר לא נשלוט כמעט בכלום".

לדבריו, "ככל שיחלפו החודשים והשנים, לא נוכל שלא להשתמש במערכות AI. הן יתעצמו ויאכלו הרבה מאוד דאטה. אנחנו לא נשבור את התוצאות שלהם, ובנקודה הזו מחשבים שידברו עם מחשבים ישלטו יותר ויותר בגורל שלנו. לא נדע מה נכון ומה לא נכון, וזה הסיכון הגדול. עם זאת, למרות שהסיכון הוא מאוד גדול, האימפקט שאפשר לייצר לטובת האנושות הוא עצום".

"כגודל הסיכון גם גודל התשואה"

מורגנשטרן סיפר כי "לפני מספר חודשים, 350 מהמדענים המובילים בעולם - מחברות כמו גוגל, קלוד וכל מי שאנחנו מכירים - חתמו על הצהרה מאוד קצרה, בת 22 מילים. לפיה, ממשלות צריכות לשים לב ולטפל בסיכונים של בינה מלאכותית, בראש סדר העדיפויות, כמו פצצות גרעיניות וכמו מגפות. על פניו נשמע כמו איזשהו חזון אפוקליפטי. אבל כמו שאמרנו קודם, כגודל הסיכון גם גודל התשואה והאימפקט שזה יכול לייצר בהרבה מאוד תחומים".

"בהמון חברות שנותנות שירותים, בטח בעולמות הפיננסים הביטוח, אנחנו יכולים לראות את השפעת הטכנולוגיה על הלקוח בקצה שצריך משהו. למשל, הוא רוצה לקחת הלוואה, או הוא רוצה להצטרף לביטוח, או לברר מידע. מולו יש את הפקיד המומחה שיודע לתפעל את כל מה שהלקוח רוצה ולקבל החלטות וליישם. בעולם הישן, חלקנו עוד זוכרים שהיינו צריכים להרים טלפון לפקיד או היינו צריכים להגיע ולפגוש אותו. ואז הגיע הטרנספורמציה הדיגיטלית שבעצם לקחה את החלק שבין לקוח הקצה לבין אותה חברה או שירות שהוא רוצה לקבל, והתחילו לייצר אוסף של תהליכים דיגיטליים. ועכשיו הבינה המלאכותית לוקחת את התהליך צעד אחד קדימה".

מורגנשטרן מסביר כי ה־AI "מצמצמת לאט לאט את המקומות שבהם אנחנו צריכים להפעיל נציג, כי המחשב יכול לקבל החלטות במקומו". הוא צופה כי מנועי ה־AI יובילו לצמצום עולמות תוכן בשירותים דיגיטליים, שיילכו וייעלמו. "למעשה, כל העולם של אפליקציות, גם בצד הלקוח וגם בצד של הארגונים, ייעלם מהעולם בהדרגה, כי פחות יהיה בהם צורך. יהיה איזשהו גורם מלאכותי, שנוכל לדבר איתו בשפה שהיא שפה חופשית. וזה לא חזון רחוק, זה יכול לקרות בעוד שנה־שנתיים".

***גילוי מלא: הכנס בשיתוף מגדל, בנק ירושלים, פאגאיה ופרופימקס