הוא פרופסור ויזם סדרתי ובטוח שהבעיה של AI "לא שהיא חכמה מדי, היא טיפשה מדי"

פרופ' יואב שוהם, בפברואר פרסמת מאמר במגזין Fortune שבו כינית את הדרך שבה ארגונים עובדים כיום עם AI כ־Prompt and pray, כלומר עליהם להתפלל ש־AI תספק תשובה אמינה. אמרת שאתה הכי מוטרד שהיא "טיפשה מדי". למה הכוונה?
"הכוונה היא שאי אפשר לסמוך עליה, במיוחד במשימות מורכבות. בעולם העסקי, אם אתה מבריק 95% מהזמן ומדבר שטויות 5% מהזמן, אתה מת".

● הצוללת | הוא היה אחד הבכירים בהייטק, ויש לו המלצה חשובה: אל תלמדו את המקצוע הזה
● הצוללת | מייסד למונייד בטוח: אלה המקצועות שיישארו חסינים ומה כדאי לצעירים ללמוד
● הצוללת | "חייבים את זה לעצמנו": הבכירה שמסמנת את התחום הבא שבו ישראל עומדת לעשות מהפכה

איך זה בא לידי ביטוי בשטח?
"יש חברות שבוחנות מאות פרויקטים בתחום ה־AI ומביניהם מגיעים בסוף להשקה רק מספר קטן - 6% בלבד לפי סטטיסטיקות של AWS (פלטפורמת מחשוב הענן של אמזון - ה"ו וא"ג). הסיבה המרכזית לכך היא חוסר הדיוק של המודלים, כי מצד אחד הם מבריקים ומצד שני לפעמים הם ממציאים שטויות מוחלטות. אתה אפילו לא יכול לזהות אותן, כי בתוך הטקסט הגדול שקיבלת מוחבאים דברים שגויים ומומצאים".

מודל השפה שלכם, ג'מבה, הוא הגדול היחיד שפותח בישראל. מודל שפה גדול (LLM) נמצא בבסיס רבים מהצ'טים המוכרים לנו, ChatGPT ואחרים. ג'מבה לא עושה טעויות?
"מדובר בקרוב לאפס טעויות. בארגונים שעובדים עם ג'מבה כמעט לא נתקלנו בהזיות. אנחנו עובדים, למשל, עם הבנק הדיגיטלי וואן זירו. יש להם שירות לקוחות מבוסס AI והם רוצים לתת תשובות אוטומטיות מהימנות ללקוחות. אפשר לחשוב על שאלות כמו 'מה היתרה שלי בעובר ושב?' ו'מהו אפיק ההשקעה שהכי מתאים לי'".

אבל נדמה שג'מבה משתרך מאחור. אנחנו לא רואים אותו בראש הטבלאות של דירוגי המודלים, כמו Hugging Face. במקומות הראשונים מופיעים המודלים של Open AI, מטא, אנתרופיק, עליבאבא ומיסטרל הצרפתית.
"אנחנו עובדים מול ארגונים, Enterprises, והם פחות מסתכלים על הדירוגים האלה. לא השקענו בצ'ט AI שפונה לקהל הרחב, דבר שתורם לחיזוק המיתוג של אותן חברות (שמובילות בדירוגים - ה"ו וא"ג). זה בנה להן ערך. האם טעינו כשלא השקנו צ'ט? אני לא יודע. זה יקר מאוד וכרוך בהמן עבודה. אז השאלה היא אם אנחנו רוצים לגייס עוד כמה מאות מיליונים ולעשות את זה. ב־AI21 לא השקענו עד עכשיו הרבה במיתוג ואנחנו פועלים לשנות זאת".

 מימין: פרופ' אמנון שעשוע, מייסד שותף של AI21; פרופ' יואב שוהם, מנכ''ל שותף ומייסד שותף; ואורי גושן, מנכ''ל שותף ומייסד שותף / צילום: עומר הכהן

בשבוע שעבר השקתם את מערכת מאסטרו, שעוזרת לארגונים לצמצם טעויות בשימוש גם במודלים מתחרים לכם, כמו GPT וסונט, המודל של קלוד. זה צפוי להיות כיוון דומיננטי של החברה?
"כן, זה העתיד של התעשייה. במודלים השונים תמיד תהיה מידה של חוסר דיוק. לכן מה שחסר הוא מערכת AI שמוסיפה בקרה ומגדילה את האמינות".

האם מבחינתך החברה היא הצלחה? היא בדרך לרווחיות?
"אני אף פעם לא מרוצה. ביום שבו אפסיק להיות מודאג, המשקיעים שלי יצטרכו לדאוג. בכל מקרה, זה שלב מוקדם מדי להגדיר אם זו הצלחה או לא. לגבי רווחיות, רוב החברות שתדברי איתן בתחום - זה מושג שהן לא יודעות לאיית".

מהו היעד מבחינתך?
"היעד שלי הוא ליצור את ה־AI החכמה בעולם, שארגונים ישתמשו בה בצורה אמינה ושיוכלו לסמוך עליה כמו שסומכים על טכנולוגיה קלאסית. אם כל ארגון בעולם ישתמש בתוכנה שלנו, זו הצלחה".

המתחרות שלכם, כמו OpenAI ואנתרופיק, מגייסות מיליארדי דולרים בכל שנה ומטפסות לשווי של עשרות מיליארדים, וזה לא קורה אצלכם. גייסתם עד כה מאות מיליוני דולרים בלבד.
"כסף חשוב, אבל הוא לא חזות הכול. ליצור מודלים שעוסקים בלצייר חמור על הירח פחות מעניין אותנו. אנחנו לא משחקים את המשחק שאומר: נזרוק כל דאטה שאפשר למצוא על מספר גדול של מעבדים ונראה מה קורה,ועל הדרך נשיק צ'ט שהוא Crowd Pleaser. הטכנולוגיה שלנו, שהיא חכמה מאוד, לא דורשת את הפזרנות הזאת. הסכום שגייסנו עד כה, 336 מיליון דולר, זה עדיין כסף. אבל זה לא מיליארדים".

"הפעילות של רשתות נוירונים פשוטה מהמוח"

לפני כשנתיים פרופ' ג'פרי הינטון, חלוץ בתחום רשתות נוירונים (שהן הבסיס של הבינה המלאכותית היוצרת), עזב את גוגל כדי להתריע על סכנות ה־AI. אתה מכיר אותו באופן אישי. מה דעתך?
"יש לי הערכה רבה לג'ף, אבל אני חולק עליו. האם מכונות יוכלו להתחרות באינטליגנציה שלנו? זו שאלה מאוד מאוד פתוחה. הדעה שלי היא שאף אחד לא באמת יודע. שווה לחשוב על זה. אבל מכאן עד להודעות האבל על המין האנושי אני חושב שהמרחק גדול".

מה הניחוש שלך?
"הניחוש שלי הוא שבטווח הקצר, 20 השנים הקרובות, מכונות יעצימו אותנו יותר ויותר ונוכל לעשות דברים שלא יכולנו לעשות קודם. יש דברים שאנחנו לא נעשה כי הן עושות טוב מאיתנו. זו טיבה של הטכנולוגיה. בטווח הארוך, דהיינו 200 שנה, תעלה השאלה איפה עובר הגבול בין אדם למכונה - בין שזו תקשורת בין מוח למכונה ובין שמדובר במכונות שמוטמעות בגוף שלנו. לכן השאלה היא עמוקה: לא אם המכונות יחליפו אותנו, אלא איפה עובר הגבול בינינו לבינן".

במסגרת הסדרה על AI התראיין בצוללת גם מנכ"ל למונייד דניאל שרייבר, שאמר: "אין דבר שאפשר לעשות במוח האדם ואי אפשר לעשות בסיליקון". אכן?
"האם המכונה חושבת כפי שאנחנו חושבים? אף אחד לא יכול לתת לך תשובה מוחלטת. המוח האנושי הוא מערכת מורכבת להפליא. ככל שאנחנו מעמיקים בהבנתו, אנחנו דווקא מגלים כמה מעט אנחנו יודעים עליו. הפעילות של רשתות נוירונים מלאכותיות פשוטה בהרבה ממה שקורה במוח האדם".

בכל זאת, אילו סכנות שגלומות ב־AI מטרידות אותך?
"הדבר שהכי מטריד אותי הוא לא ש-AI חכמה מדי, אלא שהיא טיפשה מדי. היא עושה דברים נהדרים, אבל היא גם יכולה להיות טיפשה כמו נעל, כי כשהיא טועה, היא לא טועה בקטנה. היא מדברת שטויות מוחלטות.

"מה שמטריד אותי ברמה החברתית הוא השחיקה של שכבת האינפורמציה שהיא הבסיס של הדמוקרטיה הליברלית. אני לא אוהב את המושגים פייק ניוז או פוסט־אמת, אבל אנחנו חיים בעידן של הצפת מידע. חלקו תמים ונכון, חלקו תמים ושגוי, ויש יותר ויותר מידע לא תמים. לכן קשה יותר ויותר לדעת מה נכון.

"מה שמאוד מפחיד הוא היכולת של AI לדבר ממש כמו אנשים מסוימים בסאונד ובווידאו. זה נוגע במשהו בסיסי מאוד אצלנו. כשאני מסתכל עליכם עכשיו, אני רואה שזה אתם. כשאני צופה במישהו מוכר בטלוויזיה, אני מבין שזהו הוא. אבל אני לא יכול לסמוך על זה. זה מה שמדיר שינה מעיניי".

תלמידו של הינטון וממייסדי Open AI, איליה סוצקבר, הקים לפני כשנה חברה בשם Safe Superintelligence (SSI), שיש לה גם משרדים בתל אביב. המטרה היא למנוע מ־AI להתקדם למקומות מסוכנים. יש מקום לחברה כזו לדעתך?
"אחרי שעזב את Open AI, היה ברור שסוצקבר לא ישב בבית ויסרוג. מה הוא יודע לעשות? הוא יודע לעשות AI ולאמן רשתות בעלות גבוהה מאוד. החברה שהקים היא לא פילנתרופית, אלא למטרות רווח. לכן צריך לראות מה היא תעשה בפועל, אני מניח שמשהו מעניין".

מה ישראל יכולה ללמוד מצרפת?

אתה מייעץ לתוכנית הלאומית לבינה מלאכותית. מבקר המדינה קבע שלישראל אין אסטרטגיית AI, אין לה מחשב־על והתקציב נמוך מאוד - כמיליארד שקל בלבד עד 2027. היא גם ירדה בדירוגים הבינלאומיים בתחום.
"את המדדים האלה עלינו לקחת בעירבון מוגבל. אני מכיר אותם היטב כי בניתי אינדקס מסוג זה שהוא המוביל בעולם, Global AI Vibrancy Rankings. לגבי הדוח מבקר, אגיד כך: יש לנו בסיס טוב להתחלה. יש חוקרים טובים באקדמיה ויש חברות AI טובות.

"אני מבדיל בין חברות שמייצרות AI לבין חברות שצורכות AI, ששתיהן חשובות. יש לנו יותר חברות שצורכות AI מאשר מייצרות (AI21 או מלאנוקס שנמכרה לאנבידיה הן מייצרות - ה"ו וא"ג), וכך זה בכל העולם. יש בישראל התחלה של בניית תשתית, כמו מרכזי חישוב גדולים (Data centers) ותשתית מחקרית באוניברסיטאות. אם זה ייעצר בכך, זה לא יהיה מספיק".

נתמקד לרגע בחוקרים הישראלים.
"אם תסתכלו על מספר החוקרים באקדמיה בישראל שעוסקים בליבת AI, לא תגיעו ל-100 חוקרים. באוניברסיטת סטנפורד (שם לימד שוהם במשך 28 שנה - ה"ו וא"ג) לבדה יש 100 חוקרים שעוסקים בכך. ישראל זקוקה למספר גדול יותר. כמה? אני לא יודע, אבל לפחות כפול. יש מאמצים להגדיל את המספר כיום. התקציב הכולל שאושר עד היום לתוכנית הוא מיליארד שקל. זה עדיין תקציב קטנטן".

מה הסכום הדרוש?
"פי עשרה. אני אומר את זה בענווה, כי בישראל השמיכה קצרה ולא לי לקבוע את סדרי העדיפויות. אנחנו לעולם לא ננצח את ארה"ב או את ערב הסעודית או איחוד האמירויות במספר המעבדים הגרפיים, ועדיין המשאבים צריכים לגדול. ישראל צריכה ליצור את הקשרים הנכונים מול גופים ברחבי העולם, כדי שתהיה לנו הנגישות לכוח עיבוד וכדי לתרום לעולם מהחוכמה שיש לנו".

איחוד האמירויות משקיעה הון ברכישת מעבדים גרפיים ובבניית חוות שרתים ותחנות כוח סולאריות וגרעיניות.
"זה בדיוק מה שאנחנו לא יכולים לעשות. אין לנו לא את הכסף לכך ולא את האנרגיה. כן יש את המשאבים המשלימים: היכולות האלגוריתמיות והיכולת לפתח טכנולוגיה על בסיס זה. אלה הדברים שאנחנו מאוד טובים בהם, ואלה הדברים שאנחנו צריכים להצטיין בהם".

משרד ראש הממשלה מתכוון להקים מטה חדש ל־AI, כנראה כי בעיניו התוכניות שהיו עד היום, כולל התוכנית הלאומית, לא מספיקות ולא מתאימות. מה דעתך?
"כיום יש תוכנית פעילה ומתפקדת, וחשוב להבין זאת. פורום תל"ם שמוביל אותה כולל את הוועדה לתכנון ותקצוב (ות"ת), מינהל פיתוח אמצעי לחימה ותשתיות טכנולוגיות (מפא"ת), רשות החדשנות ומשרדי האוצר והמדע. הפורום קיים, ולדעתי ככל שתהיה יותר רוח גבית מצד הממשלה ויותר משאבים, כך ייטב. אגב, דוגמה טובה למדינה שהצליחה להצעיד קדימה את תחום ה־AI היא צרפת ואפשר ללמוד ממנה".

מהי האסטרטגיה שנקטו בצרפת?
"הנשיא מקרון החליט ש־AI היא תחום סופר־חשוב והוא דאג להקצאת משאבים ולהעלאת הפרופיל הבינלאומי. כדי שמדינה תוכל להצטיין בתחום, אנשי מקצוע ענייניים צריכים להוביל אותו. צריך להיות להם קל לעשות זאת - כלומר ללא סרבול, ללא ביורוקרטיה וללא פוליטיקה".