לפני כמעט שלוש שנים הסתכסך איליה סוצקבר, המדען הראשי של OpenAI והמוח שמאחורי ChatGPT, עם מייסד החברה סם אלטמן - וכמעט והדיח אותו מהחברה. מאחורי הוויכוח בין השניים עמדה אידאולוגיה: סוצקבר, שראה את OpenAI כארגון ללא מטרת רווח, ביקש להגביל את מודלי השפה כדי להפכם לבטוחים ככל האפשר, ולמנוע פיתוח מהיר מדי שיביא עימו סכנה לציבור. אלטמן, שתמך בהפיכת הארגון לחברה מוטית רווח, חשב אחרת.
● אנתרופיק בדרך להנפקה הגדולה מכולן. החידה: בכמה היא מסבסדת לכם את קלוד
● הברומטר של ה־AI: דוחות אנבידיה יכריעו בוויכוח שמפצל את וול סטריט
בסופו של דבר הייתה ידו של אלטמן על העליונה - המשקיעים החזירו את המייסד לשולחן המנכ"ל, אישרו את תהליך הפיכת הארגון לחברה וסוצקבר עזב - רק כדי להקים סטארט־אפ חדש שלטענתו יחולל מהפכה בעולם הבינה המלאכותית: מודל שפה בעל מצפון ומרווח ביטחון, כזה שיהיה מודע לסכנות למשתמשים האנושיים, ילמד מהן ויזהר מהן לעתיד לבוא.
בטיחות, אמינות והתאמה לערכים אנושיים
במהלך השנתיים האחרונות גייס סוצקבר - ישראלי לשעבר שאת התואר הראשון שלו השלים באוניברסיטה הפתוחה - 7 מיליארד דולר לחברה שהקים, סייף סופר־אינטליג'נס (Safe Superintelligence), או SSI בקיצור; היא תציע מודל שפה שמתחרה בזה של הענקיות דוגמת פייבל וקלוד של אנתרופיק, GPT של OpenAI. הוא גייס מעל ל־50 עובדים, מהם גם כמה בישראל, והביא את אנבידיה להשקיע כ־5 מיליארד דולר בחברה, ככל הנראה בהשקעה שחוזרת אליה באמצעות רכישת מעבדים גרפיים.
סוצקבר טוען כי בעוד ששאר החברות עוסקות בהגדלת כוח המחשוב של המודלים שלהם ובהוספת עוד ועוד יחידות עיבוד AI (פרמטרים) - המודל של SSI יתמקד בבטיחות, אמינות והתאמה לערכים אנושיים. אולם עד כה נותרה פעילות החברה בגדר חידה: יתר על כן, לפי ההערכה כמה מהמשקיעים שעומדים מאחוריה - משקיעי ענק כמו אנבידיה, אלפאבית, סקויה, אטריידס, גרינאוקס ויורי מילנר, כמו גם משקיעים ישראלים דוגמת אוור קראוד ו־ונצ'ריזראל - לוחצים על סוצקבר להראות התקדמות כלשהי לכיוון השקת מוצר.
הוא עצמו שומר על שתיקה, אך אחד המשקיעים בחברה, מייסד קרן אטריידס גאווין בייקר, חשף כי SSI מתכוונת להשיק את מודל השפה הראשון שלה עד סוף החודש הנוכחי - כלומר במהלך השבוע הקרוב. כמה מומחים בתחום הבינה המלאכותית אף טוענים כי המודל כבר הושק בחשאי וכי הוא נמצא בשלבי התנסות ובחינה של מקורבים לסוצקבר.
ד"ר חאדמי נורי, אחד החוקרים הבכירים במעבדת הבינה המלאכותית באוניברסיטת טורונטו, המקום שבו השלים סוצקבר את הדוקטורט שלו, הודה בציוץ ברשת אקס כי הוא קיבל גישה למודל של חברה אלמונית השומרת על פרופיל נמוך, ואמר כי "נראה שהם פתרו את הבעיה אחת ולתמיד - המודל הוא בעל הקשר בלתי מוגבל - הוא יודע עליי ועל כל מה שכתבתי ב־15 השנים האחרונות הכול. איך הם עשו את זה?".
לפתור מגבלות הקיימות במודלים האחרים
למרות הספקולציות, מומחי בינה מלאכותית מעריכים כי הפיצוח של SSI כולל יותר מאשר בנייה של מודל AI בטוח יותר - להפך, כלל לא בטוח שהחברה הצליחה במשימה הזו. אולם במקום זאת, נראה כי היא פתרה כמה מגבלות שקיימות גם במודלים החכמים ביותר של אנתרופיק או OpenAI - המרכזי ביותר הוא "קיפאון הידע" של מודלי שפה - כלומר הידע שמפגינים המודלים הקיימים מתקבע ברגע שהסתיים האימון המקדים שלהם, ובכל פעם שמעלים להם מסמך או מספקים להם הוראות חדשות, הם לא לומדים את המידע החדש - אלא מחזיקים אותו במעין חלון טקסט מנותק שנעלם כשהשיחה מסתיימת.
כדי לפתור בעיות מורכבות - המודלים חושבים זמן רב יותר אך מבנה ה"מוח" שלהם - משקלות המודל, הקובעות כיצד יגיב לשאלה - לא משתנות. הפתרון הנראה של SSI, לעומת זאת, מאפשר לעדכן את המשקלות של המודלים בזמן אמת תוך כדי קריאת מסמך.
לטענת המומחים, המודל אמור להיות גם בטוח יותר כתוצאה מכך: אם הניסיונות הקודמים ללמד את המודלים תוך כדי תנועה הביאו לאובדן מידע בלתי נשלט או איבוד הרסן הבטיחותי - הרי שלפי ההערכות, SSI הצליחה לפתור את הבעיה הזו. אם תצליח SSI במשימה שלה, מדובר במהפכה שיש לה השלכה אפשרית גם על כמות המעבדים שענקיות הבינה המלאכותית יידרשו לרכוש: מודלי השפה יהפכו להיות יעילים יותר ויתרון הגודל יופחת.
"הלמידה התמידית עשויה להיות מכשול"
אורי אלייבייב, יועץ בתחום ה־AI לא סבור ש־SSI תקדם את המודל שלה כתחליף למודלים המתקדמים של אנתרופיק או OpenAI בשלב הראשון, אלא תיצור נישה חדשה: "המודל של SSI לא בהכרח יהיה טוב יותר ולא בהכרח יוכל לשמש כתחליף - הוא יתמקד בבחינת השימוש במודלים רזים שלא מצריכים כוח עיבוד חזק ויאפשר להם להשתפר עם הזמן. עם זאת, העובדה שהוא מתאים את עצמו אישית למשתמשים יכולה לאפשר לו להגיע לרמה של המודלים הכי חזקים. זאת מאחר שהוא ילמד כל אחד מאיתנו תוך כדי תנועה". עם זאת, מציין אלייבייב, אין כל ערובה או הוכחה לכך שהמודל של סוצקבר יהיה בטוח יותר: "הלמידה התמידית שלו עשויה להיות מכשול ולשנות את אופיו באופן לא צפוי", הוא אומר.
