החוקרת מצוות הפיתוח של כיפת ברזל: "מודאגת מאופן השימוש בה, היא נשחקת"

הילה חדד-חמלניק, היית אומרת ששנת הלימודים שנפתחה בשבוע שעבר היא היא שנת ה-AI הראשונה, כזו שבה מנועים כמו ChatGPT, קלוד ומידג'רני יהפכו חלק משגרת חייהם של תלמידים ומורים בישראל?
"אפשר לומר זאת. היו ניצנים בבתי ספר מסוימים בשנה שעברה, אבל השנה זה כבר לא יכול להישאר ברמת הניצנים. בראייתי, היכולת כיום להשתמש בכלי Gen-AI מקבילה לידיעת קרוא וכתוב. בעוד שנה תלמידים שלא ידעו להשתמש בהם - הפרודוקטיביות שלהם והיכולת להתמודד אל מול מי שכן - יהפכו כמעט בלתי אפשריות להשוואה. זו שפה שצריך ללמוד".

בשנה האחרונה בנית תוכנית מיוחדת בג'וינט לאופן שבו יש להטמיע Gen-AI במערכת החינוך הישראלית. איך הכול התחיל?
"בדיוק כשסיימתי את תפקיד מנכ"לית משרד המדע, בינואר 2023, פרסמנו את התוכנית הלאומית לבינה מלאכותית, שנועדה בעיקר לקדם את המחקר והתעשייה בתחום. זה קרה חודשים ספורים אחרי שהושק ChatGPT, והתוכנית הלאומית כמעט ולא עסקה בהשפעת המודלים האלה על המשק. היה לי ברור שהעולם משתנה ושהקושי הגדול ביותר לעמוד בקצב של אימוץ הטכנולוגיה הזאת בידי צעירים יהיה במערכת החינוך. לכן החלטתי לכתוב הצעה שנותנת פתרונות למערכת החינוך, בהחרגה של האקדמיה. ברפורמה שכתבתי לא התייחסתי לסטודנטים".

למה הסטודנטים נשארו בחוץ?
"כי הם היו הראשונים לזהות עד כמה הבינה המלאכותית עוזרת להם לחסוך את זמנם באקדמיה. ידוע שסטודנטים הם העם העצלן ביותר, ואני אומרת את זה רק לטובה. אנשים עצלנים הם אנשים חכמים ויצירתיים".

בקיצור, לדברייך, אין טעם שמורים יאסרו או יגבילו שימוש ב-AI בכתיבת עבודות למשל.
"אין טעם להילחם בזה. אתן דוגמה. לפני המלחמה בניתי הרצאה שיועדה לסגל של אחת האוניברסיטאות בארץ (שלבסוף בוטלה בגלל פרוץ המלחמה - ה"ו). ביקשתי מהם שייתנו לי סילבוס של אחד הקורסים, והראיתי איך דרך אחד הצ'טים הנפוצים אני יכולה גם לסכם את כל הסילבוס וגם לכתוב נייר עמדה שמשלב חמישה-שישה מאמרים מתוך הקורס. הראיתי שאני מוכנה לענות על שאלות ממבחנים שאני המצאתי, כי הצ'ט יודע להגיד לבד מה הוא חושב שיהיו השאלות במבחן, ובעצם בתוך רבע שעה סיימתי את הקורס. אפשר להתווכח אם למדתי את הקורס או לא, אבל אי אפשר להילחם בסטודנט שהחליט שזה מה שהוא עושה".

אבל סוגיית הלמידה היא השאלה המרכזית כאן. האם בלי לתרגל אנגלית למשל, כי הצ'ט מתרגם עבורי במהירות, אוכל לשלוט בשפה במידה מספקת? אין חשש שהמיומנות הזאת תתנוון?
"אפשר להגיד באותה המידה שהמוח האנושי התנוון כשעזבנו את המגל ועברנו לטרקטור, ואחר כך כשעברנו ממכונת הכתיבה לתוכנת Word. אנחנו כל הזמן מאבדים מיומנויות ואז מרוויחים חדשות. אני כבר לא מסוגלת לשבת מול עמוד ריק במחשב ולהתחיל לכתוב. אני צריכה שהצ'ט יכתוב לי משהו, ועם זה אני מתחילה לעבוד".

בואי נגדיר מה זו אותה שפה חדשה של Gen-AI כפי שאת רואה אותה.
"זה לא הייפ. הפער בין סטודנט שכותב עבודות בשימוש מושכל בכלי Gen-AI לסטודנט שעובד לבד יהיה בדיוק כמו הפער בין מדינות שעדיין קוצרות חיטה עם מגל לבין אלה שעובדות עם טרקטורים ומכונות. אנחנו הרי רואים את ההבדלים בתמ"ג. זה שמים וארץ".

ברמה היותר טכנית - איך עובדת השפה הזאת?
"מנועי ה-Gen-AI מייצרים טקסט, או תמונות, לפי קונטקסט ועל בסיס מודלים סטטיסטיים. לכן כדי לקבל מהם את מה שאנחנו רוצים, המיומנות שצריך לפתח היא להגדיר להם במדויק את הקונטקסט הנכון, כדי שיכתבו את מה שרציתי שיכתבו".

תני דוגמה.
"הדוגמה שאני אוהבת לתת היא של שיעורי הבית של הבת שלי, ארבל. בשנה שעברה היא התבקשה לכתוב עבודה על אזור השפלה בישראל. היא בחרה להיעזר בצ'ט של קלוד, שעמו אנחנו עובדים בבית.

"היא התחילה לעבוד מול הצ'ט לבד, ובהתחלה זה לא כל כך הלך לה. היא כתבה לו: 'אני ילדה בכיתה ו' ואני צריכה לכתוב עבודה בת שני עמודים על אזור השפלה. כתוב לי בבקשה'. הצ'ט ייצר משהו לא אידיאלי, ובתגובה היא התחילה לנזוף בו: 'זה קצר מדי, זה לא טוב'. אמרתי לה: בואי נשב רגע יחד וניצור עבורך את הקונטקסט. תגידי לו מה את רוצה, מה צריך להיות בעבודה. בואי נכניס לצ'ט את ההנחיות שהמורה נתנה ותוסיפי את הדגשים שאת רוצה לתת.

"אחר כך היא ביקשה מהצ'ט לתת דוגמה ליצירת אמנות שקשורה לאזור השפלה. התשובה שהוא נתן הייתה: 'על כביש החוף' של נעמי שמר. לשמחתי, היה גם לה ברור מאוד שלא מדובר בשיר של נעמי שמר ושכביש החוף בכלל לא נמצא בשפלה. זו הייתה הזדמנות טובה לדבר על כך שהצ'ט לפעמים מחרטט בביטחון, ולכן תמיד צריך לבדוק מקורות ולהצליב ביניהם. לזה בדיוק אני מתכוונת כשאני מדברת על לימוד שפה חדשה".

אוקיי, אז ארבל כתבה עבודה בחצי שעה במקום בשלוש שעות. אבל האם הייתה שם למידה?
"בתחושה שלה היא דיברה עם מישהו. היא כתבה לבוט והוא ענה לה. חומר שנלמד דרך אינטראקציה מופנם הרבה יותר טוב מאשר חומר שרק משננים, כי זו צורת למידה שהיא אקטיבית. ככל שאנחנו יותר אקטיביים, כך אנחנו מפנימים יותר. למשל הסיפור הזה על 'כביש החוף' של נעמי שמר (השיר הוא של סטטיק ובן אל - ה"ו) - אנחנו עדיין צוחקות על זה בכל פעם שהשיר מתנגן ברדיו. לכן, בניגוד לכל חוזי השחורות, בעיניי כלי הבינה המלאכותית יכולים דווקא להביא אותנו ללמידה שהיא יותר משמעותית. כמובן, יש עוד הרבה שאלות פתוחות ויש גם הרבה סכנות".

מהן אותן סכנות? מה בעיקר מטריד אותך?
"מטריד אותי הסיפור של ההטיה המגדרית. מנועי ה-AI לא שוביניסטים בהגדרה שלהם, אבל מדובר במודלים סטטיסטיים שנשענים על כל הידע שקיים בעולם והידע הזה מוטה מגדרית בצורה משמעותית. למשל, אם מבקשים מהצ'ט לכתוב סצנה לסרט שמתרחשת בבית חולים, אז הרופא כנראה יהיה גבר והאחות תהיה אישה. אנחנו צריכים להיות מודעים להטיה הזאת ולדרוש ממנו לתקן אותה, בטח אם אנחנו מדברות על מערכת החינוך. לכן צריך לכתוב את הדברים ברור: 'תאזן בבקשה מגדרית ותוודא שאין הטיות'.

"עוד בעיה גדולה היא פייק ניוז. פייק ניוז גם יכול להתקבל כתשובה, וגם אפשר לייצר פייק ניוז ולהפיץ אותו דרך המנועים השונים".

באחרונה טראמפ הפיץ תמונה שהונדסה ב-AI שבה רואים את הזמרת טיילור סוויפט עם כובע אדום שעליו הכיתוב: Make America Great Again. זו תמונה שנראית אמיתית לגמרי אבל מעולם לא צולמה.
"ואז מודלים של Gen-AI יכולים להיתקל בתמונה הזאת בעוד חמש שנים ולהתייחס אליה כאל אמת. מה שנקרא בשפת המתכנתים Garbage in - Garbage out (הזנה של איכות ירודה תייצר תוצאה באיכות כזו - ה"ו). לכן אנחנו צריכים להיות ביקורתיים כלפי התוצרים של המנועים האלה ולדעת להבחין בין מקורות אמינים ללא אמינים. זו מיומנות שמאוד חשוב ללמד גם את הילדים.

"עוד בעיה היא הפערים. יש ילדים כמו הבת שלי שיש להם אמא שיודעת להסביר איך לעבוד עם AI ויש כאלה שלא. יש הורים שנתרעים מכלי ה־AI גם באשכולות סוציו־אקונומיים גבוהים. הורים שלא נחשפים לכלים השונים לא בהכרח יכניסו אותם הביתה".

AI ומחשוב קוונטי יחלקו את העולם מחדש

איפה ישראל עומדת מול העולם בתחום השילוב של AI במערכת החינוך ובמשק בכלל?
"יש אינדקס של קרן המטבע (AIPI) שבודק את רמת המוכנות של מדינות לאמץ AI, ושם אנחנו מדורגים במקום ה־13 מבין 174 מדינות. אני חושבת שהם מאוד היטיבו איתנו ולא הביאו בחשבון תהליכים שהתרחשו כאן בשנתיים האחרונות, ואולי אפילו הסתמכו על המיתוג של ישראל כמדינת סטארט־אפ חדשנית. מכיוון שבתחום האימוץ של AI הפערים בין מדינות מאוד קטנים כיום, אנחנו יכולים בקלות להידרדר למקום 50, 60 ו־70.

"במדדים העולמיים, למשל בתחום הפיתוח של AI, אנחנו מדורגים די גבוה. באחרונה הידרדרנו מהמקום החמישי למקום השביעי, ואני מקווה שאחרי השנה האיומה שעברה עלינו לא נידרדר עוד.

"בכל מקרה, ההטמעה של AI במדינות השונות תייצר סדר עולמי חדש וחלוקה מחודשת בין מדינות מפותחות ומתפתחות".

זאת אומרת, את רואה קשר ישיר בין מובילות בפיתוח AI והשילוב שלו בתעשיות השונות במשק, כולל במערכת החינוך, לבין ביטחון לאומי.
"בהחלט. עד 7 באוקטובר כולנו ידענו לדקלם שישראל היא המדינה החזקה במזרח התיכון ובעלת יתרון טכנולוגי אדיר, הרבה מעבר לאויבים שלנו. זה עדיין נכון, אבל האירועים של השנה האחרונה הוכיחו שהאויבים גם מצמצמים את הפער די מהר.

"כבר לא צריך לשלוח בן אדם ספציפי לאוניברסיטה ספציפית בטהרן או אפילו ברצועת עזה כדי ללמוד למשל על פיתוח גרעין. אפשר ללמוד באמצעות ה-AI בזמן קצר, עם חומרי הלימוד הטובים בעולם. לאורך ההיסטוריה מדינות שחלשו על הטכנולוגיה חלשו גם על הניצחון. זה נכון תמיד ועוד יותר היום, כאשר הכול קורה מהר ובעוצמות גבוהות. לכן אנחנו חייבים לשמור על ההובלה הטכנולוגית מול האויבים ובעלי בריתם, כולל סין. זו הובלה שצריכה להיות בפער, לא בקירוב".

זה נכון גם לגבי מחשוב קוונטי. באחרונה רואיין לצוללת ד"ר יונתן כהן, ממייסדי חברת קוונטום משינס הישראלית, שדיבר על הקלות שבה הצפנות מודרניות יוכלו להיפרץ ברגע שיהיה מחשב קוונטי חזק מספיק.
"בהחלט. הרי איך עובדות הצפנות? אפשר לחשוב על קוד של ארבעה מספרים שנדרש כדי לפתוח מנעול. כל בן אדם יוכל לפרוץ את המנעול אם יהיה בידיו מספיק זמן. הוא יצטרך לנסות כל הקומבינציות האפשריות, עד שהקוד יפוצח. אבל אם יש ברשותך מעבד קוונטי, הוא ידע לעשות זאת במהירות רבה, עד כדי מצב שבו הוא יוכל לפצח כמעט כל צופן באופן מיידי. המשמעות היא שנצטרך להמציא מחדש את כל שיטות ההצפנה ויש לכך השלכות על כל עולמות הסייבר ואבטחת המידע.

"אפשר למוטט מדינה בהתקפת סייבר איכותית, באמצעות התקפה על הבנקים, מערכות המים או מערכות החשמל. לכן הקוונטום, בדומה ל-AI, גם היא טכנולוגיה שצפויה לשנות את הסדר העולמי".

"היתרון של יירוט בלייזר הוא ביכולת לנצח את הכלכלה"

כמי שהשתייכה לצוות הפיתוח של כיפת ברזל, איך את רואה את המערכת הבאה מגן אור (שנועדה להתמודד עם איומים "פשוטים" לכאורה, כמו פצמ"רים ורקטות לטווח קצר)? עד כמה היא מהפכנית?
"הרעיון הוא ליירט איומים באמצעות קרן לייזר במקום טיל, והיתרון המרכזי כאן הוא ביכולת לנצח את 'הכלכלה של המלחמה'. יירוט בלייזר הוא הרבה יותר זול ופחות מתכלה.

 טיל מיירט של כיפת ברזל. ''מקבלי ההחלטות מנצלים את אורך הנשימה'' / צילום: Associated Press, Ariel Schalit

"מגן אור (פיתוח של רפאל - ה"ו) אמור להיות השכבה הנמוכה ביותר במערך ההגנה האווירי, והוא מתווסף לשכבות קיימות כמו חץ 2, קלע דוד וכיפת ברזל. היא חופפת לחלק מהיכולות של כיפת ברזל, אבל מאפשרת אזורי הגנה נוספים וחיסכון במיירטים שלה. בסוף מקור העוצמה של ישראל נעוץ במערך ההגנה האווירי ולא במערכת בודדת כזו או אחרת. ראינו את ההוכחה לכך בליל הטילים האיראני".

אגב ליל הטילים האיראני, זו מתקפה שסוכלה כמעט במלואה - הצלחה מסחררת לישראל ולבנות בריתה. את רגועה במחשבה על מתקפות עתידיות שעוד יקרו?
"יש לנו את מערכת ההגנה מפני טילים הטובה בעולם. אבל אני מודאגת מאופן השימוש בה. זה דומה לכדורגל: אם את עוסקת רק בהגנה, בסוף את גם חוטפת. הגנה, מעצם הגדרתה, היא לא הרמטית ובסוף גם נשחקת. היא נשחקת הרבה יותר מהר מהתקפה".

למה?
"כי ככל שמנצלים יותר את היכולת ההגנתית, כך מתגלות החולשות והפרצות שלה. זה דומה לפיתוח חיסון מול חיידק - קל יותר לייצר חיידק חדש, שתוקף את הגוף, מאשר חיסון. במקום לנצל את מערך ההגנה המפואר של ישראל, ולצאת להתקפות יצירתיות שישנו את כללי המשחק ויובילו להכרעה, מקבלי ההחלטות כאן מנצלים את אורך הנשימה שלו וכך נמנעים מקבלת החלטות קשות. מערכת חץ ששיחקה תפקיד מרכזי בליל הטילים האיראני - פותחה כבר לפני 20 שנה מתוך הבנה עמוקה של האיומים שסביבנו. אבל מערך ההגנה האווירי של ישראל חייב להיות משולב באסטרטגיה נכונה של קבלת החלטות. בהיבט הזה אני פחות רגועה".