גלובס - עיתון העסקים של ישראלאתר נגיש

לאתר הרגיל | פורטל פיננסי | | |

כשל נוסף: מודלי בינה מלאכותית של OpenAI ואנתרופיק יצאו מ"ארגז החול"

OpenAI דיווחה כי במהלך בדיקות סייבר, מודל שלה חרג מסביבת הניסוי וביצע פעולות לא מורשות באינטרנט ● גם מודלים של אנתרופיק הצליחו לצאת מ"ארגז החול", לגשת למערכות אמיתיות ואף לנסות לבצע פעולות זדוניות ● החברות מדגישות כי האירועים התרחשו בתנאי ניסוי מיוחדים ונבעו משילוב של כשלים טכניים והגדרות שגויות

פורסם בתאריך: 05.08.2026, 12:00 מאת: נבו טרבלסי

סם אלטמן ודריו אמודיי / צילום: ap, Franck Robichon, Markus Schreiber

שוב זה קורה: מודלי בינה מלאכותית של OpenAI ואנתרופיק יצאו מ"ארגז החול" (המונח המקצועי לסביבת הבדיקה) ותקפו יעדים באינטרנט בתקריות שונות.

הלילה הודיעה חברת OpenAI כי במהלך בדיקת סייבר, מודלים של החברה חרגו מסביבת הניסוי המבודדת וביצעו פעולות לא מורשות באינטרנט. לפי הודעת OpenAI, הבדיקות בוצעו תחת תנאים מיוחדים שכללו הורדה מכוונת של מסנני בטיחות וחיבור לרשת כדי לבחון את היכולות הבסיסיות והאמיתיות של המודלים, דבר שתרם לחריגה. לצד זאת, הייתה תקלה בהגדרת סביבת הבדיקה אצל חברת הסייבר הישראלית Irregular, מה שאפשר למודל גישה חופשית לאינטרנט: מתברר שהמודל התבקש לפרוץ ליעד דמיוני בעל שם זהה לדומיין האמיתי ברשת, מה שהוביל לפריצה אמיתית.

● גם מיקרוסופט מזהירה: אירוע סייבר ענק ומאות אלפי משתמשים בסכנה
● "תקרית סייבר חסרת תקדים": מודלים של OpenAI הצליחו לפרוץ לאתר כדי להשיג תשובות למבחן

כאמור, זהו אינו האירוע הראשון שדווח. אנתרופיק חשפה באחרונה כי מודלים שלה ברחו מארגז החול בשלושה מקרים שונים, התחברו לאינטרנט והשיגו גישה בלתי מורשית למערכות אמיתיות. גם במקרה הזה חלה תקרית דומה בשיתוף חברת הסייבר הישראלית Irregular.
בחודש שעבר, גם OpenAI דיווחה על כך שהמודלים שלה הצליחו לחמוק מסביבת הבדיקה והם הפעילו סדרה של פרצות אבטחה כדי להגיע לרשת הפתוחה והשיגו גישה Hugging Face.

מודל יצר זהויות פיקטיביות כדי לאשר את השינויים שהכניס לקוד

במקביל, במקרה אחר, במהלך בדיקות בטיחות שערך המכון לבטיחות בינה מלאכותית בבריטניה נרשמו אירועים שבהם מודלים מתקדמים ביצעו פעולות אוטונומיות ולא מורשות ברשת. בין המודלים שנבדקו היו Mythos 5 של אנתרופיק ו- GPT-5.6-Sol של OpenAI. המודלים זיהו חולשות אבטחה והגדרות שגויות כדי להשתחרר מסביבת הניסוי המבודדת וכך לפרוץ למערכות של ארגונים שונים.

המודל Mythos 5 של Anthropic, שהיה אחראי לרוב הפעולות הבלתי מורשות שזוהו, ניסה להזריק קוד זדוני לפרויקט קוד פתוח ב-GitHub, כך דווח בבלומברג. המודל אף יצר זהויות פיקטיביות ברשת במטרה לאשר את השינויים בקוד, עד שמתכנת אנושי זיהה את הניסיון וחסם אותו, כך דווח. במקרה אחר, במהלך מבחן שגרתי לאיתור מידע בסביבה מדמה, ניצלו המודלים תקלה טכנית כדי לפרוץ לאתר.

חברת Irregular, שהוקמה על ידי דן להב ועומר נבו, מפעילה מבחני הערכה ובדיקה עבור OpenAI ואנתרופיק כדי לבדוק את אבטחת הסייבר של המודלים שלה. הרעיון הוא לייצר סביבת בקרה מבודדת, המנותקת מהאינטרנט או בעלת גישה בצורה מוגבלת, כדי לבחון את המודלים החדשים. המשימות נדרשות בתוך הסביבה הסגורה, אבל התקלות שנוצרו, לדברי החברות המעורבות, נובעות מכשלים בהגדרות המשימה, במודל עצמו או בחולשות של המערכת. בחלק מהתקלות אף צוין כי מדובר ב"כשל הדדי".

עוד כתבות

מה חדש בדוחות / אילוסטרציה: טלי בוגדנובסקי, חומרים: shutterstock

שתי החברות הישראליות שהציגו צמיחה דו־ספרתית ברווח הנקי

חברת המינרלים ICL עקפה את תחזית האנליסטים ודיווחה על גידול של כ-35% וכ-17%, ברווח הנקי המתואם ובמכירות, בהתאמה ● דלתא גליל כמעט הכפילה את הרווח הנקי שלה, בשל החזר מכס מהרשויות בארה"ב, אך גם בנטרולו הציגה גידול של מעל 20% בשורה התחתונה

סקוט ראסל, מנכ''ל נייס / צילום: באדיבות נייס

נייס עקפה את התחזיות, אך המשקיעים מאוכזבים; יורדת במסחר

הכנסות נייס צמחו ל-782 מיליון דולר, מעל ציפיות האנליסטים, הודות להמשך הצמיחה בענן ובפתרונות הבינה המלאכותית ● השחיקה ברווח, ירידה בצמיחת ההכנסות מענן ותחזית חלשה אכזבו את המשקיעים - והמניה יורדת בת"א ובוול סטריט ● בלקרוק חדלה להיות בעלת עניין בחברה

אתר הבנייה ברחוב הרכסים ברמת גן שקרס / צילום: דוברות המשטרה

המלחמה בתאונות העבודה באתרי הבנייה: השינויים, העלויות וסימני השאלה

מספר תאונות העבודה באתר הבנייה בעלייה, ומתחילת השנה נרשמו כבר 393 תאונות ו–29 הרוגים ● תקנות חדשות, שיכנסו לתוקף באוקטובר, מרחיבות את מעגל האחריות באתרי הבנייה ומחייבות נקיטת אמצעים חדשים על מנת למנוע אותן ● כך הן ישנו את היחסים החוזיים בין היזמים לקבלנים וישפיעו גם על ענף הביטוח

במקום האפליקציה ההודית: דיסני פלוס משתדרגת בישראל, ויש גם חסרונות

דיסני הודיעה כי החל מ-9 בספטמבר האפליקציה הגלובלית של דיסני פלוס תחליף בישראל את האפליקציה ההודית שכללה פחות יכולות ופיצ'רים ● התוכן והמחיר לא צפויים להשתנות ● עם זאת, המעבר לאפליקציה החדשה תוביל לכך שהיסטוריית הצפייה שלכם תתאפס

הבורסה בתל אביב ננעלה בירידות; אל על המריאה לאחד הימים החזקים ביותר שלה אי פעם

מדד ת"א 35 ירד בכ-0.7% ● הבורסות בעולם חגגו את ההתקדמות לעבר הסכם מול איראן, ת"א לא הצטרפה ● אל על זינקה בכ-15% אחרי הדוחות, גם מניית הבורסה טיפסה ● נייס נפלה בעקבות תחזית מאכזבת לרבעון השלישי ● מניית חברת הנדל"ן אביסרור זינקה במעל 10% ביום הבכורה שלה בבורסה, אך מחזור המסחר היה נמוך

ספינות במצר הורמוז / צילום: ap, Capture One Macintosh

ארה"ב, עומאן ואיראן קרובות להסכם על פתיחה מחדש של מצר הורמוז

ייתכן כי ההכרזה תהיה הלילה. המשמעות: חידוש הפסקת האש והמו"מ על הסכם גרעין ● צה"ל תוקף בלבנון: "חיזבאללה הפר את הפסקת האש" ● בכיר במשרד החוץ האמריקאי: סבב השיחות בין ישראל ללבנון ברומא הסתיים ויחודש מחר בבוקר ● ישראל מתעדכנת על המו"מ בין ארה"ב ואיראן בעקיפין - ושומרת על דריכות: "המרחק בין שלום ומלחמה קרוב אצל טראמפ" ● דיווחים ערביים: סעודיה תוקפת כעת את החות'ים בצנעא ● עדכונים שוטפים

גד זאבי במגעים לרכישת קבוצת גדות לפי שווי של 550 מיליון דולר

זאבי חתם על מזכר הבנות לא מחייב, כאשר הוא מודע לכך שבעלי גדות, קרן טנא של אריאל הלפרין וקבוצת LBH בראשות ווליו בייס, נמצאים במקביל במגעים עם גורמים נוספים מחו"ל, שחלקם מתעניינים בחברה לפי שוויים גבוהים יותר

היועץ המשפטי החדש של רשות התחרות: עו"ד יונתן צויקל

צויקל, ששימש בשנים האחרונות כסגן היועצת המשפטית ברשות התחרות בתחום האזרחי-מינהלי, יחליף בתפקיד את עו"ד יעל שיינין שפרשה השבוע ● לאחר המינוי הנוכחי, מרבית משרות הייעוץ המשפטי במשרדי הממשלה מאוישים כעת

כטב''ם מתאבד מדגם הירו 120 SF / צילום: חברת UVISION

בזכות הנשק הישראלי: המדינה שהפכה למובילה בדרום אמריקה

ארגנטינה מטמיעה חימושים משוטטים ישראליים, שמקדמים אותה למעמד טכנלוגי מוביל בדרום אמריקה ● סינגפור שילבה טילי Blue Spear מתוצרת ישראל בספינת מלחמה חדשה ומתקדמת ● וטייוואן מפתחת כלי שיט בלתי מאוישים מבוססי בינה מלאכותית של חברה אמריקאית ● השבוע בתעשיות הביטחוניות

מחזור של עשרות שקלים בודדים סידר כניסה מפוארת לאביסרור לבורסה

אביסרור החלה להיסחר בבורסה בת"א לאחר שהשלימה גיוס של 530 מיליון שקל לפי שווי של כ-2 מיליארד שקל ● בפתיחת המסחר זינקה המניה בכ-14.5%, אך העלייה נשענה על עסקאות בודדות ובהיקפים כספיים זניחים, ובהמשך היום נסחרה בתנודתיות

אחרי חודשים של משבר: סבב פיטורים בוואלה

לאחר חודשים של מתיחות בין ההנהלה לנציגות העובדים, הושגו הסכמות על תוכנית הצמצומים: עד שבעה עובדים יסיימו את העסקתם, שניים ישובצו בתפקידים אחרים, וההנהלה התחייבה שלא לבצע פיטורי צמצום נוספים בקרב העיתונאים בשבעת החודשים הקרובים

בנק פלסטין – הגדול ברשות / צילום: Reuters, Atta Mohamed/ABACA

דיסקונט והפועלים מתנתקים מהרשות הפלסטינית, וגם עסקים בישראל ייפגעו

עסקים ישראליים יתקשו לשלם לפועלים ללא מערכת בנקאית מסודרת ● במקביל, מי שסוחר מול הרשות עלול להישאר עם אופציית המזומן בלבד - שעלולה להביא לתסבוכת מול רשות המסים

עלייתן של חברות מיליון הדולר שמעסיקות עובד אחד בלבד

כלי בינה מלאכותית מקלים על יזמים להקים חברות לבדם, ורבים מהם ממשיכים להפעיל אותן כך גם כשהן צומחות

מייקל ברי / צילום: Reuters, Nancy Kaszerman via ZUMA Wire

השוק בשיא, מייקל ברי בשורט: "אנחנו קרובים למפולת בסגנון 1987"

בוול סטריט חוגגים שיאים, אבל "ביג שורט" מחכה למפולת ומזהיר מקריסה אפשרית בסגנון 1987 ● כשהוא מהמר על ירידות בפלנטיר, אנבידיה ומיקרון, לא רק המוניטין שלו עומד למבחן - גם הכיס שלו

חמי פרס ואדם סינגולדה בהנפקת טאבולה בנאסד''ק / צילום: טאבולה

זו שזינקה מעל 40% במהלך יום המסחר, וזו שמתרסקת: הרבה זמן לא ראינו יום כזה למניות ישראליות בוול סטריט

סולאראדג' וטאבולה צללו בכ-30% עקב תחזיות מאכזבות ושחיקה בתזרים המזומנים, בעוד קאלטורה זינקה במהלך יום המסחר בכ-44%, ובסיומו רשמה עלייה של כ-35% הודות לצמצום ההפסדים ולביקושים למוצרי ה-AI ● עונת הדוחות של הישראליות בוול סטריט מדגישה שוב את התנודתיות החריפה

המסחר בתל אביב מתנהל במגמה שלילית; הביטוח לוחץ

המסחר בתל אביב נפתח במגמה מעורבת ועבר למגמה שלילית ברקע לחץ של סקטור הביטוח ● המסחר באסיה ננעל במגמה שלילית בלחץ הטכנולוגיה והחוזים בוול סטריט מעורבים ● תוצאות מעורבות ודרמות בעונת הדוחות של הישראליות בניו יורק ● נורת אזהרה לכלכלה האמריקאית: שוק העבודה מתקרר בחדות - אך לחצי השכר גוברים ● בום הרווחים בוול סטריט נמשך - אך האם השיא כבר מאחורינו?

הנהלת BioCatch / צילום: באדיבות BioCatch