עם שאלה אחת: כך זיהו בפרארי דיפ פייק שהתחזה למנכ"ל

על פי פרסום בבלומברג, מנהל בכיר בחברת רכבי היוקרה פרארי, קיבל מהמנכ"ל האיטלקי בנדטו ויניה, מספר הודעות וואטסאפ, אך אלה לא הגיעו מהמספר העסקי הרגיל של ויניה. עם זאת, התמונה בוואטסאפ הייתה שלו, וגם הקול על הקו בשיחת הטלפון שנערכה לאחר מכן, היה שלו. בהודעות, הודיע המנכ"ל למנהל הבכיר כי ישנה רכישה גדולה שהחברה מתכננת לבצע, וכי עליו להיות מוכן לחתום בדחיפות על הסכם סודיות שמכין עורך הדין של החברה, הסכם שישלח בהקדם האפשרי. לאחר מכן, בשיחת הטלפון, הוא אף התייחס לעצם ההתקשרות ממספר לא מוכר, וקולו של ויניה הסביר כי הסיבה היא בגלל שמדובר בעסקה סודית, שנרמז שהיא אף קשורה בעקיפין לסין, המחייבת את החברה לנקוט במספר צעדים שאינם מן השגרה. 

● הרכב הזה נחשב חלוץ ב-2021, גם שלוש שנים אחרי יש לו מה להציע
● בקרוב אצלנו: חשמלית עירונית בפחות מ-130 אלף שקל

אותו מנהל בכיר שקיבל את השיחה, התחיל לחשוד, ובצדק. למרות שהקול היה זהה לקולו של המנכ״ל, היו מספר ״אינטונציות מכניות״, כשבין היתר קצב הדיבור היה רובוטי מדי, כמו גם הברות מוזרות בחיבור המילים למשפטים שלמים, כך תואר בדיווח של יאהו פייננס על המקרה. דברים אלו העלו את חשדותיו של המנהל והוא החליט שעליו לערוך אימות לזהותו של המדבר. 

הקלות והנגישות שבה ניתן לייצר דייפ פייק 

ברשותו לא היו כלים טכנולוגיים לעשות זאת, אז הוא החליט להשתמש בשאלה פשוטה - שהוא ידע שויניה יידע את התשובה עליה. המנהל הזכיר שיחה שהייתה לו עם ויניה ימים ספורים לפני כן, ושאל מה הספר שהמליץ לו המנכ"ל לקרוא. 

 מכונית היוקרה האיטלקייה פרארי / צילום: יח''צ

את התשובה, הקול המדבר לא ידע. ומיד לאחר מכן, השיחה נותקה במפתיע. הסיבה, הקול המדבר נוצר על ידי בינה מלאכותית, והמתקשרים היו האקרים, שזהותם טרם נחשפה, שמטרתם הייתה לגרום לחברה לבצע העברה כספית בסכום גבוה.

למרות ערנותו של המנהל, חברות ענק אחרות לעתים נופלות בפח, נפילה שעלולה לעלות להן במאות ואף עשרות מיליוני דולרים. כל זה לצד כך שהמודעות לתופעה גוברת בשנים האחרונות.

במאי שנה שעברה פירסמה ג'ואנה סטרן, עיתונאית בוול סטריט ג'ורנל, טור שבו סיפרה כיצד השתמשה בדיפ פייק של הקול שלה והצליחה לעבוד על מערכת הזיהוי הקולית של חברת האשראי שלה. 

באותו טור כתבה אז סטרן כי הדוברת של חברת האשראי אמרה כי הבנק משתמש בביומטריה קולית, לצד כלים אחרים, כדי לזהות שאנשים שמתקשרים הם באמת מי שהם טוענים. עם זאת, היא הוסיפה שהמאפיין הזה נועד לאפשר ללקוחות להזדהות באופן בטוח ומהיר, אבל כדי להשלים עסקאות ובקשות פיננסיות אחרות, הם יתבקשו לספק פרטים נוספים. 

החשש שעלה במאי שנה שעברה, ונדמה שלא פג גם מעל שנה אחרי, זאת הקלות והנגישות שבה ניתן לייצר דייפ פייק באמצעות כלי בינה מלאכותית זמינים. 

אז כתבה סטרן כי ״המשמעות היא שכל אחד באינטרנט יכול לקחת שעות שלמות של הקלטות קוליות שלי - או שלכם, או של ג'ו ביידן או של טום בריידי - לשמור אותן כקבצים ולעשות בהן שימוש. נציבות הסחר הפדרלית כבר מזהירה מתרמיות שנעזרות בקול המיוצר על ידי בינה מלאכותית״.