פייקים מהעתיד: כך נראים ניצני השימוש ב-AI להפצת ידיעות כזב

התקדמות מנועי ה־AI יוצרת אתגרים גם בתחום הפייק ניוז. הנה ניצנים ראשונים • המשרוקית של גלובס 

ציוץ ויראלי בטוויטר, 18.3.23
ציוץ ויראלי בטוויטר, 18.3.23

להגדרות הציונים לחצו כאן

נכון - ההצהרה נכונה ומדויקת
נכון ברובו - ההצהרה נכונה ברובה, אך יש בה מרכיב שאינו נכון או אינו מדויק
חצי נכון - חלק מההצהרה נכון וחלקה שגוי, או שהיא אינה כוללת פרטים מהותיים שעשויים לשנות את משמעותה
לא נכון ברובו - חלק קטן מההצהרה נכון ורובה שגוי, או שהיא מחסירה פרטים יסודיים באופן היוצר הטעיה מהותית לגבי משמעותה
לא נכון - ההצהרה כלל אינה נכונה
מטעה - ההצהרה יוצרת מצג שווא או רושם שגוי, אף שהיא מתבססת על עובדות נכונות
כן, אבל - עובדה נכונה בפני עצמה, אך עובדות שלא צוינו עשויות להעמידה באור אחר. מומלץ לבחון את הדברים בפרספקטיבה רחבה יותר
לא מבוסס - לא קיימים נתונים עליהם ניתן לבצע קביעה פוזיטיבית לגבי נכונות הטענה, ואלה גם לא נאספים
ללא ציון - המצב העובדתי מורכב מכדי לתת לאמירה ציון מובהק. הסיבות האפשריות לכך יכולות להיות: התבטאות שאינה מובהקת מספיק וניתן לפרש אותה במספר צורות, מחלוקת בין מומחים, מתודולוגיות שונות שלא ניתן להכריע ביניהן ועוד

כאילו הרשת לא מלאה גם ככה בהמצאות והטעיות פרי דמיונם הקודח של אנשים בעלי אינטרס או סתם גולשים משועממים, הקפיצה הגדולה ביכולות של מודלים מבוססי בינה מלאכותית (Artificial Intelligence, או בקיצור AI), כמו DALL-E, Midjourney, או ChatGPT, הופכת את המציאות בה למורכבת אפילו יותר. אמנם כרגע היכולות הללו עדיין לא מספיקות כדי לייצר הטעויות מושלמות, אבל בהחלט ניתן לומר שכבר לא מדובר רק בסכנה עתידית. הנה שני מקרים מהתקופה האחרונה שבהם היכולות הגרפיות של המודלים הללו שימשו ליצירת פייקים.

המעצר שלא היה. טראמפ הכריז לאחרונה שעומדים לעצור אותו, אבל האם זה אכן קרה? מי שמבלים יותר מדי זמן ברשתות היו עלולים לחשוב שכן. "בלעדי: טראמפ נעצר הערב בפשיטה של ה־FBI על מאר־א־לאגו", דיווח ציוץ בטוויטר, שהפך כמובן לוויראלי. אבל הפעם לא היה מדובר רק במידע טקסטואלי כוזב. לציוץ צורפה תמונה בה נראה נשיא ארה"ב לשעבר מובל בשעת ערב על־ידי שוטרים שאוחזים בו בשתי ידיו. ציוץ אחר, שגם הועתק לאינסטגרם קבע כי "טראמפ נעצר הרגע על־ידי רשויות החוק של ניו יורק", וגם הוא גובה בתמונות, הפעם של שוטרים רבים עטים על הנשיא לשעבר באמצע הרחוב.

אלא שהתמונות הללו לא צולמו מעולם בשום מקום. כפי שהסבירו ב־Snopes, ב־Lead Stories ובארגון הבדיקה ההודי The Quint, בתמונה הראשונה ניתן לזהות שליד של אחד השוטרים שמובילים את טראמפ חסרה אצבע (נקודת חולשה רצינית של ה־AI בשלב הנוכחי). בציוץ השני, התמונות נלקחו מהחשבון של המפיק אליוט היגינס, שנהנה להשתעשע עם תוכנות AI ליצירת תמונות, אבל הוא גם צייץ במקור: "מכין תמונות של טראמפ נעצר בזמן שאני מחכה למעצר שלו".

דריסת רגל. והנה עוד דוגמה. לאחרונה הגיע נשיא סין, שי ג'ינפינג, לביקור מיוחד במוסקבה אצל נשיא רוסיה ולדימיר פוטין. פוטין שרוי כידוע במצב לא קל לאחר שתוכניות המלחמה שלו באוקראינה הסתבכו, אבל האם הדבר בא לידי ביטוי בביקור? ציוץ ויראלי בטוויטר גרס כי נשיא רוסיה ירד על ברכיו בפני שי, ואף הוכיח זאת באמצעות תמונה שמעליה נכתב: "פוטין כורע ברך ונשבע לצייתנות ונאמנות לאדונו ומפקדו שי". התמונה הזו נפוצה על ידי צייצנים רבים, ביניהם כתב הקייב פוסט, ג'ייסון ג'יי סמארט, שצייץ אותה עם הכיתוב "פוטין מנסה לפתות את שי".

בשלב הזה בטח לא תופתעו מכך שגם התמונה הזו נוצרה ב־AI, והפעם גם היה יותר קל לזהות זאת. כפי שהסבירו ב־Newsweek, כף הרגל המעוקמת של פוטין נעשתה בצורה מאוד לא שגרתית, כפות הידיים נראות מוזר (כאמור, ה־AI עדיין מתקשה עם אצבעות), לא ניתן לראות בבירור את הפנים של מי מהנוכחים בתמונה, השיער של שי נראה מוזר ועוד. בנוסף, ב־Newsweek מצאו שאם מסתכלים על התמונות הרשמיות מאותו ביקור, הרי שהן צולמו בחדר שנראה שונה מאוד מהאולם שבו נראים השניים בתמונה המזויפת.

 תחקיר: אוריה בר־מאיר 

לקריאה נוספת: