צילום מתוך הסרט ‘מסכי עשן: המלכודת הדיגיטלית’. מתעלם במופגן ממנהלי החברות הגדולות / צילום: נטפליקס
בשנים האחרונות יש התפכחות מהגישה החיובית כלפי הרשתות החברתיות - הן לא רק מאפשרות לאוכלוסיות שונות ואנשים שונים להשמיע את קולם ויוצרות דמוקרטיזציה לשיח, אלא גם אוספות מידע על המשתמשים, האלגוריתמים שלהן גורמים להקצנת השיח ולהפצת פייק ניוז, והמודל שלהן מבוסס על הגדלת הנוכחות של המשתמשים בהן, גם במחיר של התמכרות.
הסרט The Social Dilemma (בעברית: 'מסכי עשן: המלכודת הדיגיטלית') עוסק בכל אלו. הסרט מז'אנר הדרמה התיעודית, שמופץ בנטפליקס ונחשב לתוכן מקורי שלה, מבוסס על ראיונות, אך מלווה אותו עלילה דמיונית על משפחה שמנסה לגמול את אחד מילדיה מהרשתות החברתיות. הילד נקרע בין המאמצים הללו לבין האלגוריתם, שאופן פעילותו, כוחו ויכולת השכנוע שלו מומחשים בסרט על ידי שלושה אנשים שמנהלים ביניהם דיון איך להחזיר אותו לפייסבוק. רוצים לנחש מי ניצח?
חלק גדול מהשיח בסרט מוכר וידוע לרבים, אך בכל זאת הוא מצליח להשאיר חותם על הצופים. יש לכך כמה סיבות שעוד נגיע אליהן, אבל אחד מהיתרונות של הסרט הוא בזהות הדוברים שמתראיינים בו - רבים מהם עבדו באותן חברות בעייתיות, לדבריהם, בסיליקון ואלי.
יש שם מעצב בכיר בגוגל שעבד על הג'ימייל, עובד לשעבר בפייסבוק שהיה בצוות שפיתח את כפתור הלייק, עובד לשעבר ביוטיוב שהיה אחראי על מנוע ההמלצות שלה, משקיע בפייסבוק בתחילת דרכה, ורבים שהיו מהעובדים הראשונים בחברות כמו אינסטגרם ואחרות. אלו מכירים מקרוב את צורת החשיבה בסיליקון ואלי, את שיטות הפעולה וגם את הכוונות המקוריות של אותם מפתחים, לפני שהדברים החלו להשתבש.
הבעיות בסרט הן אמיתיות וחשובות, והדיון עליהן צריך לצאת מהאתרים הטכנולוגיים והעסקיים, מכיוון שהן גובות מחיר חברתי אמיתי. אולם נראה כי מבחינת היוצרים מדובר בניסיון לייצר תנועת נגד, ולא צריך להתייחס אליו כעבודה עיתונאית מאוזנת. למעשה, מהסרט עולות כמה שאלות מהותיות.
לאן נעלמה המורכבות?
אחת התמות המרכזיות בסרט היא שהרשתות החברתיות גורמות להקצנה של השיח. במקביל לכך, הוא מציג עמדה חד צדדית, משטיח את השיח כדי להגיע לציבור הרחב, ובדרך מונע דיון רציני על הבעיות עצמן וגם על הפתרונות האפשריים. בסיום הסרט הצופה עלול להרגיש כי העולם אבוד. זאת, אגב, עמדה לגיטימית, ובטוח אנשים סברו כך גם כשילדיהם ישבו שעות ארוכות מול הטלוויזיה, ועוד בלי יכולת לבחור במה לצפות. אולם האם באמת צריך להרים ידיים? האם אין מה לעשות?
יותר מכך, מה סבורים אלו שמובילים את הרשתות החברתיות היום? מה סבור צוקרברג? כדי לקיים שיח רציני צריך לכל הפחות להציג את טיעוניהם. מארק צוקרברג, למשל, מאמין שדווקא פייסבוק יכולה להיות חלק מהפתרון, כי יש לה את המשאבים לעשות זאת (בניגוד לטוויטר, למשל, שמשאביה מצומצמים יותר). צוקרברג גם סבור כי יש להטיל רגולציה, מכיוון שאינו רוצה להיות זה שקובע את ההגדרות, ואז לספוג על כך ביקורת.
לפייסבוק היו שלל הזדמנויות לתקן את הבעיות שלה במהלך הדרך. לפי תחקיר של "וול סטריט ג'ורנל", היא גנזה תחקיר פנימי שמוכיח כי הפלטפורמה שלה מקצינה את השיח, כדי לא לשנות את האלגוריתם ובכך לצמצם את הנוכחות של משתמשים ברשת החברתית.
נראה גם שפייסבוק קלטה באיחור את ההשפעות והסכנות שיש ברשת החברתית. לכן לא חייבים להאמין לכנות הצהרותיו של צוקרברג, אך אי אפשר שלא להציג אותן ואת המאמצים שבפייסבוק כן עושים בימים אלו. לאחר מכן יהיה ניתן לנהל דיון האם פייסבוק ואחרות מסוגלות לשנות את המצב, האם הן רוצות, ומה הרגולטורים צריכים לעשות.
הרובוטים על הגדרות
צריך להעריך את יוצרי הסרט על הניסיון להסביר לצופים מונחים טכנולוגיים מורכבים כמו "למידת מכונה" (האופן שבו אלגוריתם של בינה מלאכותית משתכלל באופן עצמאי). זאת אינה משימה פשוטה. אולם כדי לפשט את ההסברים, היוצרים הציגו מצב לפיו הרשתות החברתיות מתנהלות באופן בעייתי יותר בהשוואה לחברות טכנולוגיה אחרות.
אלגוריתמים ובינה מלאכותית נמצאים בלב של פיתוחים טכנולוגיים רבים, וישולבו עוד יותר בעתיד. אלו מסוגלים להשתכלל ולהתפתח באמצעות מידע ונתונים חדשים שמוזנים אליהם. למען האמת, מגיע מצב שבו עבודת האלגוריתמים היא מעין קופסה שחורה - אתה יודע מה נכנס אליהם ואתה יודע מה ההחלטות שהתקבלו, אך מתקשה להבין מה הסיבה לכך. בהקשר של רשתות חברתיות, קשה למשל להסביר למה האלגוריתם סינן פוסטים מסוימים והשאיר אחרים.
הדבר נכון לגבי כל אלגוריתם באשר הוא, וזאת בעצם אחת הבעיות של בינה מלאכותית - לפחות בינתיים, כשהשימוש בטכנולוגיה הזו נמצא יחסית בחיתוליו. צריך להיות מאוד חשדניים כלפיה, להבין איפה היא משכפלת בעיות מהעולם האמיתי (נגיד הטיות מגדריות או אפליה), וללמוד איך ניתן להטמיע את האלגוריתמים באחריות, גם אם המשמעות היא לבצע תהליכים איטיים יותר. עם זאת, להציג מצב כאילו ה"רובוטים על הגדרות" זה אקט דמגוגי ואנטי-חדשני.
הבעיות של נטפליקס
בסרט מתעלמים כמעט לגמרי מהאנשים שמאחורי הבעיות, ובראשם המנהלים של אותן חברות. הפתרונות שמציגים המרואיינים בסרט הם לא לשתף פעולה עם הרשתות החברתיות והאלגוריתם שלהן - לא להיכנס אליהן, לא להיענות להמלצות שלהן וכו'. למעשה נראה שהם הרימו ידיים לגבי האפשרות שניתן לתקן את המצב, או שאפשר לעשות את הדברים אחרת. אנשים פרטיים יכולים אמנם לבחור שלא "ליפול" לרשתות החברתיות כדי להגן על עצמם, אבל הפתרון החברתי לא יכול להיות מושתת רק על ההתנהגות של אנשים פרטיים.
יוזמות למחיקת פייסבוק ואחרות לא שרטו את החברות האלו, ושינוי משמעותי צריך להגיע מכיוונים אחרים. לצד הטכנולוגיה, בסרט מתייחסים גם לדבר שמניע את החברות האלו - הרצון למקסם את ההכנסות שלהן. במילים אחרות, האנשים כפופים למערכת הקפיטליסטית, ולכן אין שום סיכוי שיובילו לשינוי.
זה נכון, למרות שזה מתעלם מהטווח הארוך, ומתנועת הנגד שיכולה לקום (לפחות כפי שחושבים חלק מהמרואיינים בסרט). כך או כך, לא צריך לעשות להם הנחות. ואגב, נכון שהרשתות החברתיות מקצינות את השיח, אבל גם למנהיגים שמפיצים פייק ניוז בלי לחשוב פעמיים, ומגייסים כך תמיכה, יש אחריות.
מי צריך להיות אחראי
באחד המשפטים האחרונים בסרט, על רקע הכתוביות, אומר אחד המרואיינים: "לעולם לא להיכנס לסרטון ש'יוטיוב' המליצה עליו. תמיד לבחור, זו דרך נוספת להילחם". זמן קצר לאחר מכן עלו על המסך המלצות של נטפליקס לתכנים אחרים שמתאימים לנו.
כמו יוטיוב, גם נטפליקס לומדת להכיר אותנו, ואנחנו עוזרים לה בכך. למעשה, נטפליקס נוקטת באסטרטגיות ובשיטות פעולה דומות לאלו של החברות שבהן עוסק הסרט. נכון, לא מדובר ברשת חברתית, אך גם יוטיוב לא ממש נופלת תחת ההגדרה הזאת.
נטפליקס כבר הוכיחה שהיא מסוגלת ליצור סדרה מצליחה באמצעות ניתוח של הרגלי הצפייה של המשתמשים. הדוגמה הקלאסית היא "בית הקלפים", אחת הסדרות הבולטות שלה, שמבוססת על גרסה בריטית. כשהציעו לנטפליקס לעשות גרסה אמריקאית, הם גילו שמי שאהב את הגרסה הבריטית אהב גם סרטים בכיכובו של קווין ספייסי וכן של הבמאי דיוויד פינצ'ר. ההחלטה להשקיע 100 מיליון דולר בסדרה הוכיחה את עצמה. מאז, נטפליקס קיבלה אינסוף החלטות שמבוססות על הדאטה שהיא אוספת.
לנטפליקס אמנם אין מידע משלים, כפי שיש לחברות אחרות - גיל ומגדר, תחומי עניין, הרגלי צריכה - ופעילותה גם לא מבוססת על הכנסות מפרסום. אולם יש לה היכרות מאוד טובה עם הצופה, ואפשרות לנתח כל צעד שהוא עושה - מה הוא מחפש, אלו תכנים הוא אוהב, מתי הוא הפסיק לצפות, מתי הוא מעדיף תכנים ארוכים ומתי קצרים.
לכך צריך להוסיף נכס שלאחרות אין: לתכנים שלה יש מוניטין של מקצועיות. זה הופך את היכולת שלה להשפיע על הצופה לחסרת תקדים. אם נטפליקס רוצה לקדם סרט פרו-טראמפ, אין לה בעיה לעשות זאת, ובכך להשפיע על דעת הקהל.
כדי להמחיש את הכוח שלה, אפשר לזרוק לאוויר רעיון קונספירטיבי - אולי הסרט הזה, שנטפליקס דוחפת בכל הכוח, נועד כדי לקדם שיח על שימוש בעייתי בטכנולוגיה שנטפליקס אינה נכללת בו. האם בטווח הארוך זה באמת ייטיב עם החברה? תלוי את מי שואלים, אבל זה לא ממש משנה - לחברה יש כוח אדיר בידיים. ההתעלמות ממנה בסרט, בוודאי כשהוא מופץ על גבי הפלטפורמה שלה, מוכיחה כשלעצמה את הכוח שלה. האם נטפליקס הייתה מסכימה להפיץ סרט שמבקר אותה? אין לכך תשובה.