גלובס - עיתון העסקים של ישראלאתר נגיש

פורסם פרק נוסף ב"תיקי פייסבוק": כך כשלו מנגנוני הבקרה העצמית

פייסבוק הודיעה כי עד סוף 2019 תאכוף את חוקיה ברשת באמצעות בינה מלאכותית שתדע לזהות תכנים בעייתיים כמו שיח שנאה, אלימות קשה ומשתמשים קטינים ● אלא שבפועל האלגוריתם שפותח לא מצליח אפילו להבדיל בין קרבות תרנגולים לתאונות דרכים

מנכ''ל ומייסד פייסבוק, מארק צוקרברג / צילום: Associated Press
מנכ''ל ומייסד פייסבוק, מארק צוקרברג / צילום: Associated Press

בוול סטריט ג'ורנל מפרסמים פרק נוסף בתחקיר הענק שלהם על פייסבוק, "The Facebook Files", והפעם על השימוש של החברה בבינה מלאכותית בשביל לאכוף את החוקים שלה ברחבי הזירה. למעשה, בכירי פייסבוק אמרו בעבר כי בינה מלאכותית אמורה לטפל ברשת החברתית בתכנים בעייתיים כמו שיח שנאה, אלימות קשה ומשתמשים קטינים.

מארק צוקרברג, מייסד ומנכ"ל פייסבוק, אמר בעבר שהוא מצפה שפייסבוק תשתמש בבינה מלאכותית כדי לזהות את "הרוב המכריע של תוכן בעייתי" עד סוף 2019. עם זאת, עובדי החברה אומרים כי החברה מצליחה להסיר רק שבריר מהפוסטים שמפרים את מדיניות שיח השנאה של החברה, כשמדברים על אחוז נמוך בעל ספרה אחת. על פי התחקיר, אם האלגוריתם לא בטוח מספיק שהתוכן מפר את הכללים, התוכן יוצג למשתמשים בתדירה נמוכה, וחשבונות שפרסמו את התוכן לא ייענשו.

על פי המסמכים הפנימיים של פייסבוק, הבינה המלאכותית לא מצליחה לזהות בעקביות סרטוני יריות בגוף ראשון, גזענות ואפילו - הבינה המלאכותית לא הצליחה להבדיל בין קרבות תרנגולים לתאונות דרכים. על פי הדוגמאות - הבינה המלאכותית החמיצה סרטוני ירי וסרטונים של תאונות דרכים עם מחזות קשים. הבינה המלאכותית אף החמיצה איומי אלימים שהופנו כלפי ילדים טרנסג'נדרים. הבינה המלאכותית סימנה סרטון של שטיפת מכוניות כסרטון יריות בגוף ראשון.

פייסבוק קיצצה בודקי תוכן אנושיים 

כדי להבין את העניין, לפייסבוק יש אלגוריתמים שעושים את החיפוש והבדיקה בתכנים השונים והם נקראים classifiers - מסווגים. אם פייסבוק בטוחה שהתוכן מפר את החוקים שלה, אפשר להסיר את התוכן המדובר. על פי התחקיר, בתחומים כמו ספאם, המסווגים האלו עובדים טוב. אבל לעיתים קרובות בבעיות רגישות או מורכבות מבחינה תרבותית - המסווגים עובדים פחות טוב. "המסווגים דומים לתלמידי בית ספר יסודי והם זקוקים למורים (בודקים אנושיים) כדי לצמוח לדוקטורט", כתב מהנדס פייסבוק בדיון במערכת הפנימית של פייסבוק בדיון על עליית שיח השנאה בזירה.

המסמכים מצביעים על כך שפייסבוק קיצצה לפני שנתיים את הזמן שבודקי תוכן אנושיים בחנו בתלונות משתמשים על שיח שנאה ואף ביצעה כמה שינויים שהפחיתו את מספר התלונות באופן כללי. אז, בשנת 2019, פייסבוק עשתה בקרת עלויות על שיח שנאה, כדי לחסוך כסף. היא גילתה שהצוותים האנושיים עולים לה 104 מיליון דולר בשנה, כך על פי מסמך פנימי. "במסגרת התקציב הכולל שלנו, שיח שנאה הוא ללא ספק הבעיה היקרה ביותר". מהלך כזה כמובן מוביל את פייסבוק להיות תלויה יותר באכיפה מצד בינה מלאכותית.

דובר פייסבוק אמר שהכספים שהועברו יועדו כדי להעסיק אנשים נוספים להכשרת האלגוריתמים של פייסבוק וכי התקציב הכולל נשאר יציב ודומה.

המסמכים מראים שכ-75% מהעלויות נבעו מהעסקת אנשים לבדיקת תלונות של משתמשים, שרובם המכריע לא נחשב כשיח שנאה לאחר הבדיקה. בשנת 2019, מעבר לקיצוץ השעות הדובר, החברה החלה להשתמש באלגוריתם בינה מלאכותית שהוביל אותה להתעלם מאחוז גדול יותר של דיווחי משתמשים. לפי הדיווח, פייסבוק הוסיפה כל מיני מכשולים לתהליך הדיווח על התלונות. במענה לכך, דובר החברה סטון אומר שהם לא עשו זאת כדי לשנות את שיעור הדיווחים או להגביל, אלא כדי להפוך את מערכת הדיווחים ליעילה יותר.

מדען בכיר בפייסבוק, שאחראי לשמור על פייסבוק מתכנים בעיתיים, כתב ב-2019 שהחברה לא באמת קרובה להצליח להתמודד עם כל התוכן בצורה מהימנה. "הבעיה היא שאין לנו ואולי אף פעם לא יהיה לנו מודל שתופס אפילו את רוב הפגיעות, במיוחד בתחומים רגישים", כתב. הוא העריך שהמערכות האוטומטיות הסירו פוסטים שהפרו את הכללים, אך יצרו רק 2% מהצפיות על שיח שנאה ברשת החברתית. "ההערכות האחרונות מצביעות על כך שאם לא יהיה שינוי משמעותי באסטרטגיה, יהיה קשה מאוד לשפר זאת מעבר ל-20%-10% בטווח הקצר", הוסיף.

במרץ השנה, כל על פי התחקיר, צוות אחר של עובדי פייסבוק הסיק מסקנה דומה. המערכות הללו מסירות פוסטים שהניבו בין 5%-3% מהצפיות בשיח שנאה בזירה, ו-0.6% מכלל התכנים שמפרים את מדיניות פייסבוק בנושאי אלימות והסתה.

דובר החברה, אנדי סטון, אומר שהאחוזים המדוברים התייחסו לפוסטים שהוסרו באמצעות בינה מלאכותית, אבל לא כללו פעולות אחרות שהחברה נוקטת כדי לצמצם את מספר האנשים שצופים בדיבור שנאה. פייסבוק אומרת שכיום חמש צפיות מתוך כל עשרת אלפים צפיות - כללו דיבור שנאה, שיפור מכ-10 מתוך עשרת אלפים באמצע 2020. עוד הוסיפה פייסבוק שהיא מסירה פי 15 יורת תכנים בעייתיים מאשר בשנת 2017.

החברה נזהרת מאכיפת יתר

גיא רוזן, בכיר בחברה האחראי על תחום היושרה, פרסם פוסט בבלוג החברה שבו נכתב כי מבחינתם זה המדד החשוב ביותר - כי זה מייצג "את מה שפספסנו ואת מה שאנשים ראו, וזה המדד העיקרי שאנו נותנים לו דין וחשבון. והצלחנו להקטין אותו וזהו הדרך שבה אנו מתקדמים". רוזן אמר שהמסמכים שנבדקו בג'ורנל הם מיושנים, אבל הם עזרו לחברה לחשוב בצורה רחבה יותר על איך מנהלים את הבינה המלאכותית וההשפעה על התוכן.

לפי המסמכים, פייסבוק עשתה סקר וגילתה שמשתמשים ברחבי העולם מעדיפים שיורידו להם את התוכן בטעות, מאשר שיצפו בתוכן בעייתי כמו שיח שנאה. עם זאת, למרות פעולות האכיפה המינימליות של פייסבוק, החברה נזהרת מאכיפת יתר - משמע שלא לאכוף יותר מדי פוסטים, כדי לא להסיר בטעות פוסטים שלא עוברים על החוקים. על פי אנשים שמכירים את הנושא, מהנדסי החברה מעדיפים להכשיר מודלים שיאפשרו יותר שיח שנאה מאשר לקבל תגובות שווא.

בשנת 2018, מייסד ומנכ"ל פייסבוק מארק צוקברג אמר בוועדה בסנאט שהוא אופטימי כי בתוך עשר שנים יהיו לפייסבוק כלי AI מפותחים לאיתור פרואקטיבי של רוב שיח השנאה. שנתיים לאחר מכן, בחודש יולי, הוא אמר: "מבחינת המאבק בשנאה, בנינו מערכות מתוחכמות באמת".

בנוסף, הבינה המלאכותית צריכה להיות יעילה גם בשפות אחרות שהן לא אנגלית. על פי תזכיר מ-2020, עובדי פייסבוק דנו על יצירת מסווג של דיבור שנאה לניבים בערבית. אבל המערכת התקשתה בערבית סטנדרטית בגלל חוסר במידע שאפשר ללמוד ממנו. "אין להם מספיק תוכן כדי להכשיר ולתחזק את המסווג הערבי כרגע, שלא לדבר על תקלות", כתב אחד העובדים בנושא.

בחודש ינואר, עובד בפייסבוק דיווח ששיח שנאה הוא אחת מקטגוריות ההתעללות באפגניסטן, אבל החברה נקטה צעדים נגד 0.23% בלבד ממה שמעריכים כתוכן שיח השנאה במדינה. במרץ, עובדים שעבדו על הבחירות בהודו אמרו ששיח שנאה מהווה סיכון גדול באסאם, שם גוברת האלימות כלפי מוסלמים וקבוצות אתניות אחרות. על פי מסמך תכנון, "אסאם מעוררת דאגה מיוחדת מכיוון שאין לנו מסווגי שיח שנאה שם", כך נכתב.

תגובה לפרסום כתב רוזן בבלוג החברה: "נעשה שימוש בנתונים שנשלפו ממסכים שהודלפו ליצירת נרטיב שהטכנולוגיה שבה אנו משתמשים כדי להילחם בשיח שנאה אינה מספקת וכי אנו לא מייצגים בכוונה את ההתקדמות שלנו. זה לא נכון. אנחנו לא רוצים לראות שנאה בזירה שלנו, וכך גם המשתמשים והמפרסמים, ואנחנו שקופים לגבי עבדותנו להסיר אותה. מה שהמסמכים מדגמים הוא שעבודת היושרה שלנו היא מסע רב שנתי. אף שלעולם לא נהיה מושלמים, הצוותים שלנו עובדים ללא הרף על פיתוח מערכות, זיהוי בעיות ובניית פתרונות.

"כשהתחלנו לדווח על המדדים שלנו על שיח שנאה, רק כ-24% מהתכנים שהסרנו זוהו באופן יזום על ידי המערכות שלנו. רוב מה שהסרנו נמצא על ידי המשתמשים. כעת המספר הזה הוא מעל ל-97%".

עוד כתבות

חן עמית, מנכ''ל טיפלתי / צילום: תמונה פרטית

"טיפלתי" נכנסת לצמרת חברות הפינטק הפרטיות בעולם עם שווי 8.3 מיליארד דולר

חברת טיפלתי, המפתחת פתרונות בתחום אוטומציה של תשלומים, גייסה 270 מיליון דולר לפי שווי גבוה פי ארבעה מלפני שנה ● גיוס זה הופך את טיפלתי לחברת הטכנולוגיה בעלת השווי השלישי בגובהו בישראל ולחברת הפינטק הפרטית ה-14 בשוויה בעולם

יוחנן לוי, בעלי ''יוחנן לוי, סופר סת''מ'' / צילום: תמונה פרטית

"מזל שהיו מענקים מהמדינה שהצילו אותנו. פשוט לא הייתה עבודה"

יוחנן לוי, תושב ירושלים, בן 41 ● נשוי פלוס 5 ילדים ● בעל "יוחנן לוי, סופר סת"מ" ● "השוק רווי מתחרים אבל הבעיה העיקרית היא שיש כ"כ הרבה סופרים שעובדים בשחור. זה קשוח להתחרות מולם" ● גלובס שם את הסיוע לעסקים קטנים ולעצמאים במרכז  

קונים בסופרמרקט במיזורי ארה''ב. האמריקאים מודאגים מעליית מחירי המזון / צילום: Reuters, Lawrence Bryant

סקר "וול סטריט ג'ורנל": האינפלציה מתגלה כחשש המרכזי של האמריקאים

סקר חדש של ה"וול סטריט ג'ורנל" מגלה שרוב המצביעים אומרים שהאינפלציה גורמת להם ללחץ פיננסי

ג'ף בזוס, מייסד אמזון / צילום: Associated Press, Tony Gutierrez

מחקר חדש: העשירון העליון מחזיק ב-76% מההון בעולם

לפי דוח אי השוויון העולמי 2022, מגפת הקורונה היטיבה עם צמרת המיליארדרים העולמית, שרשמה ב-2020 את הזינוק החד ביותר המתועד בחלקה בסך העושר בעולם ● בישראל יש נקודת אור בולטת: חלקן של הנשים בהכנסות מעבודה קפץ בכ-10 נקודות האחוז בהשוואה לתחילת שנות ה־90

אראל מרגלית, מייסד ויו''ר JVP ואניקליפ / צילום: שחר עזרן

שותף לשעבר ב-JVP תובע את היו"ר אראל מרגלית: "העביר החזקות במחיר מופחת"

גלן שוובר, שהיה שותף בקרן ארבע של JVP, טוען כי מרגלית העביר את המניות המועדפות שהחזיקה הקרן באחת מחברות הפורטפוליו המובילות ליישות עסקיות בשליטתו במחיר נמוך משמעותית מהשווי האמיתי שלהן ● מ- JVP נמסר בתגובה כי "מדובר בתביעה משוללת כל יסוד משפטי ועסקי, מנוגדת לדין, של עובד לשעבר של JVP שעזב את הקרן בשנת 2006, לפני למעלה מ-15 שנים, ובניגוד לדין"

בנק ישראל בירושלים / צילום: אורית דיל

במחאה על הקיצוץ בתקציב: עובדי בנק ישראל סגרו את החשמל בבניין

עובדי בנק ישראל מוחים נגד ההנהלה ומאשימים אותה בחוסר שקיפות ● העובדים הורידו במחאה את התאורה כדי להביע "תמיכה" בחיסכון בתקציב

משרדי משרד הבריאות בירושלים / צילום: איל יצהר

תשתיות המו"פ הדיגיטלי בבתי החולים יתחדשו במענק של 55 מיליון שקל

הגופים יזכו לתמיכה של עד 8 מיליון שקל עבור תוכניות להקמה או הרחבה של תשתיות המידע דיגיטלי שלהם ● תחום הבריאות הדיגיטלית הוא אחד מתחומי ההשקעה החמים היום, וישראל נחשבת כמובילה בתחום

צריך לדעת גם איך להיפרד / צילום: Shutterstock

לפטר 900 עובדים בזום? מנהלים מבינים שהם צריכים לדעת גם איך להיפרד

הפיטורים של מאות עובדי Better.com האמריקאית בישיבת זום היו צעד חריג בעידן שבו מנהלים מבינים שכדאי להם לתת הרגשה טובה גם לעובד שלא הצליח בתפקידו ● מחשש לשיימינג ברשתות ועד הזדמנות לקבל פידבק על הארגון - כל הסיבות לגמור את זה יפה ● ניהול וקריירה

בית המשפט. על עורכת הדין הוטלו הוצאות משפט בגובה של 100 אלף שקל / צילום: Shutterstock

מתנה או נאמנות: מה מעמדם של מניות שקיבלה עו"ד בחברה?

עורכת דין שניהלה קשר רומנטי עם אדם שהיה לקוח שלה, טענה כי המניות שהעביר לה ניתנו במתנה ולא בנאמנות ● על מי חלה חובת ההוכחה ומה קבע בית המשפט?

רן קוניק, ראש עיריין גבעתיים / צילום: אמיר מאירי

רן קוניק: "מתקרבים להסכם עם ת"א להעברת הבעלות על גבעת קוזלובסקי לגבעתיים"

לפי ראש עיריית גבעתיים, שתי הערים צפויות לחתום על הסכם שלפיו גבעתיים תקבל 15 דונם מגבעת קוזלובסקי, שבבעלות ת"א ● "אנחנו מאוד זקוקים לקרקע הזאת כי עד שלא נבנה שם מאגר מים, לא נוכל לאשר אלפי יחידות דיור בתוכניות הפינוי בינוי שלנו"

אברהם קוזניצקי / צילום: תמר מצפי

מת אברהם קוזניצקי, מייסד חברת הבנייה מנרב

קוזניצקי הקים את חברת מנרב כשהיה בן 30, לאחר עשור שבו עבד כמורה וכמנהל בית ספר ● במרץ השנה מכר קוזניצקי את החברה לפי שווי של 750 מיליון שקל, לקבוצת משקיעים בראשות אסנס פרטנרס ובהשתתפות כלל, מגדל ולאומי פרטנרס

בורסת טוקיו, יפן / צילום: Shutterstock

עליות קלות באירופה; הביטקוין שב ויורד מתחת ל-50 אלף דולר

מדד המחירים לצרכן בסין רשם עלייה של 2.3% ב-12 החודשים האחרונים (עד נובמבר) לעומת צפי כלכלנים לעלייה של 2.5% ● במסחר בחוזים על מדדי בורסות ארה"ב נרשמת יציבות

הניסוי הגדול לשינוי מודל השכר של עובדי המדינה יוצא לדרך / אילוסטרציה: טלי בוגדנובסקי

לקראת מהפכה בשכר עובדי המדינה: רק המצטיינים יזכו לבונוסים

כ-3,000 עובדים משתתפים בפיילוט חדש שמוביל משרד האוצר הבוחן 3 מודלים לשינוי שיטת התמריצים הנוכחית ● באוצר מקווים לחסוך מאות מיליוני שקלים שניתנים כיום כתוספות שכר, המבוססות על מדדים רופפים ולא משקפים באמת את ביצועי העובדים ● כך זה יעבוד

משרדי דויטשה בנק בניו יורק / צילום: Associated Press, Mark Lennihan

חשד בארה"ב שדויטשה בנק הפר התחייבות לחלוק דיווחים על אי-סדרים

דויטשה בנק חתם בינואר על הסכם פשרה עם משרד המשפטים האמריקאי שכלל התחייבות לדווח על כל חשד לאי-סדרים בתמורה לזניחת חקירה בנושא חשדות לשוחד ● כעת מדווח ה"וול סטריט ג'ורנל" כי הרשויות בודקות אם הבנק "לא דיווח כיאות" על תלונה פנימית שהוגשה בנוגע להשקעות של חברה באחזקתו

משככי כאבים. לטענת הרשויות בניו יורק, שיווק אגרסיבי של חברות התרופות הוביל למגפת התמכרויות לחומרים ממכרים / צילום: Associated Press, Jessica Hill

הסכם הפשרה של אלרג'ן משאיר את טבע לבד בתביעת האופיואידים בניו יורק

לפי הסדר הפשרה, קבוצת אלרג'ן תשלם לרשויות במדינת ניו יורק 200 מיליון דולר בשל חלקה במגפת ההתמכרויות למשככי כאבים במדינה ● בכך נשארת חברת טבע החברה היחידה שלא הגיעה להסדר עם הרשויות במדינה בנושא, לאחר שלמעלה מ-20 חברות כבר עשו זאת

ביל גייטס / צילום: Shutterstock

למרות האומיקרון: ביל גייטס (שוב) מנבא שהקורונה תדעך במהלך השנה הבאה

התחזית של ביל גייטס לשנת 2022: השלב האקוטי של מגפת הקורונה יגיע לסיומו ● למרות כל האתגרים, ולמרות שהשנה הנוכחית נראתה פחות טוב משקיווה – גייטס עדיין אופטימי

הנשיא פוטין בביתו בסוצ'י ליד הים השחור בשיחת הווידאו עם ביידן ביום שלישי / צילום: Associated Press

האם איום ביידן בסנקציות כלכליות יעצור את השאיפות של פוטין בגבול האוקראיני

ביידן ניסה להניא את פוטין מלפלוש לאוקראינה בפסגת זום ● מה עובר על נשיא רוסיה? האם זה רק דיכאון גיאו־אסטרטגי חולף או שהוא באמת החליט ל"תקן את העיוות ההיסטורי של עצמאות אוקראינה", הארץ שרק אנשים "חסרי זהות" (יהודים, קראים וטאטרים) רוצים בקיומה

 

התחלתם ללמוד השבוע לתואר שני? רובכם מבזבזים זמן וכסף / אילוסטרציה: טלי בוגדנובסקי

שוקלים לוותר על השכלה אקדמית? אתם בדרך לנכות תעסוקתית

אינטרסנטים ועתידני עולם העבודה החדש מובילים דור שלם להאמין שבהייטק כבר לא צריך השכלה ● ניהול וקריירה

ראש המוסד לשעבר יוסי כהן / צילום: Reuters, Ronen Zvulun

בהובלת יוסי כהן: סופטבנק תשקיע 400 מיליון דולר בחברת הסייבר הישראלית קלארוטי

ראש המוסד לשעבר מוביל השקעה ראשונה של סופטבנק בתחום בו הוא מרגיש הכי בנוח: מיזוג בין שתי חברות המגינות על תשתיות רגישות במפעלי תעשיה ובבתי חולים שייצור את תאגיד אבטחת המתקנים הגדול בעולם ששוויו עומד על 2-2.5 מיליארד ד' ● תפקידו של יוסי כהן בסופטבנק נחשף לראשונה בגלובס

חגיגות פתיחת שנה באוסטרליה / צילום: Associated Press, Mark Baker

מקופות הגמל להשקעה ועד להחזרים מרשות המסים: עצות שימושיות לסוף השנה

סוף השנה הפיננסית הוא הזדמנות לנקות שולחן ולהתכונן לשנה הבאה ● למה צריך לשים לב ואיזה הזדמנויות עומדות בפנינו ● ארבע עצות שיעזרו לכם לסגור את 2021 בצורה טובה יותר