ברקע ההפגנות: IBM תפסיק לשווק למשטרה טכנולוגיית זיהוי פנים שמפלה שחורים

מנכ"ל החברה הודיע לקונגרס האמריקאי כי "IBM מתנגדת לשימושים טכנולוגיים של זיהוי פנים לצורך מעקב אחרי המונים, קביעת פרופילים גזעיים והפרת זכויות אדם בסיסיות"

מערכת זיהוי פנים / צילום: Shutterstock
מערכת זיהוי פנים / צילום: Shutterstock

IBM עושה סיבוב פרסה. החברה הודיעה כי תמשוך מהשוק כמה מוצרי זיהוי פנים שלה שנמצאים בשימוש רשויות אכיפת החוק ומפלים לרעה שחורים. זאת, בניגוד לגישה קודמת רק מלפני חצי שנה, אז הגנה על השימוש בטכנולוגיה הזו למרות הביקורת שנשמעה עליה.

המהלך, שמגיע כאשר ההפגנות העולמיות נגד הגזענות והברוטאליות של המשטרה נכנסו לשבוע השלישי שלהן, הוא כאמור שינוי מהותי מהגישה הקודמת של החברה. בנובמבר 2019 מסרה בתגובה לתלונות מצד ארגוני זכויות אדם, כי "איסורים גורפים על טכנולוגיה אינם התשובה לחששות מפני משתמשים ספציפיים".

מחקר מ־2018 של מיקרוסופט והמכון הטכנולוגי במסצ'וסטס, MIT, מצא כי נשים בעלות עור כהה מזוהות לא נכון ב־35% מהמקרים. "למערכות זיהוי פנים יש הטיות פנימיות, כי הן תוכננו בעיקר לספריות תצלומים של פנים של אנשים לבנים", אמר אליסון פאואל, מומחה לאתיקה של נתונים במכון אדה לאבלייס בבריטניה ל־BBC. "הן לא מזהות היטב פנים שחורים או חומים". פאואל מזהיר מפני "עדכון" הטכנולוגיה על ידי הגדלת אוספי תמונות מגוונים יותר. לדבריו, "זה רק יגדיל את המעקב אחרי מיעוטים".

החלטת IBM, שנמסרה במכתב מהמנכ"ל ארבינד קרישנה לחברי הקונגרס האמריקאי, תוארה בכמה גופי חדשות כ"סיום פעילות זיהוי הפנים ב־IBM", מה שלא בהכרח נכון. יואב גולדברג ממכון אלן בתעשייה האווירית בישראל מציין בכתבה ב-"ניו סיינטיסט", שהמכתב אומר שהחברה לא תציע יותר "תוכנה למטרה כללית" לניתוח פנים, והניסוי הזה משאיר מרחב למכירת מערכות ספציפיות יותר לדרישת הלקוחות.

במכתבו לקונגרס, מנכ"ל IBM כתב כי "המאבק בגזענות בהול כעת כמו תמיד", והגדיר שלושה תחומים שבהם חברתו תרצה לעבוד עליהם יחד עם הקונגרס: רפורמה משטרתית, שימוש אחראי בטכנולוגיה והרחבה של הזדמנויות להקניית כישורים והשכלה.

"IBM מתנגדת ולא תתמוך בשימושים טכנולוגיים, כולל זיהוי פנים שמוצע על ידי גורמים אחרים, לצורך מעקב אחרי המונים, קביעת פרופילים גזעיים, הפרת זכויות אדם בסיסיות וחירויות", הוא כתב. "אנחנו מאמינים שזה הזמן להתחיל דיאלוג לאומי על אם ואיך צריך להפעיל טכנולוגיית זיהוי פנים על ידי גופי אכיפת חוק בארה"ב."

כמה ערים בארה"ב, ביניהן סן פרנסיסקו, סיאטל ואוקלנד, כבר אסרו שימוש בזיהוי פנים על ידי המשטרה, ואם חוק הרפורמה בשירותי השיטור שהציגו השבוע דמוקרטים בקונגרס יעבור, הוא יאסור את השימוש בזיהוי פנים בתצלומים של מצלמות שמבוססות על חום גוף.

המומנטום הזה נגד זיהוי פנים טכנולוגי עשוי להפעיל לחץ על חברות כמו אמזון, שמספקת לכוחות משטרה בארה"ב שירותי זיהוי פנים, לשקול מחדש את מדיניותן. ב־2018 הראה איגוד זכויות האזרח האמריקאי שהתוכנה של אמזון טעתה בזיהוי 28 פנים באלבומי משטרה, וקבעה שהם חברי קונגרס. הזיהויים השגויים היו באופן לא מידתי של שחורים.

"זיהוי פנים ספג מכה בשנה האחרונה מנקודת המבט של זכויות האזרח, של חדירה לפרטיות ושל סיכון מוגבר לאפליה גזעית ומגדרית", אמרה ניקיטה אגרוואל ממכון האינטרנט של אוקספורד בבריטניה ל־BBC. יכול להיות שהמערכות הללו כבר אינן בנות קיימא מבחינה מסחרית, היא ציינה.

צרו איתנו קשר *5988