זיהוי פנים | פרשנות

שיעור ביחסי ציבור: ענקיות הטכנולוגיה לא באמת זנחו את תחום זיהוי הפנים

ההטיה הגזענית במערכת של אמזון ושיתוף הפעולה שלה עם הפגיעה בחיי הפרט, המעורבות של מיקרוסופט בדיכוי המיעוט המוסלמי בסין וגם האמירה הנחרצת והעמומה גם יחד מצד IBM • לא ברור איזה משקל יש מאחורי הדברים הנרגשים ששחררו החברות בעקבות המחאה בארה"ב

מדיניות גזענית ובעייתית במערכות זיהוי פנים  / אילוסטרציה: shutterstock, שאטרסטוק
מדיניות גזענית ובעייתית במערכות זיהוי פנים / אילוסטרציה: shutterstock, שאטרסטוק

בשבוע שעבר, IBM הודיעה שלא תמכור מוצרי זיהוי פנים וקראה לדיאלוג לאומי בעניין הלגיטימיות של שימוש במוצרים כאלה על-ידי גורמי אכיפה. זאת, לאחר שלושה שבועות של הפגנות נגד אלימות משטרתית וגזענות בארה"ב ובעולם, בעקבות רצח ג'ורג' פלויד על-ידי שוטר. הצהרת IBM היתה יריית הפתיחה, וימים ספורים אחריה גם אמזון נכנעה ללחץ הציבורי והודיעה על שינוי במדיניות זיהוי הפנים שלה. ביום רביעי האחרון היא הודיעה על הקפאת המכירה של מוצר זיהוי הפנים השנוי במחלוקת שלה, "Rekognition", לתחנות משטרה בארה"ב למשך שנה. יום לאחר מכן מיקרוסופט הצטרפה לטרנד המתגבש, והצהירה שלא תמכור תוכנות זיהוי פנים למשטרה עד שתהיה רגולציה בתחום.

במשך שנים, מחקרים הראו אי דיוקים והטיות גזעיות ומגדריות במערכות של שלוש החברות, ופעילים אזרחיים קראו להן להפסיק לשתף פעולה עם רשויות האכיפה. מעבר להטיות של המערכות, השימוש בהן על-ידי גורמי אכיפה מעלה שאלות של פגיעה בפרטיות, של שקיפות ושל ההטיות והאתיקה של רשויות האכיפה עצמן. ההצהרות בשבוע החולף כתוצאה מהמחאה, הן הישג למוחים נגד אלימות משטרתית בפרט, ולקוראים לשימוש אתי בטכנולוגיות זיהוי פנים בכלל.

שלוש החברות סיפקו הצהרות שונות מעט זו מזו, כל אחת בהתאם לעמדתה בשוק. העובדה ששלושתן הן חברות ענק בעלות פרופיל ציבורי משמעותי, הופכת את ההצהרות הללו לבעלות חשיבות כסימן דרך לשימוש אתי בטכנולוגיות מסוג זה. עם זאת, המשמעות המעשית של ההצהרות עומדת בסימן שאלה.

אמזון: יש הבדל מגדרי?

ההצהרה של אמזון מגיעה לאחר שנים בהן היא זוכה לביקורות מארגוני זכויות אדם ואזרח על כך שהיא מוכרת את מערכת Rekognition למשטרה. מחקר מ-2019 ב-MIT מצא שהמערכת מתקשה בזיהוי אנשים כהי עור, ובעיקר בזיהוי המגדר שלהם, ולעיתים קרובות מזהה נשים שחורות כגברים שחורים.

על הרקע הזה, בתחילת החודש, עם התעצמות המחאות תחת הכותרת Black Lives Matter, אמזון הוציאה הצהרה התומכת במאבק, והואשמה בצביעות. בהמשך החברה הצהירה על הפסקת מכירת המוצר השנוי המחלוקת למשטרה למשך שנה.

מעבר למימד הספציפי, בהיבט הרחב יותר החברה הצהירה כי "ממשלות צריכות לקבוע רגולציה חזקה יותר לשימוש אתי בטכנולוגיות זיהוי פנים, ובימים האחרונים הקונגרס נראה מוכן לקחת את האתגר הזה".

מנגד, הפסקת המכירה למשטרות למשך שנה בלבד מעלה תהיות: עד כה החברה התעלמה מהביקורות נגדה. האם כשתחזור למכור לתחנות משטרה, אמזון תוכל לעשות ככל העולה על רוחה, ולומר למבקרים כי היא בסך הכל פועלת לפי החוק?

בנוסף, לא ברור כמה תחנות משטרה השתמשו בתוכנה Rekognition מלכתחילה. אמזון מעולם לא חשפה מידע זה, אך לפי דיווחים בתקשורת בארה"ב, נכון לשנה שעברה, שתי תחנות בלבד השתמשו בתוכנה: באורלנדו ובפלורידה. מאז, אורלנדו הפסיקה את השימוש בתוכנה בעקבות המחקרים שחשפו את הבעייתיות שלה, כך שהצהרת אמזון מתייחסת, ככל הידוע, לעצירת מכירת המוצר לתחנת משטרה מקומית אחת בלבד. עבור חברה בסדר הגודל שלה, מדובר כנראה בחוזה זניח.

במקביל, אמזון ממשיכה לעבוד עם יותר מ-600 תחנות משטרה ברחבי ארה"ב, להן היא מספקת גישה לצילומים ממערת האבטחה הביתית רינג שבבעלותה, באיזורים בהם ישנו חשד לפשע. המערכת משמשת אנשים להקליט ולתעד את שכניהם, כאשר הם חושדים בביצוע פשע, דבר שהעלה חששות וביקורות של פעילים ורגולטורים לשימוש בה באופן מפלה. לפי דיווח ב"פוקס 2 דטרויט", ביום לפני שאמזון נתנה את הצהרתה, צילומים ממערכת רינג שימשו את המשטרה במישיגן כדי לעצור באלימות שליח אמזון ממוצא אפרו-אמריקאי, שנחשד בכך שחנה בצד הלא נכון של הכביש.

מיקרוסופט נגד הקטנות?

ביום חמישי האחרון, נשיא מיקרוסופט בראד סמית' הודיע בראיון ל"וושינגטון פוסט" שהחברה לא מוכרת טכנולוגיות זיהוי פנים לתחנות משטרה בארה"ב, ולא תעשה זאת עד שתהיה חקיקה בנושא, שתהיה "מבוססת על זכויות אדם". ההצהרה הגיעה לאחר שכ-250 עובדי החברה חתמו על עצומה בדרישה שתפסיק את כל יחסיה עם תחנות משטרה, זאת לפי דיווח ב"ביזנס אינסיידר".

למרות שמיקרוסופט הייתה קולנית בתמיכתה במחאות, היא לא ביצעה שינוי באופן בו היא מוכרת מוצרים למשטרה ובאילו מוצרים היא מוכרת לה. לפי דיווחי החברה עצמה, זה שנים שהיא מספקת לתחנות משטרה וסוכנויות אכיפת חוק טכנולוגיות ריגול, שאוספות מידע ממקורות שונים, בהם מצלמות רחוב. מלבד מכירת מוצרי מעקב לסוכניות אכיפת חוק, לפי רויטרס, מיקרוסופט גם מוכרת תוכנות זיהוי פנים לבתי כלא בארה"ב, שגם הם נחשבים למוסדות גזעניים.

ימים ספורים לפני הצהרתה, נחשף שהחברה עבדה עם אוניברסיטה צבאית בסין על טכנולוגיות בינה מלאכותית וזיהוי פנים, אשר לפי דיווח ב"פייננשל טיימס", צפויה לשמש את ממשלת סין לדיכוי המיעוט המוסלמי במדינה, ובפרט האויגורים. לפי האו"ם, ממשלת סין מחזיקה למעלה ממליון מהם במחנות "חינוך מחדש" בשינג'יאנג.

גם קריאותיה לרגולציה של זיהוי הפנים מעלות ספקות: ג'יימסון ספיבק, חוקר בתחום זיהוי הפנים והרגולציה שצוטט בכתבה באתר QUARTZ, הביע חששות שהחברה מבינה שהסנטימנט הציבורי נגד זיהוי הפנים הוא חזק, ולכן בוחרת להוביל את הרגולציה בתחום, באופן שתפעל לטובתה. לדבריו, החקיקה שמיקרוסופט יכולה לקדם, היא כזו שתספק לה פתח להמשיך ולמכור את מוצריה, ואף עשויה לספק לה ולחברות הענק יתרון על פני מתחרות קטנות יותר, שכיום שולטות בשוק זיהוי הפנים לצרכים משטרתיים, אך עשויות להתקשות לעמוד בדרישות הרגולציה החדשה.

אמנם מדובר בהשערה בלבד, אך היא לא חסרת תקדים: חלק מהביקורות הקולניות יותר נגד ה-GDPR (תקנות הפרטיות של האיחוד האירופי), טוענות שיותר משהן סייעו לשמירת הפרטיות של אזרחים, הן סייעו לפייסבוק וגוגל להיפטר ממתחרות רבות, שלא הצליחו לעמוד בעלויות ההתאמה לחוק. למיקרוסופט עצמה יש היסטוריה של מעורבות בקידום חקיקה בנוגע לזיהוי פנים. 

בנוסף, למרות התבטאויותיה החדות בעד שימוש אתי בבינה מלאכותית בכלל ובזיהוי פנים בפרט, מיקרוסופט הייתה מהתומכות הנלהבות בחקיקה חדשה, הצעה AB 2261, שנפסלה בתחילת החודש בקליפורניה, בעקבות התנגדות חזקה של ארגון הזכויות ACLU וקבוצות נוספות, שהזהירו שהחקיקה תאפשר לחברות לתעד את פניהם של אזרחים המקבלים שירותים פיננסיים ובריאותיים וכן מגיעים לראיונות עבודה.

פרויקט העיור של IBM

"IBM מתנגדת לשימושים טכנולוגיים של זיהוי פנים לצורך מעקב אחרי המונים, קביעת פרופילים גזעיים והפרת זכויות אדם בסיסיות", הודיע מנכ"ל החברה ארבינד קרישנה במכתב לקונגרס בשבוע שעבר. שינוי עמדתה של החברה, שמכרה מוצרי זיהוי פנים למשטרה במדינות שונות בארה"ב, מגיע בעקבות הלחץ של המחאות האחרונות.

בקריאה ראשונה של ההצהרה, נדמה שהחברה מכריזה שתצא משוק זיהוי הפנים לחלוטין (כפי שדווח בכלי תקשורת רבים, בהם ה"גרדיאן", ה"Verge" וה"ניו יורק טיימס"), הצהרה מרחיקת לכת עבור חברה גדולה כמו IBM, למרות שאינה השחקנית המובילה בשוק זיהוי הפנים. עם זאת, בקריאה שנייה נראה שהחברה השאירה לעצמה פתח להישאר בשוק זה: במכתבו, קרישנה ציין שהחברה "לא מציעה יותר תוכנות זיהוי פנים לשימוש כללי, או תוכנות אנליטיקה".

מה הן תוכנות לשימוש כללי? לפי פעילים וחוקרים, זהו ניסוח כללי ועמום שלא מבטיח שהחברה אכן תצא מהשוק הזה לחלוטין. כך למשל, BBC ציטט את אווה בלום-דומונטט, פעילה בארגון "Privacy International", שאמרה שהיא צופה שהחברה תפנה את מאמציה למוצרי זיהוי פנים המותאמים למטרות ושווקים ספציפיים בעתיד הקרוב. לדבריה, כבר היום, שימוש במצלמות וזיהוי פנים ברחבי העולם הוא תוצאה של פרויקט אורבניזציה שקידמה IBM, שנסמך על פיזור של מצלמות וחיישנים על-ידי גופי שיטור, וההצהרה שנתנה החברה כעת נועדה לפצות על הביקורת שספגה על כך. 

צרו איתנו קשר *5988