"תוכנות לזיהוי פנים סופגות ביקורת כי חלקן שוגות בזיהוי אנשים שאינם לבנים" / צילומים: Shutterstock | א.ס.א.פ קריאייטיב
כאשר ענקית הקוסמטיקה רבלון רצתה לדעת באיזה שפתון משתמשות נשים מגזעים שונים וממדינות שונות, היא לא הצטרכה לערוך סקר. במקום זה, שכרה את חברת קיירוס ממיאמי, שהשתמשה באלגוריתם ניתוח פנים כדי לסרוק תצלומים באינסטגרם.
ב-2015, היכולת לסרוק פנים ולזהות את הגזע שלהם הייתה עדיין בחיתוליה. היום מציעות יותר מתריסר חברות שיטה כלשהי של זיהוי גזע או מוצא אתני.
בשנים האחרונות, חברות נעזרות בתוכנות זיהוי גזע כדי להבין איך לקוחות מסוימים משתמשים במוצריהן, מי עוקב אחרי הפרסומת שלהן או מה אוהבים אנשים מקבוצות גזע שונות. חברות אחרות משתמשות בהן כדי לאתר מאפיינים גזעיים שונים באוספי תצלומים, בדרך כלל לצורך עיצוב פרסומות או לצרכים ביטחוניים כמו צמצום החיפוש אחרי מישהו במסדי נתונים. בסין, היכן שמעקב אחרי פנים נפוץ מאוד, מצלמות מעקב מצוידות בתוכנת סקירת גזע כדי לאתר מיעוטים אתניים.
פופולרי באתרי שידוכים
תוכנת זיהוי גזע היא תת-תחום של ניתוח פנים, סוג של בינה מלאכותית שסורקת מגוון של מאפיינים בפנים - מהקשת של הגבה עד לצורת עצמות הלחיים - ומשתמשת במידע הזה כדי להסיק מסקנות על המגדר, הגיל, הרגשות ואפילו האטרקטיביות של האנשים הנסרקים. זה שונה מזיהוי פנים, שגם הוא מתבסס על טכניקת בינה מלאכותית שנקראת למידת מכונה ומשמשת לזיהוי פנים מסוימות, למשל כדי לפתוח טלפון חכם או לזהות "גורמים מפריעים" בתוך קהל אנשים.
"ניתוח פנים הוא כלי שימושי כי אנשים קונים בקבוצות ומתנהגים בקבוצות", אומר בריאן בראקין, מייסד קיירוס שעזב אותה ב-2018 ומשקיע כעת בחברות סטארט-אפ.
לקמעונאים ולעסקים נוספים, ניתוח פנים בתצלומים מבטיח את היכולת ללמוד יותר על לקוחות בחנויות פיזיות, במידה רבה כמו השימוש בקוקיז (עוגיות) - קבצי הנתונים הקטנים שמתחקים אחרי פעילות האינטרנט שלנו כדי למקד פרסומות מקוונות לקהל יעד. "העולם הפיזי הוא חלל גדול של נתונים כי אין שם כלום", אומר אג'יי אמלני, סגן נשיא בכיר לפיתוח תאגידי באידמיה - פירמה צרפתית שמציעה זיהוי פנים. כעת המצלמות מתחילות למלא תפקיד דומה לזה של הקוקיז.
Haystack AI מניו יורק אומרת שלקוחותיה משתמשים בתוכנת הסיווג הגזעי שלה למיקוד של פרסומת לקהלי יעד, מחקרי שוק ועזרה באימות זהותם של אנשים. קוגניטק סיסטמס מגרמניה מציעה בין השאר איתור אתני לקמעונאים ולחברות אחרות לצורך איסוף נתונים סטטיסטיים על הלקוחות, אומר יורגן פאמפוס, מנהל המכירות והשיווק שלה ומציין שאף לקוח לא קנה עדיין רישיון לסיווג גזעי.
ספקטריקו, חברת סטארט-אפ בולגרית שמוכרת רישיון קבוע לא מוגבל לכלי הסיווג הגזעי שלה באלף אירו, אומרת שאתרי שידוכים (דייטים) משתמשים בו כדי לאמת שהפרופילים נכונים, ומפרסמים משתמשים בו כדי להכיר את סוגי הקהלים שצופים בשלטי חוצות חכמים. המייסד מרטין פרנב אמר שכמה לקוחות קנו את כלי הסיווג לפי גזע, ויותר לקוחות קנו אותו בשילוב עם כלי סיווג גיל ומגדר.
באתר של ++China’s Face, שהיא אחת מחברות זיהוי וניתוח הפנים הגדולות בעולם (הוערכה ב-4 מיליארד דולר במאי 2019, לפי חברת מודיעין השוק PitchBook) נאמר שכלי זיהוי הגזע שלה יכול לשמש לניתוח התנהגות צרכנים ומיקוד של פרסומת לקהלי יעד.
ניתוח של פנים מתנהל במידה רבה תחת הרדאר, אף שהוא סופג ביקורת כי מערכות גרועות מזהות לא נכון אנשים שאינם לבנים. בוסטון, סן פרנסיסקו, מדינת וושינגטון וקליפורניה הגבילו את השימוש בזיהוי פנים בחוק. יבמ, אלפאבית ומיקרוסופט הגבילו את עסקי זיהוי הפנים שלהן במיוחד במכירת תוכנות למחלקות משטרה.
כן לעסקים, לא לממשלות
המחקר סביב ניתוחי (אנליזות) הפנים נמשך. כמה מדענים אומרים שהאלגוריתמים שמאומנים לזיהוי פנים יכולים להיות מדויקים במידה מבהילה. בחודש מאי השנה, מדענים מאוניברסיטת רוהר בבוכום, גרמניה, פרסמו מאמר בכתב העת המדעי "משין לרנינג" ובו נכתב שהאלגוריתם שלהם יכול להעריך אם פנים הם לבנים, שחורים, אסיאנים, היספנים או אחרים בדייקנות של 99%.
כמה חוקרים ואפילו חברות שעוסקות בכך אומרים שניתוח פנים מבוסס גזע לא צריך להתקיים בכלל. עשרות שנים ממשלות אסרו על רופאים, בנקים ומעסיקים להשתמש במידע על גזע כדי להחליט באיזה חולה לטפל, לאלו לווים להעניק משכנתה ואיזה מועמד לקבל לעבודה. תוכנת זיהוי גזע עלולה לאפשר למוסדות ולמעסיקים, במכוון או שלא, לקבל החלטות בהתבסס על הרקע הגזעי של אדם בדרכים שקשה יותר להכיר, כי הן מתרחשות באלגוריתמים מסובכים או לא שקופים, לפי חוקרים בתחום.
שימוש ב-AI (בינה מלאכותית) לזיהוי גזע "נראה מזיק יותר ממועיל", אומר ארבינד נרינאן, פרופסור למדעי המחשב באוניברסיטת פרינסטון שחקר עד כמה אנונימיים יכולים להיות נתונים המשמשים לזיהוי בני אדם.
"אנשים מגזע מעורב יכולים לא להסכים עם איך שהאלגוריתם מסווג אותם", אומרת קרלי קיינד, מנהלת מכון אדה לאבלייס בלונדון, גוף מחקר שמתמקד ביישומים של AI. "למערכות טכנולוגיות יש כוח להפוך דברים לנתונים ועובדות למסקנות אובייקטיביות לכאורה".
תוכנות שמאפשרות למעסיקים לסרוק הבעות פנים של מועמדים לעבודה כשהם מתראיינים עלולות בלי כוונה להפלות בין מועמדים אם הן מתחילות להביא בחשבון גזע, אומרת קיינד, ומוסיפה שמשטרה המסווגת קבוצות אתניות בתוכנת ניתוחי פנים מסתכנת בהחמרת סטריאוטיפים גזעיים.
זיהוי גזע עלול להזיק גם אם חברות משתמשות בו לדחיפת אנשים אל מוצרים מסוימים או להצעת תמחור מפלה/מוטה, אומר איבן גריר, סמנכ"ל קבוצת הזכויות הדיגיטליות Fight for the Future.
השימוש בסריקת פנים בסין שנוי במחלוקת, בעיקר בשינג'יאנג, המחוז בצפון-מערב המדינה שבו מרגלות הרשויות אחרי המיעוט המוסלמי האויגורי. בשנה שעברה, יצרנית מצלמות מעקב סינית, הנגז’ו היקוויז’ן דיגיטל, פרסמה באתר שלה מצלמה שיכולה אוטומטית לזהות אויגורים, לפי כתב העת IPBM של תעשיית האבטחה.
בראקין, מייסד קיירוס שעזב אותה, שהוא שחור, שיבח תחילה את מערכת זיהוי הגזע שלה בשל יכולתה לסייע לעסקים לתפור שיווק למיעוטים אתניים. היום הוא מאמין שלתוכנת זיהוי גזע יש פוטנציאל ללבות אפליה.
בראקין אינו מתנגד לכך שעסקים ישתמשו בה, אך טוען שממשלות לא צריכות להיעזר בה, וחושש גם משימוש צרכני. קיירוס השיקה ב-2017 יישום חינמי שהראה איך שחורים, לבנים, אסייתים או היספנים נראים כשהם מעלים סלפי. "קיוויתי שאנשים יראו את ההומניות של אנשים אחרים", הוא אומר.
יותר מ-10 מיליון אנשים העבירו ליישום צילומי סלפי כדי לראות את התוצאות. רבים מהמשתמשים ביישום, בייחוד בברזיל, התלוננו שהתוצאה שהם קיבלו לא הייתה "לבנה" מספיק, אומר בראקין. היישום בוטל.
בצפון אירופה, רשת חנויות ריהוט השתמשה בתוכנת ניתוחי פנים של החברה ההולנדית סייטקורפ כדי לסרוק לקוחות שנכנסים לחנויות, וגילתה שרבים מהם היו צעירים מכפי שהיא ציפתה. היא שכרה לבסוף יותר מוכרנים בשנות ה-20 וה-30 לחייהם, לפי ג'ויס קרדונה, מנכ"לית Sightcorp. החברה שלה הפסיקה למכור את כלי סיווג הגזעים שלה ב-2017, מחשש שהוא מפר את חוקי פרטיות הנתונים באירופה.
Facewatch, חברה בריטית לזיהוי פנים שהתוכנה שלה מאתרת גנבים חשודים כשהם נכנסים לחנויות על-ידי השוואת סריקות פנים לאלבומי חשודים, ביטלה השנה אופציה לזיהוי גזע, מגדר (מין) או גיל של קונים, מפני ש"זה מידע לא רלוונטי", מסר דובר שלה.
"יש סכנות ביטחון באיסוף נתוני גזע שיכולים, בכוונה או שלא בכוונה, להיות מקושרים לזהות של אנשים", אומר אלכס היד, החוקר הראשי בחברת אבטחת הסייבר סקיוריטי סקורקארד. החברה שלו מצאה לאחרונה כ-6 אתרים עם חולשות אבטחה במסדי הנתונים על פנים של אנשים, כולל חברת זיהוי פנים ובית ספר אמריקאי להנדסה שחייבו סטודנטים להראות את פניהם כדי להיכנס למערכות המחשוב שלהם.
חברות שמציעות שירותי ניתוחי פנים אומרות שהנתונים הדמוגרפיים שהמערכות שלהן אוספות לא מחוברים לזהויות של אנשים. אבל חברות נתונים יכולות בתיאוריה לשלב מסדי נתונים שיווקיים שנִקנים ונמכרים ברשת וליצור תמונה מפורטת יותר של האנשים בהם, כלומר לחבר בין נתונים וזהויות, אומר היד.
"לפני כמה שנים, חברות שמכרו ניתוחי פנים היו פתוחות יותר לגבי יכולתן לסרוק מאפיינים דמוגרפיים", אומר זק דופמן, מנכ"ל בריארס דיגיטל, חברה בריטית לזיהוי פנים שעובדת עם רשויות חוק. "כשחברות טק גדולות החלו לספוג ביקורת על מערכות זיהוי הפנים שלהן, כולם הפסיקו לדבר על זה. היום, אף אחד לא מדבר על זיהוי אתני. לפחות לא בגלוי".
תגובות: דוברת של רבלון מסרה שאינה יכולה להגיב מפני שסריקת האינסטגרם התרחשה לפני כמה שנים. קיירוס לא הגיבה לפניות אליה.