גלובס - עיתון העסקים של ישראלאתר נגיש

מחברות קוסמטיקה ועד אתרי שידוכים, כולם רוצים לזהות את הפנים שלנו, לפי הגזע

חברות קוסמטיקה, אתרי שידוכים, חנויות רהיטים ופרסומאים מגבירים את השימוש בתוכנות לזיהוי פנים לפי גזע ● האם החקיקה תוכל להילחם בטכנולוגיה החדשה השנויה במחלוקת, וה"מדויקת באופן מבהיל", כדברי המדענים?

"תוכנות לזיהוי פנים סופגות ביקורת כי חלקן שוגות בזיהוי אנשים שאינם לבנים" / צילומים: Shutterstock | א.ס.א.פ קריאייטיב
"תוכנות לזיהוי פנים סופגות ביקורת כי חלקן שוגות בזיהוי אנשים שאינם לבנים" / צילומים: Shutterstock | א.ס.א.פ קריאייטיב

כאשר ענקית הקוסמטיקה רבלון רצתה לדעת באיזה שפתון משתמשות נשים מגזעים שונים וממדינות שונות, היא לא הצטרכה לערוך סקר. במקום זה, שכרה את חברת קיירוס ממיאמי, שהשתמשה באלגוריתם ניתוח פנים כדי לסרוק תצלומים באינסטגרם.

ב-2015, היכולת לסרוק פנים ולזהות את הגזע שלהם הייתה עדיין בחיתוליה. היום מציעות יותר מתריסר חברות שיטה כלשהי של זיהוי גזע או מוצא אתני.

בשנים האחרונות, חברות נעזרות בתוכנות זיהוי גזע כדי להבין איך לקוחות מסוימים משתמשים במוצריהן, מי עוקב אחרי הפרסומת שלהן או מה אוהבים אנשים מקבוצות גזע שונות. חברות אחרות משתמשות בהן כדי לאתר מאפיינים גזעיים שונים באוספי תצלומים, בדרך כלל לצורך עיצוב פרסומות או לצרכים ביטחוניים כמו צמצום החיפוש אחרי מישהו במסדי נתונים. בסין, היכן שמעקב אחרי פנים נפוץ מאוד, מצלמות מעקב מצוידות בתוכנת סקירת גזע כדי לאתר מיעוטים אתניים.

פופולרי באתרי שידוכים

תוכנת זיהוי גזע היא תת-תחום של ניתוח פנים, סוג של בינה מלאכותית שסורקת מגוון של מאפיינים בפנים - מהקשת של הגבה עד לצורת עצמות הלחיים - ומשתמשת במידע הזה כדי להסיק מסקנות על המגדר, הגיל, הרגשות ואפילו האטרקטיביות של האנשים הנסרקים. זה שונה מזיהוי פנים, שגם הוא מתבסס על טכניקת בינה מלאכותית שנקראת למידת מכונה ומשמשת לזיהוי פנים מסוימות, למשל כדי לפתוח טלפון חכם או לזהות "גורמים מפריעים" בתוך קהל אנשים.

"ניתוח פנים הוא כלי שימושי כי אנשים קונים בקבוצות ומתנהגים בקבוצות", אומר בריאן בראקין, מייסד קיירוס שעזב אותה ב-2018 ומשקיע כעת בחברות סטארט-אפ.

לקמעונאים ולעסקים נוספים, ניתוח פנים בתצלומים מבטיח את היכולת ללמוד יותר על לקוחות בחנויות פיזיות, במידה רבה כמו השימוש בקוקיז (עוגיות) - קבצי הנתונים הקטנים שמתחקים אחרי פעילות האינטרנט שלנו כדי למקד פרסומות מקוונות לקהל יעד. "העולם הפיזי הוא חלל גדול של נתונים כי אין שם כלום", אומר אג'יי אמלני, סגן נשיא בכיר לפיתוח תאגידי באידמיה - פירמה צרפתית שמציעה זיהוי פנים. כעת המצלמות מתחילות למלא תפקיד דומה לזה של הקוקיז.

Haystack AI מניו יורק אומרת שלקוחותיה משתמשים בתוכנת הסיווג הגזעי שלה למיקוד של פרסומת לקהלי יעד, מחקרי שוק ועזרה באימות זהותם של אנשים. קוגניטק סיסטמס מגרמניה מציעה בין השאר איתור אתני לקמעונאים ולחברות אחרות לצורך איסוף נתונים סטטיסטיים על הלקוחות, אומר יורגן פאמפוס, מנהל המכירות והשיווק שלה ומציין שאף לקוח לא קנה עדיין רישיון לסיווג גזעי.

ספקטריקו, חברת סטארט-אפ בולגרית שמוכרת רישיון קבוע לא מוגבל לכלי הסיווג הגזעי שלה באלף אירו, אומרת שאתרי שידוכים (דייטים) משתמשים בו כדי לאמת שהפרופילים נכונים, ומפרסמים משתמשים בו כדי להכיר את סוגי הקהלים שצופים בשלטי חוצות חכמים. המייסד מרטין פרנב אמר שכמה לקוחות קנו את כלי הסיווג לפי גזע, ויותר לקוחות קנו אותו בשילוב עם כלי סיווג גיל ומגדר.

באתר של ++China’s Face, שהיא אחת מחברות זיהוי וניתוח הפנים הגדולות בעולם (הוערכה ב-4 מיליארד דולר במאי 2019, לפי חברת מודיעין השוק PitchBook) נאמר שכלי זיהוי הגזע שלה יכול לשמש לניתוח התנהגות צרכנים ומיקוד של פרסומת לקהלי יעד.

ניתוח של פנים מתנהל במידה רבה תחת הרדאר, אף שהוא סופג ביקורת כי מערכות גרועות מזהות לא נכון אנשים שאינם לבנים. בוסטון, סן פרנסיסקו, מדינת וושינגטון וקליפורניה הגבילו את השימוש בזיהוי פנים בחוק. יבמ, אלפאבית ומיקרוסופט הגבילו את עסקי זיהוי הפנים שלהן במיוחד במכירת תוכנות למחלקות משטרה.

כן לעסקים, לא לממשלות

המחקר סביב ניתוחי (אנליזות) הפנים נמשך. כמה מדענים אומרים שהאלגוריתמים שמאומנים לזיהוי פנים יכולים להיות מדויקים במידה מבהילה. בחודש מאי השנה, מדענים מאוניברסיטת רוהר בבוכום, גרמניה, פרסמו מאמר בכתב העת המדעי "משין לרנינג" ובו נכתב שהאלגוריתם שלהם יכול להעריך אם פנים הם לבנים, שחורים, אסיאנים, היספנים או אחרים בדייקנות של 99%.

כמה חוקרים ואפילו חברות שעוסקות בכך אומרים שניתוח פנים מבוסס גזע לא צריך להתקיים בכלל. עשרות שנים ממשלות אסרו על רופאים, בנקים ומעסיקים להשתמש במידע על גזע כדי להחליט באיזה חולה לטפל, לאלו לווים להעניק משכנתה ואיזה מועמד לקבל לעבודה. תוכנת זיהוי גזע עלולה לאפשר למוסדות ולמעסיקים, במכוון או שלא, לקבל החלטות בהתבסס על הרקע הגזעי של אדם בדרכים שקשה יותר להכיר, כי הן מתרחשות באלגוריתמים מסובכים או לא שקופים, לפי חוקרים בתחום.

שימוש ב-AI (בינה מלאכותית) לזיהוי גזע "נראה מזיק יותר ממועיל", אומר ארבינד נרינאן, פרופסור למדעי המחשב באוניברסיטת פרינסטון שחקר עד כמה אנונימיים יכולים להיות נתונים המשמשים לזיהוי בני אדם.

"אנשים מגזע מעורב יכולים לא להסכים עם איך שהאלגוריתם מסווג אותם", אומרת קרלי קיינד, מנהלת מכון אדה לאבלייס בלונדון, גוף מחקר שמתמקד ביישומים של AI. "למערכות טכנולוגיות יש כוח להפוך דברים לנתונים ועובדות למסקנות אובייקטיביות לכאורה".

תוכנות שמאפשרות למעסיקים לסרוק הבעות פנים של מועמדים לעבודה כשהם מתראיינים עלולות בלי כוונה להפלות בין מועמדים אם הן מתחילות להביא בחשבון גזע, אומרת קיינד, ומוסיפה שמשטרה המסווגת קבוצות אתניות בתוכנת ניתוחי פנים מסתכנת בהחמרת סטריאוטיפים גזעיים.

זיהוי גזע עלול להזיק גם אם חברות משתמשות בו לדחיפת אנשים אל מוצרים מסוימים או להצעת תמחור מפלה/מוטה, אומר איבן גריר, סמנכ"ל קבוצת הזכויות הדיגיטליות Fight for the Future.

השימוש בסריקת פנים בסין שנוי במחלוקת, בעיקר בשינג'יאנג, המחוז בצפון-מערב המדינה שבו מרגלות הרשויות אחרי המיעוט המוסלמי האויגורי. בשנה שעברה, יצרנית מצלמות מעקב סינית, הנגז’ו היקוויז’ן דיגיטל, פרסמה באתר שלה מצלמה שיכולה אוטומטית לזהות אויגורים, לפי כתב העת IPBM של תעשיית האבטחה.

בראקין, מייסד קיירוס שעזב אותה, שהוא שחור, שיבח תחילה את מערכת זיהוי הגזע שלה בשל יכולתה לסייע לעסקים לתפור שיווק למיעוטים אתניים. היום הוא מאמין שלתוכנת זיהוי גזע יש פוטנציאל ללבות אפליה.

בראקין אינו מתנגד לכך שעסקים ישתמשו בה, אך טוען שממשלות לא צריכות להיעזר בה, וחושש גם משימוש צרכני. קיירוס השיקה ב-2017 יישום חינמי שהראה איך שחורים, לבנים, אסייתים או היספנים נראים כשהם מעלים סלפי. "קיוויתי שאנשים יראו את ההומניות של אנשים אחרים", הוא אומר.

יותר מ-10 מיליון אנשים העבירו ליישום צילומי סלפי כדי לראות את התוצאות. רבים מהמשתמשים ביישום, בייחוד בברזיל, התלוננו שהתוצאה שהם קיבלו לא הייתה "לבנה" מספיק, אומר בראקין. היישום בוטל.

בצפון אירופה, רשת חנויות ריהוט השתמשה בתוכנת ניתוחי פנים של החברה ההולנדית סייטקורפ כדי לסרוק לקוחות שנכנסים לחנויות, וגילתה שרבים מהם היו צעירים מכפי שהיא ציפתה. היא שכרה לבסוף יותר מוכרנים בשנות ה-20 וה-30 לחייהם, לפי ג'ויס קרדונה, מנכ"לית Sightcorp. החברה שלה הפסיקה למכור את כלי סיווג הגזעים שלה ב-2017, מחשש שהוא מפר את חוקי פרטיות הנתונים באירופה.

Facewatch, חברה בריטית לזיהוי פנים שהתוכנה שלה מאתרת גנבים חשודים כשהם נכנסים לחנויות על-ידי השוואת סריקות פנים לאלבומי חשודים, ביטלה השנה אופציה לזיהוי גזע, מגדר (מין) או גיל של קונים, מפני ש"זה מידע לא רלוונטי", מסר דובר שלה.

"יש סכנות ביטחון באיסוף נתוני גזע שיכולים, בכוונה או שלא בכוונה, להיות מקושרים לזהות של אנשים", אומר אלכס היד, החוקר הראשי בחברת אבטחת הסייבר סקיוריטי סקורקארד. החברה שלו מצאה לאחרונה כ-6 אתרים עם חולשות אבטחה במסדי הנתונים על פנים של אנשים, כולל חברת זיהוי פנים ובית ספר אמריקאי להנדסה שחייבו סטודנטים להראות את פניהם כדי להיכנס למערכות המחשוב שלהם.

חברות שמציעות שירותי ניתוחי פנים אומרות שהנתונים הדמוגרפיים שהמערכות שלהן אוספות לא מחוברים לזהויות של אנשים. אבל חברות נתונים יכולות בתיאוריה לשלב מסדי נתונים שיווקיים שנִקנים ונמכרים ברשת וליצור תמונה מפורטת יותר של האנשים בהם, כלומר לחבר בין נתונים וזהויות, אומר היד.

"לפני כמה שנים, חברות שמכרו ניתוחי פנים היו פתוחות יותר לגבי יכולתן לסרוק מאפיינים דמוגרפיים", אומר זק דופמן, מנכ"ל בריארס דיגיטל, חברה בריטית לזיהוי פנים שעובדת עם רשויות חוק. "כשחברות טק גדולות החלו לספוג ביקורת על מערכות זיהוי הפנים שלהן, כולם הפסיקו לדבר על זה. היום, אף אחד לא מדבר על זיהוי אתני. לפחות לא בגלוי".

תגובות: דוברת של רבלון מסרה שאינה יכולה להגיב מפני שסריקת האינסטגרם התרחשה לפני כמה שנים. קיירוס לא הגיבה לפניות אליה.

עוד כתבות

טראמפ רוקד בעצרת באוהיו בשבת / צילום: Jeff Chiu, Associated Press

הסושיאל הולך להכריע את הבחירות בארה"ב. השאלה לטובת מי

ביידן מצידו עוד לא סיים ללמוד על הסושיאל את מה שטראמפ הספיק כבר לשכוח ● מאידך, הוא הספיק ללמוד לא מעט מהטעויות של הילארי ● אמנם עוד לא ניתן לדעת מי ינצח ואפילו לא מתי נדע זאת, אבל מנצח בטוח אחד כבר יש

קרייריסטית / אילוסטרציה: shutterstock, שאטרסטוק

אני רק שאלה: "המנהל שאל אותי אם אני 'קרייריסטית'. מה לענות?"

כך תעמידו את המנהל במקומו כשתישאלו שאלות שהן לא לעניין ● טור ייעוץ

מדף בקבוקי פלסטיק של קוקה קולה / צילום: תמר מצפי

"מבצע חסר תקדים": כך נראית המלחמה של קוקה קולה ישראל ביבוא המקביל

האם גל היבוא המקביל דוחף את קוקה קולה למבצעים אגרסיביים? ● החל מה-3 בנובמבר, על כל קניית שישיית בקבוקי קוקה קולה או זירו, הצרכן יקבל מארז של 4 פחיות מתנה ● החברה המרכזית: "חלק מתוכנית המבצעים השנתית"

הפעלת תו קנייה מקוון / אילוסטרציה: שאטרסטוק

צרכן קנה 8 זוגות נעליים ב-322 שקל, החנות ביטלה את העסקה. מה אמר ביהמ"ש?

האם טעות במחיר מחייבת את המוכר? התשובה לפי פסיקה שהתקבלה בבית משפט לתביעות קטנות בחדרה היא לא ● "צריך היה להיות ברור, לתובע שהמחיר המוצג נמוך מדי"

אלון שוסטר, כחול לבן / צילום: יח"צ

חלב עמיד: גם בעולם מכסות הייצור לא נעלמו, הן רק משנות צורה

החשוד המיידי במחסור בחלב בימי הסגר היה מנגנון המכסות הנהוג בישראל, שנטען כי הוא שריד ממשטרים של כלכלה מתוכננת • למרות שברחבי העולם נוקטים בשלל שיטות, נראה שאף מדינה לא מותירה את העסק ההפכפך הזה רק לידו הנעלמה של השוק ● המשרוקית של "גלובס"

הבחירות בארה"ב: כל הדיווחים והפרשנויות של כתבי גלובס

בנימין נתניהו / צילום: שמוליק גרוסמן, דוברות הכנסת

קריאת ההשכמה לנתניהו, המרוץ הרדום לנשיאות ואיך ייראו בחירות בימי קורונה?

יותר קלפיות, אמצעי מיגון ומוקדי הצבעה מיוחדים לחולים ומבודדים - כל זה צפוי להעלות את תקציב ועדת הבחירות באופן דרמטי לקראת הבחירות הבאות ● בינתיים, ראש הממשלה נתניהו קיבל באריאל עוד קריאת השכמה, בעוד המירוץ למשכן הנשיאות נראה רדום במיוחד

בורסת וול סטריט / צילום: Associated Press

וול סטריט בדרך לסגור את אוקטובר באדום בוהק: הנאסד"ק מתרסק; מניות הטק צוללות

בורסות אירופה ננעלו במגמה מעורבת, הדאקס והפוטסי ירדו בעוד הקאק עלה ● מדד VIX ("מדד הפחד") מטפס ● חמישה ימים נותרו עד לבחירות בארה"ב ● כל מניות הטק נופלות מלבד אלפאבית ● בורסות אסיה ננעלו בירידות חדות

סונדאר פיצ'אי מעיד בועדת השיפוט של הקונגרס האמריקאי בנושא שימוש בנתוני משתמשים בגוגל / צילום: Jim Young, רויטרס

גוגל ריסקה את התחזיות לרבעון: מציגה צמיחה של 14% - הרבה מעל לצפי

הרווח הנקי למניה עמד על 16.4 דולר – יותר מחמישה דולרים מעל התחזיות ● הרווח הנקי הסתכם ב-11.3 מיליארד דולר - זינוק של 61% לעומת הרבעון המקביל אשתקד

כמו לכל דבר, גם לעבודה מהבית יתרונות וחסרונות / צילום: Shutterstock/א.ס.א.פ קרייטיב

ביחד אבל בנפרד: עתיד העבודה במשרד הווירטואלי

מודל העבודה ההיברידי יחייב ארגונים לשנות את האופן שבו הם מגדירים משרד ולהתמודד עם השאלה איך יוצרים מרחב וירטואלי שמאפשר עבודה משותפת אמיתית

ג'ק דורסי / צילום: Anushree Fadnavis, רויטרס

טוויטר עקפה את תחזית הרווח וההכנסות אך המניה מתרסקת במסחר המאוחר

ברבעון בו הגבילה החברה את ציוצי הנשיא טראמפ, והצהירה על כוונתה לקדם שיח בריא ברשת, טוויטר רשמה עלייה נמוכה מהצפוי במספר המשתמשים ● הזהירה מפני חוסר וודאות לקראת הבחירות בארה"ב בכל הנודע להתנהגות המפרסמים

תומכי ג'ו ביידן במיאמי, פלורידה / צילום: MARCO BELLO, רויטרס

פלורידה לא למדה לקח: טל שניידר בדרך למדינה ש"מכתירה" את נשיאי ארה"ב

פלורידה היא מדינה חצויה שמשקפת כנראה יותר מכל את אמריקה המפולגת ● ההיסטוריה מלמדת שפלורידה כמעט תמיד בוחרת במנצח ונוטה להחליף צד כל כמה שנים ● כך היה עם רייגן והבושים, וקלינטון ואובמה וטראמפ ● האם גם הפעם היא תנבא את התוצאות

פינוי פצועים מהריסות בניין בטורקיה / צילום: Tuncay Dersinlioglu, רויטרס

לפחות ארבעה הרוגים ועשרות פצועים ברעידת אדמה במערב טורקיה

באיי סאמוס ביוון ובאזור איזמיר שמבערב טורקיה הורגשה רעידת אדמה חזקה שגרמה לקריסת בניינים ולהצפות ● אמבולנסים וצוותי הצלה פינו עד כה יותר ממאה ועשרים פצועים וארבע גופות של נפגעי הרעש ● באיזמיר קרסו עשרות בניינים ולפי התקשורת המקומית לפחות 25 צוות הצלה וחילוץ מנסים לאתר ניצולים בין ההריסות

דליפת נפט בנמל קצא"א באשקלון / צילום: דוברות המשרד להגנת הסביבה

כ-3 ק"מ מהחוף: אירוע דליפת נפט בנמל קצא"א באשקלון

אירוע מקומי של דליפת נפט התרחש הבוקר בנמל קצא״א באשקלון ● לפי המשרד להגנת הסביבה מדובר באירוע נקודתי, אך מתקן ההתפלה הושבת ליתר ביטחון לאחר התייעצות עם משרד הבריאות

טים קוק, מנכ"ל אפל /  צילום: רויטרס Thomas Peter

ההכנסות מהאייפון אכזבו - ומניית אפל יורדת במסחר המאוחר

הפתעה לטובה במכירות האייפדים ומחשבי מק פיצו על הירידה בהכנסות מהאייפונים, והחברה עקפה את התחזיות ● אפל לא סיפקה תחזית לרבעון הבא, שיכלול את מכירות האייפונים החדשים

תומכי ג'ו ביידן במיאמי, פלורידה / צילום: MARCO BELLO, רויטרס

החולשה של מדינות "חגורת החלודה" הפכה לצרה צרורה עבור טראמפ

מדינות עם בסיס תעשייתי חזק כוויסקונסין, פנסילבניה, אוהיו, ומישיגן לא השתתפו בחגיגת הצמיחה של ארה"ב בקדנציה הראשונה של טראמפ ● ג'ו ביידן לא מתכוון להחמיץ את ההזדמנות לקרוץ להן ולהפיל על הנשיא המכהן את הדשדוש שאליו נקלעו

הכנס השנתי על שם פרופ' ירון אזרחי - "מדמיינים מחדש דמוקרטיה" - מטעם המכון הישראלי לדמוקרטיה / צילום: צילום מסך

"מהי עיתונות, מיהו עיתונאי, מיהו מו"ל, ומי שם ילד בן 18 או 20 בגל"צ להכריע מי הטוב ומי הרע"

בפאנל של המכון הישראלי לדמוקרטיה אמרה אלונה בר און מו"ל גלובס כי "הבעיה העיקרית של העיתונות כיום היא היעדר אתוס, תרבות ומקצוענות" ● גיא רולניק סגן מו"ל הארץ אמר כי לשיטתו תיקי 2,000 ו-4,000 היו אמורים להוביל לחשבון נפש בעיתונות וכי בכל מקרה הקשיים הכלכליים לא הם אלו שדרדרו את האתיקה ● גולן יוכפז מנכ"ל חדשות 13 לשעבר טען שהעיתונות נפלה לכרוניקה בסיקור הקורונה ועו"ד נגה רובינשטיין דיברה על העיכוב שבו נמצאת הרגולציה הישראלית ביחס לטיפול בגוגל ובפייסבוק ● את הפאנל הנחתה ד"ר תהילה שוורץ אלטשולר

עדי צפדיה / צילום: גילת

לאחר ביטול הרכישה: גילת תחלק דיבידנדים בגובה 20 מיליון דולר

"בעקבות קבלת התשלום מקומטק, אנו שמחים לחלק את הסכום המשמעותי הזה כדיבידנד לבעלי המניות שלנו", אמר המנכ"ל הזמני של גילת, עדי צפדיה ● נוסף על כך, בהתאם לדרישות החוק בישראל, דירקטוריון גילת יבקש מבית המשפט אישור לחלוקת דיבידנד נוסף של כ-35 מיליון דולר

בריכת שחיה/  צילום: יחצ

פעילויות ספורט לילדים, צימרים ודרייב אין: אלו המקומות שיפתחו בשבוע הבא

קבינט הקורונה אישר הלילה כי החל מיום ראשון הקרוב יחזור הספורט לילדים ונוער בספורט התחרותי בכל הענפים, ובנוסף יפתחו מעל ל-200 אתרי מורשת ● בנוסף הקבינט אישר הלילה גם את הפעלת המועדוניות הנותנות שירותים חברתיים להפגת בדידות הקשישים ברשויות המקומיות

בנימין נתניהו / צילום: שמוליק גרוסמן, דוברות הכנסת

רה"מ לסוחרים: "התחלואה מזנקת בעולם, מבקש מכם לשתף פעולה עוד כמה ימים"

רה"מ פנה באמצעות חשבון הטוויטר שלו לסוחרים לאחר שחלקם איימו להפר את הנחיות הממשלה ולפתוח חנויות וביקש מהם להמתין ל-8 בנובמבר ● התאגדות הרשתות: "אין לנו עוד כמה ימים, לחלקנו אין אפילו עוד כמה שעות"