כמה תמונות צילמתם בטיול האחרון בחו"ל? אם אתם חיים באותו דור כמונו, מן הסתם מספר תלת-ספרתי ומעלה. מזל שגוגל מתייגת את כל התמונות אחרי שהיא מגבה לכם אותן בשירות גוגל Photos, וכך תוכלו למצו בדיוק את אלו שמעניינות אתכם בכל פעם שתרצו.
אלא אם כן אתם מנסים למצוא תמונות של קופים.
מגזין Wired מגלה כי גוגל חסמה את הבינה המלאכותית שלה מלתייג תמונות בתגיות "קוף", "שימפנזה" ו"גורילה" - שני סוגי קופים שדומים למדי לבני אנוש והמילה הכללית לכל סוגי הקופים.
הסיבה: לפני שנתיים וחצי נאלצה החברה להתנצל לאחר שהבינה המלאכותית שלה תייגה את מפתח התוכנה ג'קי אלקין מניו יורק ואת חברתו כגורילות. החברה הואשמה בזמנו בכך שהבינה המלאכותית שלה גזענית, והבטיחה לנקוט בצעדים כדי למנוע מקרים כאלה בעתיד. עתה, מסתבר שבמקום ללמד את אלגוריתם זיהוי העצמים בתמונות להבדיל בין אנשים כהי-עוד לקופי-אדם, בגדירה גוגל לתוכנה לא לתייג כלל קופים אנושיים ואנשים כהים.
סדרת ניסיונות שערך Wired מוכיחים זאת: ראשית, העלה המגזין מאגר מגוון של 40,000 תמונות לשירות וגילה שהחיפוש יודע לזהות סוגים שונים של בעלי חיים ואפילו תת-זנים, כמו דובי פנדה או כלבי פודל - אבל חיפוש של "קוף", "גורילה" או "שימפנזה" לא מניב תוצאות. "בבון", "אורנגאוטן" וסוגי קופים אחרים שאינם דומים לבני אנוש השירות של גוגל דווקא כן מוצא - כל עוד לא מוסיפים את המילה החסומה "קוף" לחיפוש.
במבחן שני שערך המגזין הועלו לשירות 20 תמונות שנבחרו בקפידה מאתרי עמותות לרווחת קופים, ובהם נראים בבירור שימפנזות וגורילות. למרות ההקשר - המילים הללו עדיין לא הופיעו בתגיות שנתנה גוגל לתמונות, והיא הסתפקה ב"ג'ונגל", "יער" ו"גן חיות".
כדי להוכיח גם את הצד השני של המשוואה העלה המגזין לשירות מאגר של 10,000 תמונות פנים שמשמש לבדיקת תוכנות זיהוי פנים. גוגל לא הצליחה למצוא במאגר אנשים שחורי עור בחיפושים רלוונטיים, מלבד "אפרו" - שלפי הניסוח במגזין ניתן להבין שככל הנראה מצא בעיקר אנשים עם עיצוב השיער בשם זה, בלי קשר לצבע עורם.
המגזין ניסה גם את שירותי זיהוי התמונות האחרים של גוגל - וגילה כי גוגל אסיסטנט - העוזרת הקולית של גוגל, שבין היתר מסוגלת לתאר תמונות שמופיעות על מסך הטלפון עבור כבדי ראייה - קוראת לגורילה גורילה ולשימפנזה שימפנזה. אבל אפליקציית הראייה הממוחשבת גוגל Lens לא. גם שירות הראייה הממוחשבת שמספקת גוגל לתוכנות של חברות צד שלישי מזהה קופים מכל הסוגים.
דובר גוגל הודה בתגובה ל-Wired שבמקום ללמד את התוכנה מה ההבדל בין קופי-אדם ובני-אדם כהים, החברה פשוט חסמה את התוכנה מלזהות את שניהם. "טכנולוגיית תיוג התמונות עדיין בשלב מוקדם ולרוע המזל אינה קרובה לשלמות", הוא אמר. הוא לא הסביר למה רק בחלק מהשירותים גוגל חוסמת זיהוי של קופי-אדם ובני אנוש אפריקאים.