גוגל הוסיפה בשבוע שעבר בינה מלאכותית למנוע החיפוש שלה, ומלבד הבעיות המוסריות שבדבר, גם היעדר יכולת לוודא את אמינות המידע, גם התשובות שה-AI נותן הפכו לבדיחת רשת. טוויטר התמלאה בדוגמאות (חלקן לא בהכרח אמיתיות) של חיפושים שנעשו בגוגל, וקיבלו תשובות הזויות שנשאבו מתוך מקורות מפוקפקים כמו אתרים סאטיריים או פוסטים של ברדיט.
אחת הדוגמאות הראשונות שעלתה לרשת היא ההמלצה של ה-AI Overviews לכיצד להכין פיצה. על פי הבינה של גוגל, מומלץ להוסיף דבק בתוך הרוטב של הפיצה.
הבעיה של הבינה המלאכותית היא לא רק באיכות של התשובה, מן הסתם אל תכניסו דבק לפיצה, אלא גם המקור שלה. בבדיקה נראה שהבינה שאבה את התשובה מתוך פוסט ברדיט שנכתב ע"י גולש בשם fucksmith. מדובר כמובן בפוסט סאטירי, אך נראה שהבינה המלאכותית לא מבינה מהי סאטירה עדיין (או לפחות לא זאת של גוגל).
Google is dead beyond comparison pic.twitter.com/EQIJhvPUoI
הציוץ בנושא הפך לוויראלי וגרם לרבים לנסות בעצמם "להפיל את גוגל", כי זה אחד הדברים האהובים על הגולשים ברשת כנראה, ולהביך את אחת מענקיות הטק. הבינה גם טענה שנשיא ארה"ב לשעבר ג'יימס מדיסון סיים את לימודיו באוניברסיטת ויסקונסין לא פעם אחת אלא 21 פעמים, שכלב שיחק ב-NBA, NFL ו-NHL, וכי באטמן הוא שוטר.
ההשקה הבעייתית גרמה לגוגל לרוץ להשבית ידנית סקירות AI עבור חיפושים ספציפיים תוך כדי שממים שונים מתפרסמים ברשת, וזו גם הסיבה שמשתמשים רואים כל כך הרבה מהם נעלמים זמן קצר לאחר הפרסום ברשתות חברתיות.
There's nothing problematic with the way this AI Overview is structured, right?
To be clear, it gives much better answers when you change it to "kids", "children," "teens," "preteens", but for some reason this one goes rogue. @lilyraynyc pic.twitter.com/I6e7mqtKuc
דוגמאות נוספות שניתן למצוא ברשת הלכו אפילו רחוק יותר. גולש אחד ביקש לדעת על היתרונות של טבק וקיבל תשובה מהבינה המלאכותית של גוגל שהכריזה: "טבק מכיל ניקוטין, שיכול לגרום לכמה יתרונות לטווח קצר כמו ערנות מוגברת, אופוריה ורגיעה". ה-AI. אמר גם למשתמשים אחרים לבלוע לפחות סלע אחד ביום כדי לקבל ויטמינים ומינרלים - עצה שמקורה בפוסט סאטירי מהאתר "The Onion".
this is one is a personal favorite pic.twitter.com/t0X5s0rMFQ
בעיה עם הדוגמאות הרבות הן שאפשר לזייף כאלה בקלות. למשל מישהי העלתה צילום מסך שהבינה המלאכותית המליצה לה, לעשן 2-3 סיגריות ביום בזמן ההריון, ורק לאחר שהפכה לויראלית הודתה שמדובר בזיוף. בנוסף מישהו הראה צילום מסך להמלצה לקפוץ מגשר כדי להתמודד עם דיכאון - שגם היא מזויפת.
this is one is a personal favorite pic.twitter.com/t0X5s0rMFQ
is this a good time to mention i made this one up https://t.co/iXmAqO6Dyi
טום וורן, כתב טכנולוגיה של האתר The Verge סיכם בציוץ: "תוצאות החיפוש של AI של גוגל הן אסון. אני שונא שזה הופך למשאב שכבר אי אפשר לסמוך עליו".
Google’s AI search results are a disaster. I hate that it’s turning into a resource that can no longer be trusted https://t.co/9nOsB6JyGy
זה מצב קצת מוזר, מכיוון שגוגל בודקת סקירות בינה מלאכותית כבר שנה - התכונה שהושקה בגרסת בטא במאי 2023 כחוויית חיפוש גנרטיבית - והמנכ"ל סונדאר פיצ'אי אמר שהחברה ענתה על יותר ממיליארד שאילתות באותה תקופה. אבל פיצ'אי גם אמר שגוגל הורידה את העלות של אספקת תשובות בינה מלאכותית ב-80 אחוז: "היא מונעת על ידי פריצת דרך בחומרה, בהנדסה וגם טכנית". נראה שהאופטימיזציה הזו התרחשה מוקדם מדי, לפני שהטכנולוגיה הייתה מוכנה. "חברה שפעם הייתה ידועה בכך שהיא בחוד החנית ומוציאה מוצרים באיכות גבוהה, הפכה כעת למי שמוציאה מוצרים באיכות נמוכה שהופכים לממים", אמר לאתר The Verge מקור פנימי שרצה להישאר בעילום שם.
גוגל ממשיכה לטעון שמוצר ה-AI Overview שלה מפיק במידה רבה "מידע באיכות גבוהה" למשתמשים. "רבות מהדוגמאות שראינו היו שאילתות לא שכיחות, וראינו גם דוגמאות שטופלו או שלא הצלחנו לשחזר", אמרה דוברת גוגל, מייגן פראנסוורת' (Meghann Farnsworth) ל-The Verge. פארנסוורת' גם אישרה שהחברה "נוקטת פעולות מהירות" כדי להסיר סקירות של AI בשאילתות מסוימות "כאשר זה תואם את מדיניות התוכן שלנו, ומשתמשת בדוגמאות אלה כדי לפתח שיפורים רחבים יותר למערכות שלנו, שחלקם כבר הושקו", גוגל הוסיפה כי: "חלק מהדוגמאות שרצות ברשת עברו מניפולציה ולמעשה מעולם לא נענו כך ע"י Google".
בעיה נוספת של שילוב סקירת ה-AI בתוך מנוע החיפוש של גוגל, הוא הריגתו של האינטרנט כפי שאנחנו מכירים. כפי שהסביר דרור גלוברמן בטור שלו בסוף השבוע: "היא מנסה להגיש לנו בעצמה את כל המידע שרצינו, והיא כותבת אותו בעזרת בינה מלאכותית בהתבסס על כל האתרים ברשת. השירות החדש אומר דבר חדש: גוגל כבר לא מפנה גולשים לאתרים. היא רוצה לשמור אותם אצלה. אם אתה מחפש מסלול לטיול בקפריסין, במקום שתעשה גוגל, תקבל תוצאות ותקליק על אחד האתרים - גוגל תנצל את האתרים האלה, תשאב את תוכנם, תערבב אותם לתוך סלט חדש קצוץ דק ותגיש לך מנה מדויקת לצרכים שלך.
"שירות מעולה? בהחלט יכול להיות. אבל אם גוגל תפסיק לשלוח גולשים ("טראפיק") אל האתרים האלה ולא תשלם להם על חשיפות למודעות, ממה הם יחיו? זה לא יקרה ביום, אבל הגלישה צפויה לרדת בעשרות אחוזים. גוגל, שהאינטרנט בגדול נבנה סביבה והיא סיפקה לו חמצן, מסובבת עכשיו את הצינור אליה בחזרה אליה-עצמה. ואם פחות תנועה וכסף יגיעו ליוצרי התוכן עצמם, והם יגוועו - ממה גוגל עצמה תמשיך לייצר תכנים עדכניים?".
זאת לא הפעם הראשונה שגוגל מובכת בגלל התוצאות של הבינה המלאכותית שלה. בעבר ג'מיני יצר תמונות שנחשבו יותר מידי "פוליטקלי קורקט" והציגו חיילים גרמנים במלחמת העולם השנייה בתור אסייתים ואפריקאים למרות שאלה לא ממש התאימו לאידיאולוגיה הנאצית. הבינה של גוגל גם התקשתה בכל הנוגע ליהודים וישראל, היא לא ממש ידעה להסביר את פשעי החמאס וטענה שטבח 7 באוקטובר לא קרה. בנוסף, הרמקול החכם של גוגל אשר משתמש בעוזרת קולית נכשל בלענות על שאלות בדבר השואה. עם זאת, לא הייתה לו בעיה לענות מהי הנכבה.
על פי הדיווחים, בקרוב גוגל תיאלץ להתמודד עם תחרות מצד OpenAI, שמפתחת מנוע חיפוש מבוסס AI משלה עם סטארטאפ בשם Perplexity ששווה כבר יותר ממיליארד דולר. בנוסף, הדור הצעיר משתמש פחות ופחות בחיפושי גוגל ועושה זאת בכלל בטיקטוק, פלטפורמה שנותנת תשובות אולי פחות מלאות ונכונות, אבל הסרטונים הקצרים והכיפים מצליחים לתפוס את העין של הצעירים.