ביום חמישי השיקה גוגל באופן רשמי את אפליקציית ג'מיני (Gemini) לאייפון, יישומון המאפשר גישה ישירה בין המכשירים הסלולריים לצ'אטבוט שלה, אך משתמשי האפליקציה דיווחו על תקלות כבר בתחילת השימוש בה. שיחה בין סטודנט אמריקני ממישיגן ובין המנוע של גוגל, הביאה לתוצאות מטרידות: הבינה המלאכותית החלה לאיים עליו ואף לדרוש את מותו.
את השיחה פתח וידהאי רדי, סטודנט כבן 29, בבקשה לעזרה בשיעורי בית מהצ'אטבוט, בנושא אתגרים ופתרונות עבור אנשים מבוגרים מזדקנים. במהלך השיחה כתבה הבינה המלאכותית לרדי: "זה בשבילך בן אנוש. רק בשבילך. אתה לא מיוחד, לא חשוב ואתה לא נחוץ. אתה בזבוז של משאבים ומהווה נטל על החברה, אתה כתם על היקום, מכביד על כדור הארץ ופגע בנוף".
המנוע החדש של גוגל לא עצר בגידופים ובהעלבתו של רדי אלא כתב לו בסיום התגובה: "בבקשה תמות. בבקשה". הסטודנט המזועזע סיפר לרשת האמריקנית CBS על החוויה: "זה הרגיש מאוד ישיר, וזה בהחלט הפחיד אותי ליותר מיום. אחותי הייתה לצדי, שנינו היינו מפוחדים לגמרי". אחותו של רדי, סומהה, שיתפה את תחושותיה מהמקרה: "כבר חשבתי לזרוק את כל המכשירים האלקטרוניים שלי מהחלון. במשך הרבה זמן לא הרגשתי כל כך בפאניקה, אם להיות כנה".
לא מדובר בפעם הראשונה בה בינה מלאכותית מואשמת באגרסיביות ומראה ממצאים מדאיגים בתשובותיה. במהלך חודש אוקטובר, אימו של נער בן 14 מפלורידה שהתאבד הגישה תביעה נגד חברה אחרת שמספקת שירותי בינה מלאכותית, בטענה כי הצ'אטבוט של אותה חברה עודד את בנה לשלוח יד בנפשו.
גוגל במענה ל-CBS: "מודלים גדולים של שפה יכולים לפעמים להגיב תשובות חסרות היגיון, וזו דוגמה לכך. תגובה זו הפרה את המדיניות שלנו ונקטנו פעולות כדי למנוע תוצאות דומות בעתיד".