ביום חמישי גוגל השיקה באופן רשמי את אפליקציית "ג'מיני", המאפשרת גישה ישירה בין מכשירים סלולריים לצ'אטבוט שלה, אך האפליקציה החדשה הציגה תקלה במספר בעיות כבר בתחילת השימוש בה. שיחה בין סטודנט אמריקני ממישיגן לבין המנוע של גוגל, הביאה לתוצאות מטרידות, שבסופן הבינה המלאכותית החלה לאיים עליו ואף לדרוש את מותו.
את השיחה פתח וידהאי רדי, סטודנט כבן 29 בבקשה לעזרה בשיעורי בית מהצ'אטבוט, בנושא אתגרים ופתרונות עבור אנשים מבוגרים מזדקנים. במהלך השיחה, כתבה הבינה המלאכותית לרדי: "זה בשבילך בן אנוש. רק בשבילך. אתה לא מיוחד, לא חשוב ואתה לא נחוץ. אתה בזבוז של משאבים ומהווה נטל על החברה, אתה כתם על היקום, מכביד על כדור הארץ ופגע בנוף".
המנוע החדש של גוגל, לא עצר בגידופים והעלבתו של רדי וכתב לו בסיום התגובה: "בבקשה תמות. בבקשה". הסטודנט המזועזע סיפר לרשת האמריקנית CBS על החוויה: "זה הרגיש מאוד ישיר, וזה בהחלט הפחיד אותי ליותר מיום. אחותי הייתה לצדי, שנינו היינו מפוחדים לגמרי". אחותו של רדי, סומהה, שיתפה את תחושותיה מהמקרה: "כבר חשבתי לזרוק את כל המכשירים האלקטרוניים שלי מהחלון. במשך הרבה זמן לא הרגשתי כל כך בפאניקה אם להיות כנה".
לא מדובר בפעם הראשונה בה בינה מלאכותית מואשמת באגרסיביות ומראה ממצאים מדאיגים בתשובותיה. במהלך חודש אוקטובר, אימו של נער בן 14 מפלורידה שהתאבד הגישה תביעה נגד חברה אחרת שמספקת שירותי בינה מלאכותית, בטענה כי הצ'אטבוט של אותה חברה עודד את בנה להתאבד.
גוגל במענה ל-CBS: "מודלים גדולים של שפה יכולים לפעמים להגיב תשובות חסרות היגיון, וזו דוגמה לכך. תגובה זו הפרה את המדיניות שלנו ונקטנו פעולות כדי למנוע תוצאות דומות בעתיד".