מטא מבטלת פרויקט AI גדול ומנסה למחוק כל זכר אליו. הפרויקט כלל יצירה ותחזוק של עשרות פרופילים מזויפים של דמויות שנוצרו ע"י AI עבור פייסבוק ואינסטגרם, כשהפרופילים האלה יצרו קשר ודיברו עם משתמשים אמתיים. לאחרונה, צילומי מסך של שיחות עם אותם פרופילים הפכו לוויראלים, ומטא החליטה למחוק את הפרופילים בשל ביקורת ציבורית על הפרויקט עצמו. משתמשים רבים טענו כי מטא משחקת לידיים של ספאמרים, שכבר עכשיו מנצלים את כלי ה-AI בשביל ליצור פרופילים מזויפים שכאלה ברשתות החברתיות.
החברה השיקה לראשונה פרופילים המופעלים על ידי AI בספטמבר 2023, אך רובם הוסרו עד קיץ 2024. עם זאת, כמה דמויות נותרו וצברו עניין מחודש לאחר שמנהל במטא, קונור הייס, אמר ל"פייננשל טיימס" בשבוע שעבר כי החברה מתכננת להשיק עוד פרופילים של דמויות AI.
"אנחנו מצפים שעם הזמן, ה-AI הללו יתקיימו בפלטפורמות שלנו בדומה לאופן שבו קיימים חשבונות רגילים", אמר הייס ל-FT. החשבונות האוטומטיים פרסמו תמונות שנוצרו על ידי AI באינסטגרם והשיבו להודעות של משתמשים אנושיים במסנג'ר.
Here's one of the AI-generated profiles Meta is testing out: pic.twitter.com/qc1vU7lZRP
הפרופילים כללו דמויות כמו ליב, שתוארה בפרופיל שלה כ"אמא גאה שחורה וקווירית לשני ילדים ומישהי שדוברת רק אמת", וקארטר, שחשבון האינסטגרם שלו נקרא "דייטינג עם קארטר" והוא תיאר עצמו כמאמן זוגיות. "שלחו לי הודעה כדי שאעזור לכם לצאת לדייטים טובים יותר", נכתב בפרופיל שלו. כל הפרופילים ציינו כי הם מנוהלים על ידי מטא. החברה יצרה 28 דמויות ב-2023; כולן נסגרו ביום שישי האחרון.
השיחות עם הדמויות יצאו משליטה במהרה, כאשר משתמשים שאלו אותן שאלות כמו מי יצר ופיתח את ה-AI. ליב, לדוגמה, ציינה כי צוות היוצרים שלה לא כלל אף אדם שחור והיה בעיקר לבן וגברי.
Examples of AI-generated profiles:https://t.co/koTyhZMW9n
This one gives relationship advice: https://t.co/ZzaVFYSeb6 pic.twitter.com/mBt5Y3XxsJ
בשעות שלאחר הפיכת הפרופילים לוויראליים, הם החלו להיעלם. משתמשים גם הבחינו שלא ניתן לחסום את הפרופילים, דבר שמטא הסבירה כבאג. ליז סוויני, דוברת מטא, אמרה שהחשבונות נוהלו על ידי בני אדם והיו חלק מניסוי בינה מלאכותית שנערך ב-2023.
"יש בלבול: המאמר האחרון ב'פייננשל טיימס' עסק בחזון שלנו לגבי דמויות AI שיתקיימו בפלטפורמות שלנו לאורך זמן, ולא בהשקת מוצר חדש", אמרה סוויני בהצהרה. "החשבונות שהוזכרו היו חלק מניסוי מוקדם שהושק ב-2023. זיהינו את הבאג שמנע חסימה של ה-AI והסרנו את החשבונות כדי לתקן את הבעיה".
למרות שמטא הסירה את דמויות ה-AI שיצרה בעצמה, עדיין ישנם צ'אטבוטים רבים המבוססים על AI הזמינים בפלטפורמות של החברה ונוצרים על ידי משתמשים. חלק מהצ'אטבוטים הפופולריים ביותר באינסטגרם הם דמויות AI נשיות המשמשות כ"חברות".