חברת מטא, הבעלים של פייסבוק, אינסטגרם ו-וואטסאפ, הודיעה כי היא חסמה והורידה חשבונות שניהלו קמפיינים פוליטיים בעזרת AI. לפי הודעת החברה, הרשתות שהפיצו קמפיינים הגיעו ממדינות כמו רוסיה, סין, איראן וגם ישראל.
במטא מוסרים כי הם נלחמים בקמפיינים המנצלים את הפלטפורמות של החברה להפצת קמפייני השפעה פוליטיים העושים שימוש בכלי AI על מנת ליצור את האשליה של תמיכה ציבורית נרחבת בדעות הנוגעות לאירועים אקטואלים. רשתות ההשפעה דחפו אג׳נדות פוליטיות על מנת להשפיע על דעת הקהל ברחבי העולם, והשתמשו בחשבונות מזויפים שהפיצו תמונות שנוצרו ע״י AI ואף הגיבו בעצמם לפוסטים שפורסמו ע״י רשתות תקשורת.
במטא נתנו לדוגמה רשת כזאת שהתגלתה כקמפיין שמקורו בישראל וכלל 500 חשבונות פייסבוק ואינסטגרם שהתחזו לתלמידים יהודים אמריקאים ואזרחים אמריקאים מודאגים ששיבחו את הפעולות הצבאיות של ישראל בעזה. לפי מטא, החשבונות המזויפים גם פרסמו עדויות על תקריות אנטישמיות בקמפוסים אמריקאים. קמפיין נוסף שניתן לדוגמה ע״י מטא הוא קמפיין השפעה סיני, שכלל עשרות חשבונות פייסבוק ואינסטגרם, דפים וקבוצות שטירגטו אוכלוסיות של בני הדת הסיקית.
לפי מטא, התוכן שהופץ בקמפיינים האלה נכתב ככל הנראה ע"י כלי AI כמו ChatGPT. לטענת הדוח, הקמפיינים האלה עדיין לא מספיק מתוחכמים על מנת לחמוק מכלי האיתור שמטא משתמשת על מנת למצוא משתמשים מזויפים המנוהלים ע״י כלי AI, למרות שלא ניתן באמת לדעת כמה קמפיינים כאלה במטא לא הצליחו למצוא עדיין.