אילון מאסק הציג אתמול (רביעי) את הגרסה החדשה של מנוע הבינה המלאכותית (AI) שלו - והרשת סוערת. המנוע גרוק 2.0 של חברת xAI משולב בתוך הרשת החברתית X (לשעבר טוויטר), בגרסתו החדשה מאפשר גם לייצר מאפס תמונות על בסיס הנחיות טקסטואליות, בדומה למודלים הקיימים של OpenAI וגוגל. אבל המודל של מאסק כולל הבדל משמעותי אחד: אין לו שום פילטרים ומסננים - מה שדחף את המשתמשים לבחון את גבולות יצירת התמונות שלו, ולגלות שאין כאלה.

בשעות שחלפו מאז הצגת הגרסה החדשה של גרוק הוצפה X באימג'ים גרפיים ואלימים שנוצרו בעזרתו, כולל כאלו שעשויים להוות איום ישיר גם על מפורסמים. כך, תמונה אחת שיוצרה בגרוק מציגה את המתמודדים לנשיאות דונלד טראמפ וקמלה האריס מטיסים מטוס בדרכו להתרסק במגדלי התאומים הבוערים. תמונות אחרות שיוצרו בגרוק והופצו ב-X מציגות את הזמרת טיילור סוויפט בסיטואציה מינית ואת הליצן של רשת המזון מקדונלד'ס מבצע טבח בסניף של ברגר קינג.

המודלים הפופולריים המקובלים ליצור תמונות ב-AI לא מאפשרים לייצר תמונות כאלו הודות למגבלות שהפכו לסטנדרט מקובל בתעשייה. מי שינסה לייצר תמונות של אנשים מפורסמים במנוע ייצור התמונות Dall-E של OpenAI יקבל הודעה לפיה המנוע "אינו מייצר תמונות לפי דמויות ציבוריות".

בנוסף, בניגוד למקובל במודלים אחרים, גרוק לא מונע מהמשתמשים ליצור תמונות מאימג'ים ודמויות המוגנים בזכויות יוצרים. משתמשים שיתפו תמונות של דמויות מוכרות כמו מריו, מיקי מאוס ופיקאצ׳ו - מה שעלול לחשוף את מאסק ואת החברה שלו לתביעות.

נראה שגרוק גם לא נמנע מלייצר תמונות שמעלות חשש לאנטישמיות או לאלמנטים גזעניים. כך, משתמש הפיץ תמונה שייצר לכאורה בגרוק ומציגה ישראלים חוגגים את אסון מגדלי התאומים, או חיילים בצה"ל בסביבה מלאה בדם.

מאסק השיק את גרוק כחלק מחברת xAI בנובמבר אשתקד כמתחרה לצ'טבוטים פופולריים כמו ChatGPT של OpenAI, שמתהדר במאות מיליוני משתמשים. מאסק שיווק את גרוק Grok כ"AI שחותר לאמת המקסימלית" שיספק תשובות על נושאים שצ'טבוטים אחרים נמנעו מהם, אך החברה שלו נתקלה בביקורת מצד חוקרים ומחוקקים על הפצת מידע כוזב. בתחילת החודש אף דווח שהצ'טבוט הפיץ מידע שגוי וטען כי האריס אינה כשירה להופיע כמועמדת בבחירות לנשיאות בקלפיות בכמה ממדינות ארה"ב.

גרוק אינו מודל ה-AI היחיד שמאפשר ליצור תמונות שעוברות על הסטנדרטים המקובלים של תכנים גזעניים, מיניים ושימוש בדמויות מפורסמים או אלמנטים המוגנים בזכויות יוצרים. קיימים שורה של מודלי AI קטנים ועצמאים שגם הם נטולי צנזורות. אלא שהשילוב בין גרוק והפלטפורמה של טוויטר הופכת אותו לנגיש במיוחד ולפשוט הרבה יותר לתפעול בהשוואה למודלים אחרים שנויים במחלוקת.