נציגי ענקית הטכנולוגיה מטא שבשליטת מארק צוקרברג עומתו עם סרטון שצבר יותר מ-2 מיליון צפיות בפייסבוק וקורא לערביי ישראל והגדה להפעיל נשק נגד ישראל - ואמרו כי אינם מכירים אותו ולכן לא פעלו להסרתו.
האירוע התרחש במסגרת דיון בוועדת המשנה בנושא בינה מלאכותית וטכנולוגיות מתקדמות בהובלת חה"כ אורית פרקש-הכהן (המחנה הממלכתי). הדיון כלל ח"כים, חוקרים ופעילים שדנו באופן שבו מדינת ישראל מתמודדת עם יצירה והפצה של סרטונים ותמונות מזויפות על רקע המלחמה עם חמאס.
העיתונאי דרור גלוברמן הציג בפני חברי הוועדה את הסרטון המדובר שהועלה ב-15 באוקטובר בדף הפייסבוק של +AJ - זרוע הסושיאל של ערוץ אל ג'זירה הקטרי. בסרטון נראה משפיען מהעולם הערבי קורא באופן ברור לאזרחי ישראל ותושבי הגדה להרים נשק נגד ישראל, ועדיין מופץ בפלטפורמות השונות של מטא וכן ברשת טוויטר של אילון מאסק.
בבקשה. pic.twitter.com/o5OIrHFK1Y
— נדב איל Nadav Eyal (@Nadav_Eyal) October 16, 2023
לאחר הצגת הסרטון פנתה ח"כ פרקש-הכהן לנציגי מטא בדיון ושאלה: "עשיתם משהו בנידון? למה הנושא לא מטופל? לקרוא לערביי ישראל לרצח נמצא יום יום בפלטפורמות, למה זה עדיין שם?". כשנציג מטא הודה שאינו מכיר את הסרטון, ענתה פרקש כי "אם מישהו ברמתך לא מכיר את האירוע - זו גם תקלה חמורה".
"הנושא הוא לא הסרטון הספציפי הזה, הסיפור הוא שאנחנו כמדינת ישראל לא שולטים בזה", אמר גלוברמן. "אין לנו את השקיפות לגבי ההחלטות של פייסבוק לגבי מה הם מסירים ומה הם לא מסירים. לנו כמדינה אין מנגנון שיכול לפקח ולקבל תשובות לגבי התוכן שמשותף ברשתות החברתיות".
מחסור בחקיקה מתאימה בישראל
חלק ניכר מהדיון התמקד בדרך שבה כלי בינה מלאכותית מאפשרים לייצר תמונות מזויפות, שלאחר מכן משותפות ברשתות חברתיות ומציגות אירועים שלא התרחשו במציאות. זאת על רקע העלייה בשימוש בתמונות כאלו שמשמשות להפצת מידע לא נכון בקשר למלחמה בין ישראל לחמאס.
ד"ר תהילה שוורץ אלטשולר מהמכון הישראלי לדמוקרטיה הזהירה מפני היכולות של גורמים עוינים להפיץ תמונות מזויפות כאירועי חדשות. היא ציינה כי בעוד שבארה"ב ובאירופה קיימת או מקודמת חקיקה ותקנות שנועדו לסייע לממשלות לנטר מידע לא נכון ולדרוש ממפעילות הפלטפורמות החברתיות להסיר פרסומים כאלו - בישראל אין בכלל דיון על אסדרה כזו.
נציגי ענקיות הטכנולוגיה בדיון טענו כי החברות עובדות על פיתוח אמצעים שיאפשרו זהות תמונות שנוצרו באמצעות בינה מלאכותית. כך נציג מיקרוסופט אמר כי החברה עובדת יחד עם OpenAI על יצירת כלים שיטמיעו אמצעים מזהים כחותמת או סימן מים וירטואלי בתוך תמונות שנוצרו באמצעות בינה מלאכותית, ויאפשרו למערכות לזהות אותן כתמונות מפוברקות. אלא שגורמים בתחום מביעים חשש כי מספיק לבצע צילום מסך של תמונה כזו כדי להסיר אמצעים כאלו מהתמונות.
נציגת גוגל בדיון טענה כי חיפוש תמונה בגוגל מאפשר לקבל עליה מידע שמסייע להבין אם היא אמיתית או נוצרה בעזרת מחשב.
למרות זאת, בוועדה עלתה שוב ושוב הטענה שלפיה המדינה למעשה תלויה בחברות הטכנולוגיה הגדולות - ולא מקימה גוף שיהיה אחראי על הקשר איתן, ויוכל לדרוש מידע לגבי הפעולות שהן עושות בנושא פיקוח והסרת תוכן.
"בטלוויזיה אני לא יכול לשדר סרטון כזה לפי חוק", אמר גלוברמן על אותו סרטון, "בעוד בפייסבוק צפו בו כבר מיליוני אנשים, ואין להם שום אחריות כלפי החוק״. פרקש-הכהן אמרה כי "עלינו לחייב את חברות הטכנולוגיה והרשתות החברתיות לפעול בשקיפות מלאה ביחס לפניות ולמדיניות ההסרה שלהן".