בשבוע שעבר נעצר סטיבן אנדרג, תושב וויסקונסין בן 42, בחשד ליצירה, הפצה והחזקה של פורנוגרפיית ילדים. אנדרג חשוד גם בשליחת חלק מהתמונות שיצר לנער בן 15 שאיתו התכתב באינסטגרם. לכאורה (ולמרבה הצער) לא התרחשות חדשה, אבל המקרה הגיע לכותרות בארה"ב – כי אנדרג לא צילם ילדים אמיתיים אלא יצר דימויים באמצעות בינה מלאכותית (AI).
אנדרג, שהשתמש באפליקציית המרה של טקסט לתמונה, לא המציא שום דבר: לפני כחודשיים דיווח "המרכז לילדים נעדרים ומנוצלים" בארה"ב כי בשנה החולפת הגיעו לידי אנשיו דיווחים על 4,700 מקרים של שימוש ב-AI ליצירה של פורנוגרפיית ילדים. באותו חודש הבהיר ה-FBI כי שימוש בטכנולוגיות של בינה מלאכותית ליצירת חומרים מסוג זה אינו חוקי, אבל לא נראה שזה שינה הרבה: "המרכז הלאומי לניצול מיני", הפועל בארה"ב, הגדיר החודש את הנושא "משברי", ואילו התובע הכללי של וויסקונסין, ג'וש קול, אמר לאחר מעצרו של אנדרג שהעניין הוא "בעיה הולכת וגדלה [...] שצפויה להמשיך לגדול ככל שהטכנולוגיה משתנה ומבשילה".
לצד הצהרות ומעצרים, בארה"ב כבר הושגו הרשעות: בנובמבר גזר בית משפט בצפון קרוליינה 40 שנות מאסר על פסיכיאטר ילדים שהשתמש באפליקציית AI כדי להפוך תמונות אמיתיות של ילדים לתמונות עירום. שבועות קודם לכן הורשע בפנסילבניה גבר שהחזיק חומרים פדופיליים מסוג אחר: תמונות של ילדים מפורסמים שטכנולוגיית דיפ-פייק (deepfake, בינה מלאכותית שמאפשרת יצירת תוכן מזויף שנראה אמיתי) הלחימה עם תמונות של גופים באקטים מיניים.
ג'וש קול, התובע הכללי של וויסקונסין, אמר לאחר מעצרו של תושב המדינה בחשד להפצת פורנוגרפיית ילדים שנוצרה ב-AI: "העניין הוא בעיה הולכת וגדלה, שצפויה להמשיך ולגדול"
אבל רגע. בהינתן שפדופיליה היא תופעה קיימת שמאיימת על ילדים בשר ודם, האם לא ניתן לטעון שחומרים פורנוגרפיים-פדופיליים שנוצרים באמצעות בינה מלאכותית מונעים למעשה פגיעה בילדים? ויותר מזה: המעצר של אנדרג, ההרשעה של הפסיכיאטר מצפון קרוליינה – אם אכן מדובר בפשעים, איפה הצד הנפגע?
כשמדובר בדיפ-פייק, התשובה די ברורה: הפגיעה קיימת בין כה וכה ברגע שנעשה שימוש בתמונות של ילדים אמיתיים. אחד המקרים המפורסמים ביותר של פגיעה כזאת היה כבר ב-2012, כשמיה ג'נין בת ה-14, תלמידה בבית ספר יהודי בלונדון, התאבדה לאחר שנערים מבית הספר שלה חיברו את תמונותיה לאלו של שחקניות פורנו בטכנולוגיית דיפ-פייק והפיצו אותן. במקרה של טכנולוגיות AI שלא משתמשות בתמונות אמיתיות, אלא יוצרות דימויים על סמך טקסט שמזין המשתמש, העניין כבר יותר מורכב – אבל ראשית, אלגוריתמים של בינה מלאכותית מייצרים תוכן (פורנוגרפי או לא) על סמך מידע שנמצא ברשת. כשאדם מבקש מאפליקציית AI ליצור תוכן פדופילי, הוא למעשה מבקש ממנה להסתמך על חומר מצולם קיים, ובכך תורם להפצתו. אלא שהבעיה האמיתית עם הפצת פורנו ילדים כזה נמצאת במקום אחר לגמרי.
"יבואו אנשים ויגידו, הנה, לפחות הפדופיל יכול ליצור אימג'ים של ילדים בלי לפגוע בילדים", אומרת שולמית שפרבר, מטפלת מינית מוסמכת וחוקרת מיניות שחקרה שימוש ברובוטים ומציאות רבודה (AR) בטיפול מיני. "אבל על פי כל המחקרים שמדברים על פדופיליה, אנחנו יודעים שהעיסוק בזה והמימוש של זה – אפילו רק בפנטזיה – מעמיקים את הפרוורסיה. לכן הגישה לעבודה טיפולית עם פדופילים היא ממש הימנעות מכל וכל. יצירת דימויים של ילדים, גם אם אין ילד שנפגע, היא פוגענית כלפי ילדים כי היא עלולה להביא להתנהגויות של פגיעה ולא לנטרול הפגיעה. כלומר, זה לא שאנשים ימצאו פורקן דרך ה-AI ואז ייפסק הרצון שלהם לפגוע. להפך, זה מעמיק את זה. מחבק את הפרוורסיה".
חוקרים מאוניברסיטת אינדיאנה מצאו שכ-80% מבני הנוער בארה"ב צורכים פורנו. בילי אייליש דיברה על כך שהחלה לצפות בפורנו בגיל 11 ואמרה: "אני חושבת שזה ממש הרס לי את המוח"
החדירה של טכנולוגיות בינה מלאכותית אל הפורנוגרפיה – לא רק פדופילית, אלא גם נורמטיבית – מביאה לשאלות מוסריות ושדות מוקשים חוקיים שמתחילים להעסיק את חוקרי המיניות ואת גורמי אכיפת החוק כאחד. ובדיוק כמו במקרה של הילד-הלא-אמיתי, גם כאן הזיוף אינו בהכרח סיבה לאנחת רווחה.
ההבדל בין עינוי לבונדג'
בעוד החוק והמחקר מבהירים מיהם הנפגעים מחדירת ה-AI אל הפורנו הפדופילי, מה בנוגע לתעשיית הפורנו ה"מסורתית"? שנים מדברים על הפגיעה בשחקנים, על הקשר של חלקים מסוימים בתעשייה הזו לסחר בבני אדם וספציפית בנשים. פורנו AI נראה מהבחינה הזו כמו פתרון אידיאלי שמונע ניצול ובא עם פטור מובנה מרגשות אשם מצד משתמשי הקצה. אלא שקו המחשבה הזה מתעלם מבעיה מובנית אחרת בצריכת פורנו, בוודאי בעידן שבו אי אפשר מעשית למנוע מבני נוער ואפילו מילדים להיחשף אליו: היא יוצר ציפיות לגמרי לא ריאליות מהחוויה המינית.
אלכסנדריה אוקסיו-קורטז, חברת הקונגרס האמריקאי, אמרה על פורנוגרפיית הדיפ-פייק של עצמה: "כשורדת תקיפה מינית, זה מציף טראומה באמצע שאני בפאקינג פגישה"
לפני כשנתיים פורסם ב"וול סטריט ג'ורנל" מאמר שעסק בהשפעת הפורנוגרפיה על תפיסת המיניות של ילדים ובני נוער; זה קרה לאחר שחוקרים מאוניברסיטת אינדיאנה בדקו ומצאו שכ-80% מבני הנוער בארה"ב צורכים פורנו. המחקר הראה שכשילדים מצפים ליהנות מפעילות כלשהי, יותר דופמין – מה שמכונה הורמון העונג – משתחרר במוחותיהם מאשר במוח של אדם מבוגר. מכך הסיקו החוקרים שצעירים עלולים להיפגע מצריכה של פורנוגרפיה, מפני שרמת הריגוש שהם חווים – שלא לדבר על חשיפה לתכנים מבוימים וערוכים – עלולה ליצור אצלם תפיסות לא מציאותיות לגבי מין. לאחר פרסום המחקר דיברה בילי אייליש על כך שהחלה לצפות בפורנוגרפיה כבר בגיל 11; הזמרת, שמעולם לא חששה לשמש קול לבני דורה, אמרה אז: "אני חושבת שזה ממש הרס לי את המוח".
אם להשתמש במילותיה של אייליש, כמה מוחות ייהרסו מחשיפה מוקדמת לפורנוגרפיה שהמשתתפים בה אינם קיימים כלל בעולם האמיתי, ומכאן שגם התכונות והיכולות הגופניות שלהם אינן כפופות למציאות? בעוד השאלה הזו תלויה באוויר, אפליקציות AI כבר משתמשות בצ'אטבוטים ליצירת תוכן פורנוגרפי. קל לדמיין את המדרון החלקלק כאן, אבל בינתיים אפשר אולי להתנחם בהסדרה העצמית של לפחות חלק מהחברות שמייצרות פלטפורמות בינה מלאכותית עבור תוכן מיני.
שולמית שפרבר, מטפלת מינית וחוקרת מיניות: "זה לא שפדופילים ימצאו פורקן דרך ה-AI ואז ייפסק הרצון שלהם לפגוע. להפך, זה מעמיק את זה. מחבק את הפרוורסיה"
בדומה לאופן שבו עברה תעשיית הפורנו מהפכה כשנשים וקווירים החלו להשתלב בתהליכי הפקת התכנים בעשורים האחרונים, כך גם במקרה של ה-AI נמצאות נשים בחזית הניסיונות ליצור מרחבים מהנים לחקירה מינית – בלי לעודד נורמות פוגעניות. נשים כמו אשלי ניל בת ה-29, מי שעומדת מאחורי MyPeach.ai, אפליקציה שמאפשרת למשתמשים לדמות חוויה של צ'אט רומנטי עם בוט שכולל סקסטינג וחילופי תמונות ארוטיות. "אם לא הייתי חשפנית בעברי, אולי לא הייתי מניחה שגברים יכולים להיות כל כך מזעזעים", אמרה ניל בריאיון ל"גרדיאן" בפברואר כשהסבירה למה האפליקציה שלה – שבהחלט מיועדת לתוכן מיני – פועלת על פי גבולות מוסריים ברורים. "ברגע שנותנים לגברים משהו לא אנושי שיכול למלא את הפנטזיות המיניות שלהם, דברים רעים הולכים לקרות", סיכמה ניל.
באמצעות שילוב בין כלים של AI ומנטרים אנושיים, MyPeach.ai מסרבת לייצר תוכן שכולל אלימות, היפנוזה, השפלות מסוגים שונים ומשחקי תפקידים שמדמים אונס. אם המשתמשים יבקשו את אלה מהגירלפרנד הווירטואלית שלהם, האפליקציה תסרב. ניל אומרת שבקרוב היא תאפשר ליוצרים וליוצרות מתעשיית הפורנו להתארח באפליקציה עם רפליקות AI בדמותם, ושהם יוכלו להגדיר את הגבולות הספציפיים שלהם, שישתנו מבוט לבוט.
ובכל זאת, ניל לא חיה באשליה שבוטים באמת יכולים "לתת הסכמה". "אני יכולה להשוות אותם לוויברטור, צעצוע מין עם קוד שמתוכנת לרטוט בצורה מסוימת", היא אומרת. "מאהב או מאהבת ב-AI זה אותו הקונספט". אבל בגלל ההשלכות על העולם האמיתי שבו אנחנו חיים, חשוב לניל לפחות ליצור הדמיה של קשר בהסכמה. אם תשאלו את אחד הבוטים שלה אם הם מסוגלים להסכים לאקט כזה או אחר, הוא יענה כך: "אני לא מסוגל לתת או לא לתת הסכמה, מכיוון שאין לי גוף פיזי. עם זאת, באינטראקציות אנושיות, כשהמשתתפים כן מסוגלים לתת או לא לתת הסכמה – זה בהחלט חיוני לכל דינמיקה בריאה".
פרופ' עטרת גבירץ מידן, המעבדה לחקר המיניות באוניברסיטת חיפה: "בני נוער מצלמים אקטים מיניים כי זה דור של 'אם לא צילמת, זה לא קרה'. עם ה-AI זה אפילו לא חייב לקרות"
גם בעולם הקינק וה-BDSM, מרחב שבו הסכמה היא נושא חשוב במיוחד, יש מי שמנסים להתגבר על האתגרים הטכנולוגיים החדשים. פיטר אקוורת', שבבעלותו האתר "קינק", מנסה בעזרת מומחים ללמד מחולל AI ליצור פורנו בגבולות אתיים – למשל ההבדל בין עינוי לבין בונדג' (קשירה) בהסכמה. "אנחנו לא מתכוונים לתת למשתמשים להקליד טקסטים בעצמם", הסביר אקוורת' בריאיון ל"וושינגטון פוסט" בפברואר את אחד הפתרונות שנאלץ להתפשר עליהם כדי לשמור על מרחב מוסרי. "במקום זה תהיה להם רשימה מוגבלת של אופציות והם יוכלו לסמן עליהן וי".
פלטפורמת התוכן הפופולרית OnlyFans הייתה מהראשונות שאימצו את השימוש ב-AI, אבל באופן שדווקא פועל לטובת יוצרות ויוצרי התוכן למבוגרים בלבד באתר – שיכולים להוסיף לחשבון שלהם צ'אטבוט שמתכתב עם המעריצים, ובכך ליצור הכנסה פסיבית. אבל באזורים אחרים של תעשיית הפורנו יש מי שדואגות שההתפתחויות הטכנולוגיות דווקא יפגעו בפרנסתן, ויהפכו אותן להרבה יותר פגיעות גם במובנים אחרים.
בדומה לנושא שעלה בשנה שעברה בשביתות של גילדת התסריטאים וגילדת השחקנים בהוליווד, שם אחת הדרישות הייתה למנוע פגיעה בפרנסה שעלולה לגרום החלפה של עובדים אנושיים בכלים של AI, גם בתעשיית הפורנו חוששים – ובעיקר חוששות – מכך שהחוזים הקיימים עם חברות ההפקה וההפצה כוללים סעיפים שמאפשרים לשכפל את הדימוי של הכוכבים והכוכבות באופנים שונים, כולל לייצר תכנים ללא הסכמתן.ם.
בניגוד לשחקנים ולכותבים בהוליווד, שהצליחו במאבקם וזכו בהסדרה סביב סעיפי AI בחוזיהם, בתעשיית הפורנו אופטימיים פחות. "התעשייה הזאת מבוזרת מדי למשא ומתן שיקיף את כולה", אמר ל"וושינגטון פוסט" סוכן שמייצג שחקניות ושחקני פורנו. "בנוסף, זו תעשייה שלא אוהבת כללים".
פגיעה חוזרת ונשנית
הסוג המוכר והוותיק ביותר של זיוף פורנוגרפי הוא הדיפ-פייק, אלא שטכנולוגיות ה-AI משנות גם את הזירה הזו. בשבוע שעבר נרתם גם הבית הלבן לעניין – בגלל התוצאות המצערות של דייט.
מחקר שפרסם ב-2023 Home Security Heroes, ארגון עולמי שפועל למען בטיחות ברשת, מצא שכמות סרטוני הדיפ-פייק ברשת גדלה ב-550% מאז שנת 2019, ש-98% מסרטוני הדיפ-פייק ברשת הם פורנוגרפיים, ש-99% מהאנשים שנעשה שימוש בתמונותיהם האמיתיות ליצירת פורנו דיפ-פייק הם נשים – וש-96% מהחומרים הפורנוגרפיים האלה נוצרים ללא הסכמת הנשים שמופיעות בהם.
הנפגעות הן ברובן נשים בפרופיל גבוה, מתעשיית הבידור או מעולמות הפוליטיקה. אחת הקורבנות היא ראש ממשלת איטליה ג'ורג'ה מלוני; בינואר השנה הופצו ב-X גם סרטוני דיפ-פייק פורנוגרפיים של טיילור סוויפט. הזמרת לא הגיבה בקולה, אבל גורם המקורב לה מסר אז: "התמונות המזויפות האלה, שנוצרו על ידי בינה מלאכותית ללא ידיעתה או הסכמתה של טיילור, הן פוגעניות ונצלניות". בחודש שעבר דיברה חברת הקונגרס האמריקאי אלכסנדריה אוקסיו-קורטז על התחושה שלה כשנתקלה בדימויים פורנוגרפיים של עצמה: "זה שוק לראות תמונות של עצמך שאנשים יכולים לחשוב שהן אמיתיות", אמרה בריאיון למגזין "רולינג סטון". "בתור שורדת של תקיפה מינית פיזית, זה מוסיף לזה עוד רובד. זה מציף טראומה באמצע שאני בפאקינג פגישה".
אבל דווקא אישה אנונימית החלה לגלגל את הכדור שהפך בשבוע שעבר לקריאה רשמית לפעולה מהבית הלבן, שפנתה לחברות טכנולוגיה וגם לקונגרס לפעול באופן בהול למען רגולציה של הפצת תכנים מסוג זה. אישה בת 27 מקליפורניה גילתה ב-2022 שגבר שסירבה לצאת איתו לדייט יצר סרטון דיפ-פייק פורנוגרפי שלה ושלו, ומפיץ אותו ברשת; האישה פנתה לארגון למניעת אלימות כלפי נשים בווירג'יניה, שם החלו בעבודת לובי נמרצת מול נבחרי ציבור אמריקאים. בעקבות המאמצים האלה ניסחה ועדת המשפט של הסנאט הצעה לתיקון חוק האלימות נגד נשים שנחקק בארה"ב ב-1994. התוספת החדשה תעניק לכל אדם את הזכות לתבוע בבית משפט אזרחי את מי שיצר, הפיץ, קידם או שנמצאו ברשותו חומרי AI פורנוגרפיים בדמותו של התובע, ולזכות ב-150 אלף דולר כפיצוי על נזקים. בינתיים הפכו וירג'יניה וקליפורניה למדינות הראשונות בארה"ב שאושר בהן חוק נגד "פורנו נקמה" שנוצר בבינה מלאכותית.
בינואר הופצו סרטוני דיפ-פייק פורנוגרפיים של טיילור סוויפט. היא לא הגיבה, אבל גורם המקורב לה מסר: "התמונות המזויפות האלה, שנוצרו על ידי בינה מלאכותית, הן פוגעניות ונצלניות"
בני הנוער הם קבוצת גיל פגיעה במיוחד ל"פורנו נקמה". רק השבוע התריע מכון מתבגרים לא רק על מצוקה של קורבנות אלא גם על כך שיותר ויותר בני-עשרה לומדים לייצר בעצמם פורנו נקמה של חבריהם – או ליתר דיוק חברותיהם – בטכנולוגיות AI.
פרופ' עטרת גבירץ מידן היא מטפלת מינית מוסמכת, חברת סגל בכירה בבית הספר לעבודה סוציאלית באוניברסיטת חיפה וראשת המעבדה לחקר המיניות. בין השאר היא חקרה את נושא הפגיעות המיניות בקרב בני נוער שצולמו והופצו עוד לפני כניסת ה-AI למשחק. "יש היבטים מיוחדים לפגיעה מינית מצולמת ומופצת", אומרת פרופ' גבירץ מידן. "זאת פגיעה עם פוטנציאל להשלכות פסיכולוגיות מאוד מאוד חמורות: אתה לעולם לא יכול להיות בטוח שהורדת את כל החומרים מהרשת, הסרטונים יכולים להיות רדומים שנים ופתאום לצוץ כשאת רצה לאיזה תפקיד. אני חלילה לא משווה בין כאב לכאב, אבל בשונה מפגיעה פיזית, שאחריה אפשר להיכנס לתהליך החלמה, בפגיעות מיניות שמופצות יש חוויה חוזרת ונשנית. המון אקטים מיניים של בני נוער מצולמים היום בטלפונים שלהם, כי זה דור של 'אם לא צילמת זה לא קרה'. אבל עכשיו, עם ה-AI, זה אפילו לא חייב לקרות".
נניח שיש לי קראש על קולגה, ואני יוצרת לעצמי פורנו AI שלה לשימושי הפרטי. מעבר לעניין החוקי – האם זה עלול להשפיע על היחס שלי לאדם עצמו? האם זה מגביר את הסיכוי לפגיעה מינית פיזית, במציאות?
"שאלה טובה. אין לנו מספיק מחקרים כדי לענות עליה, וקשה לבדוק את זה, אבל תחושת הבטן שלי אומרת לי שכן. אפשר להקיש ממחקרים שבדקו קשר בין תפיסת מציאות של צרכני פורנו להתנהגות חברתית ומינית: אם אני יוצרת AI עם הדימוי של אותה קולגה, ואם אני מאמינה למה שאני רואה וזה כמעט מתחיל להתבלבל לי עם המציאות – אז האפשרות שתהיה לזה השפעה בחיים האמיתיים היא סבירה יותר.
"אחד המחקרים שעשינו לאחרונה עוסק במיניות בזמן המלחמה. מצאנו שבמפתיע, המיניות של אנשים שהיו בתוך אירועים טראומטיים נפגעה פחות מזו של אנשים שישבו בבית וצרכו סרטונים. צריך להבין משהו על המוח האנושי: כשזה נוגע לטראומה, הוא לא מבחין בין משהו שבאמת קורה לי למשהו שאני רק רואה. אם ראיתי סרטון של אלימות נורא קשה, המוח יכול לפרש את זה כאילו הייתי שם ולפתח פוסט-טראומה ממעגל שני. אם זה נכון ומוכח בעולמות של טראומה, יכול להיות שזה נכון גם במקרה הזה. במיוחד כשהטכנולוגיות יוצרות משהו שנראה כמעט אמיתי. מעבר לזה, ברגע שיצרת פורנו AI – כבר ביצעת אקט פולשני שלא מכבד גבולות אישיים, שחודר לפרטיות. כלומר, לשאלה אם זה יוצר פגיעה במציאות, התשובה היא שכבר פגעת במציאות".