כדור הארץ קצת פחות שטוח
שיחות עם בינה מלאכותית יכולות לצמצם את האמונה אצל חובבי בתיאוריות קונספירציה ב-20%. זה נשמע מספר קטן - מי חוגג הצלחה של 20%? - אבל יחסית להצלחות הקודמות בניסיון לצמצם אמונה בקונספירציות, זו הצלחה גדולה בערך פי מיליון.
אם ניסיתם פעם להיעזר בעובדות כדי לחלץ מישהו מאמונה בקונספירציה, גיליתם את מה שהמדע גילה מזמן: אנשים חסינים למידע. "אל תתן לעובדות לקלקל סיפור טוב" זו לא דאחקה. זו אמת פסיכולוגית.
כדי להיות חסין מפני זעזועים של מידע חדש, לא צריך להאמין בקונספירציה. אפשר גם סתם "להחזיק בדעות" על המצב. כולנו, ובזה אני מתכוון גם לעצמי, משוכנעים שדעותינו הן לא פחות מאציליות. ראיתם פעם מישהו אומר, בחיים או ברשת, "וואלה, הקשבתי לך ושכנעת אותי"? יש איזו קונספירציה שמישהו פעם אמר את זה. אני לא מאמין.
אז מסתבר ש-20% מחובבי כדור הארץ השטוח, תיאוריות על הקורונה, ההפסד של טראמפ ב-2020 והזיות אחרות דווקא מתגמשים אחרי שיחה עם ChatGPT או מנוע שפה גדול אחר. כאן המחקר המלא.
הבינה מלמדת אותי להתנהג
הנה כמה הסברים מרתקים לתופעה הזו, ואני נעזר פה בתובנות של פרופ׳ דוד לייזר מאוניברסיטת בן גוריון ומכללת נתניה (שראיינתי בגל״צ) ופרופ׳ דן אריאלי.
- כשאנשים שמחזיקים בעמדות שונות מתווכחים, הם לא באים כדי להקשיב ולא כדי להשתכנע. הם באים כדי לנצח. אבל בשיחה עם בינה מלאכותית, הם לא ניצבים מול אדם. הם לא חושבים שיש לה מטרה לנצח אותם, לא מרגישים ששופטים אותם. ולכן הם נכנסים לאותו סוג של מגננה וחוסר הקשבה. דווקא לרובוט יש סיכוי שיקשיבו יותר. כשהרובוט לא מביא אגו לשיחה, גם המשוחחים איתו שמים את האגו בצד.
- בשיחה עם רובוט, אתה מאמין שהוא חסר פניות, מחושב ועובדתי יותר. הוא מציג את הטיעונים העובדתיים בהדרגה, בקור רוח ובאופן משכנע. גם זה משיג לו יותר פתיחות וקשב בצד השני.
- הרובוט צפוי פחות ויכול להפתיע. וגם זו סיבה עבור האדם שמשוחח איתו להקשיב יותר.
- כשאנשים מאמצים דעות של בינה מלאכותית, הם לא מרגישים רע עם עצמם. הם לא "הפסידו". אולי אפילו להיפך. הם מרגישים ששודרגו.
- והכי חשוב: הרובוט מקשיב להם.
רגע, פה יש דרמה אמיתית. כי כשאני מקשיב לחובב תיאוריות קונספירציה, אני מודה, הסבלנות שלי בגודל אפון. ברגע שהוא ייקח אוויר בין מילה למילה אני אתפרץ. אבל הבינה המלאכותית מסוגלת להקשיב בכבוד לכל הטיעונים נטולי הביסוס העובדתי. וזה כבר משיג לה קשב ופתיחות מהצד השני.
אני מודה, יש פה שיעור גם בשבילי. מוזר לקבל שיעור מרובוט בחשיבות האנושית של הקשבה וענווה כלפי הצד השני, גם ובעיקר כשאתה לא מסכים.
כוכבית חשובה: המחקר אמנם רציני ועשוי היטב. אבל בוצע בקרב 2,190 אמריקאים שמוכנים להשתתף במחקרים. זה שהם הסכימו להשתתף במחקר מראה שהם לכל הפחות פתוחים מחשבתית, אולי קצת יותר מאחרים, מה שעשוי לתרום לתוצאות "יפות". עוד התגלה, שככל שאמונותיהם הקונספירטיביות של הנחקרים היו מושרשות עמוק וחשובות לזהותם, כך השפעה של השיחה היתה נמוכה יותר.
נו באמת
ההוריקן שהכה בחופי ארה"ב הפך לזירת התגוששות פוליטית. כשטראמפ מפזר שקרים מוכחים כדי לחבוט בטיפול של ממשל ביידן. אחת התומכות הקולניות של טראמפ פרסמה תמונה של ילדה בוכייה בשטפון כדי לחזק את טענתה על מחדלי הממשל.
כשפנו אליה בפומבי ואמרו לה "אבל גברת, התמונה הזו היא פייק שיוצר על ידי AI", היא הגיבה במשיכת כתפיים. "התמונה הזו נכנסה לי ללב", אמרה, "מבחינתי התמונה הזו מסמלת את האמת, ולכן היא האמת. והיא משכנעת אחרים".
אני מודה, מבחינתי זה עדיין מסתורין עמוק. אני מתקשה להבין אנשים שלא מודים בטעות גם כשהיא מוצגת מול פרצופם באופן הכי משכנע. למה הם נצמדים לתמונה שקרית? ובעיקר - למה הם לא משלמים מחיר ציבורי על זה שהם נצמדים לשקרים. זה באמת נשגב מבינתי.
המשכנע
המחקר והסיפור מדגימים נקודה שידועה לנו כבר: לבינה מלאכותית יש יכולת שכנוע עצומה על בני אדם. היא משכנעת יותר מרוב בני האדם. כל מי ששוחח עם מכונה כזו הרגיש זאת, בעיקר כשהיא ניסתה לשכנע אותו בשקרים. אבל גם מחקרים מראים את זה: מנועי LLM כמו ChatGPT עשויים להיות משכנעים יותר ב-81.7% מבני אדם. זה פער עצום.
אז אפשר להשתמש בזה למטרות טובות. לא רק לנער אנשים מקונספירציות. סאם אלטמן מ-OpenAI ואריאנה האפינגטון הקימו מיזם משותף שאמור לנצל את כוח השכנוע של הבינה המלאכותית כדי לתפקד כמאמן (קואץ׳) לבריאות ואורח חיים בריא, ולשכנע אנשים לאמץ הרגלים טובים יותר בתחום התזונה, הספורט, השינה והסטרס. אפשר יהיה להשתמש בו כדי לשכנע תלמידים ללמוד ולהתאמן, או משפחות לקבל החלטות כלכליות טובות יותר.
Advanced Voice is rolling out to all Plus and Team users in the ChatGPT app over the course of the week.
While you’ve been patiently waiting, we’ve added Custom Instructions, Memory, five new voices, and improved accents.
It can also say “Sorry I’m late” in over 50 languages. pic.twitter.com/APOqqhXtDg
אבל דמיינו איך עוד אפשר להשתמש בכוח השכנוע העצום הזה. מה יעשו איתו פוליטיקאים וחברות מסחריות? נכון. תאמין בזה, תקנה את זה, תבחר בזה.
איראן על הקו
כשאתם תוהים איך הצליחו לשכנע ישראלים לעבוד בשביל האיראנים, דמיינו עכשיו עולם שבו האיראנים משתמשים בבינה מלאכותית כדי לא רק להתחזות, אלא לנהל שיחות שלמות עם מיליוני ישראלים במקביל, ולנסות לשכנע אותם לכל מיני דברים. לא רק לבצע פיגועים, אלא להטות אותם לשלל התנהגויות שמעצימות סכסוכים ומחלישות לכידות חברתית, כפי שהם מנסים לעשות היום באמצעות רשתות בוטים עילגות. כל הטכנולוגיה הזו היא כבר לא עתידית. היא זמינה היום לכל מי שרוצה.
תוסיפו גם את זה לערימת ההזדמנויות והאתגרים שמביאה איתה הבינה המלאכותית. אין לנו עדיין מושג מאיפה להתחיל להתמודד איתם.
מתוך הניוזלטר של דרור גלוברמן Skip Intro. עוד טורים כאן