"נחשפתי לבינה מלאכותית מהסוג המתקדם ביותר, ואני חושב שאנשים צריכים להיות מאוד מוטרדים. אני מצלצל בכל פעמוני האזהרה, אבל עד שאנשים לא יראו רובוטים דוהרים ברחובות והורגים אנשים, הם לא יידעו איך להגיב". זה מה ששמעו לא מעט מושלי מדינות בארה"ב מאילון מאסק, האיש שייסד את פייפאל ואת חברת המכוניות טסלה.

לפני שבוע דיברתי על מנכ"לים שמגבילים את הילדים שלהם מפני טכנולוגיה עכשווית. כאן יש לנו מנכ"ל שרוצה להגן על כולנו מפני טכנולוגיה עתידית. ולא סתם מנכ"ל – אלא כנראה המנכ"ל הכי נועז ומהפכני בעולם הטכנולוגיה. הוא עומד מאחורי לא מעט טכנולוגיות ורעיונות פורצי דרך באופן קיצוני, כמו הספייס-איקס והייפר-לופ (תכל'ס, ב-1999 גם פייפאל היה פורץ דרך). כדי שהוא יבוא ויזהיר מפני הטכנולוגיה ועוד יקרא למחוקק להתערב מראש, לפני שזה קורה? כנראה שאנחנו מדברים על תרחיש יותר קיצוני מקיצוני.
"בינה מלאכותית היא המקרה הנדיר שבו המחוקק צריך ליזום ולא רק להגיב, כי עד שנספיק להגיב עם רגולציה מתאימה לבינה המלאכותית, זה יהיה מאוחר מדי. המצב הנוכחי, שבו הממשלות מתערבות רק אחרי שקורים לא מעט דברים רעים, לא יכול לתפוס לגבי בינה מלאכותית, כי היא מציבה סיכון יסודי לקיום הציוויליזציה".

משרד הפנים או פייסבוק?

זבאבום. "סיכום יסודי לקיום הציוויליזציה". "רובוטים דוהרים ברחובות והורגים אנשים". הוויכוח האם הבינה המלאכותית שתתפוס עצמאות ותעכל את הציוויליזציה האנושית הוא אחד הגדולים בזירה הטכנולוגית-מדעית. האם מה שחברות כמו גוגל, יבמ ומיקרוסופט מפתחות כרגע יכול להתפתח לסוג כזה של טכנולוגיה? האם "בינה מלאכותית" של העתיד היא ישות עצמאית עם מודעות ורצונות? האם היא תרצה בכלל לחסל את האנושות? המדענים עוד מתווכחים. כבר היום יש מחשבים שממציאים בעצמם שפות תכנות חדשות שרק הם יודעים להשתמש בהן - אבל בסוף הכל עדיין מונע על ידי בני אדם. אבל על דבר אחד אין ויכוח – הטכנולוגיה, לא פחות משהיא נותנת הזדמנויות ותורמת לשוויון בין האנשים, נותנת כוח עצום לבעליה וליוצריה ובעצם מגדילה במהירות את הפערים בין מי שיש לו (גישה לטכנולוגיה, כמשתמש וכיוצר) ומי שאין לו. וכאן נכנסת שאלה נוספת: האם נכון לצפות מהמדינה לעזרה?

לא לטעות: הטכנולוגיות החדשות לא מייתרות את המחוקק ואת הממשלה. אנחנו צריכים אותם עכשיו יותר מאי פעם – משכילים, זריזים ונחושים. הנה דוגמה: אנחנו צריכים את המחוקק שייצג את האינטרסים של הציבור מול יצרני המכוניות האוטונומיות. אם פשוט נזרוק את המכוניות האלה לכביש, נקבל קטסטרופת צפיפות ובטיחות. אבל אם המדינה תארגן היטב את כניסת האוטונומי, נקבל כבישים בטוחים יותר וערים צפופות פחות. זה נכון גם בענייני פרטיות מול רשתות חברתיות ובעוד אלף תחומים, ואם שואלים את מאסק, זה נכון שבעתיים בבינה מלאכותית.

הרבה אנשים עדיין טועים לחשוב שהטכנולוגיה היא המפלט שלהם מהממשלה ומהתאגידים, שהיא החופש לדבר ולקנות וליצור, לפרסם ולהתפרסם כשהממשלה לא רואה. זה נכון, אבל זו אפילו לא חצי הכוס המלאה וגם לא רבע. בין חברות מסחריות ובין ממשלות מתלהטת תחרות עזה על כוח כלכלי וטכנולוגי, בין היתר במטרה לשלוט טוב יותר בציבור. נכון לעכשיו, המטוטלת נוטה דרמטית לכיוון חברות מסחריות (גוגל, פייסבוק, אמאזון וכו'), שמשאירות אבק למדינות. המדינות מדדות מאחוריהן בהשגת טכנולוגיה ובהתאמת החוקים למציאות המשתנה, ואפילו מאבדות גובה מבחינה כלכלית. אז מי שולט בנו יותר? משרד הפנים או פייסבוק? אנחנו, האזרחים, צריכים ללהטט בין השניים, ולהשתדל שאף צד לא יגבר על השני.

הביומטרי ממשיך לפשל

אין גאלה: גם כשנותנים למדינה טכנולוגיה חזקה מדי זה מסוכן. תראו מה קורה בביומטרי. המדינה הקימה מאגר ניסיוני עם המון הגבלות. לפי החוק היא היתה כבר חייבת למחוק אותו, אבל כמובן שמה שקורה הוא הפוך. אחרי הסמס המחוצף ששלח שר הפנים דרעי לכל אזרחי המדינה, שבו הילל את עצמו על חשבוננו תוך ניצול ללא רשות של מאגר המספרים הסלולריים; אחרי התורים הבלתי אפשריים והטיסות שמתבטלות, עוד פשלת פרטיות תוקפת את רשות האוכלוסין: מאות כתובות מייל של פונים לקבלת דרכון חדש דלפו השבוע לעיני כל. אז אנחנו שואלים שוב: על אלה אתם רוצים לסמוך עם המידע הכי אישי, פרטי ובלתי הפיך שלכם?

אבל יכול להיות שזה קשקוש. שהבינה המלאכותית תתפתח מאוד אבל לעולם לא תסכן אותנו. בינתיים הממשל של טראמפ מגלה אפס עניין בשטויות האלה. אין לדעת איך זה ייגמר. אבל תודו שנשיא ארה"ב שמסרב להאמין לסכנות הבינה המלאכותית עד שהוא נמעך על ידי רובוט זועם – נשמע כמו תסריט לגיטימי להוליווד. השאלה אם בז'אנר מדע בדיוני, או דווקא כסרט דוקומנטרי.