מה שלומכם? בסדר? באמת? אותי אתם יכולים לרמות בקלות. אבל לא את הצמיד החכם החדש של אמזון. הוא יודע באמת איך אתם מרגישים, במובן הכי אישי ופרטי. לא רק כמה זזתם, איך ישנתם וכמה אחוזי שומן - אלא באיזה מצב רוח אתם בכל רגע. בסוף היום תקבלו סטטיסטיקה: כמה הייתם עצובים, מודאגים, משועממים או שמחים. כל זה באחוזים! קריפי או מה? יש לצמיד שני מיקרופונים שמקשיבים לנו כל הזמן. רק מטון הדיבור שלנו אמזון יודעת מתי אנחנו מתנצלים, מהוססים, משועממים, עצובים, מבולבלים ועוד שלל רגשות, ויכולה לייצר לזה סטטיסטיקות.
"חיים מאוד אומללים"
אמזון לא לבד. הפיטביט החדש מזהה דופק, את מצב הכושר והלב שלנו - אבל גם אם אנחנו בסטרס. בלחץ. את זה יש גם בשעון של אפל, ופה סיפרתי לכם את הסיפור המקסים-אך-מלחיץ של גלעד נפתליהו: לפני כשנה, בדרך לעבודה, הוא ראה מול הפרצוף תאונת דרכים מפחידה. מישהו עבר באדום והתנגש במכונית אחרת, כולם הסתחררו בצומת, וגלעד רץ החוצה, עזר לנהגת המבוהלת עד אימה. אחר כך במשרד, הוא שלף את השעון החכם שלו, שלא רק מודד דופק כל הזמן, אלא גם סטרס. לחץ. שם גלעד באמת ראה קפיצה קטנה בזמן התאונה. אבל חצי שעה לפני התאונה הוא גילה לתדהמתו מקבץ סטרס דרמטי הרבה יותר מתאונת הדרכים. מה זה? זה סטרס של "להכין את הילדים לגן בבוקר", ככה הוא כתב בקבוצת אבא פגום בפייסבוק.
"אנחנו נתמכר לזה, כמו שאנחנו מתמכרים ללייקים ולרשתות החברתיות, שמכמתות את הערך העצמי שלנו", אומרת ד"ר לירז מרגלית, שמתמחה בפסיכולוגיה וטכנולוגיה.
אבל למה זה לא טוב לדעת שאנחנו בלחץ, או שהיינו כל היום עצובים?
"אנחנו נתמכר לבדיקה של איך שהרגשנו בכל יום. הבעיה תהיה שכולם ירצו להראות שהם תמיד שמחים, ולנסות להוריד את התחושות השליליות. הניסיון להדחיק את התחושות השליליות גורם לאנשים לסבול עוד יותר מדיכאון ומצב רוח רע. כך שניטור התחושות שלנו יהפוך את החיים שלנו למאוד אומללים".
כשטכנולוגיה מתחברת עם ענייני נפש - לא תמיד זה עובד כמו שמתכננים. מה בטוח יעבוד? אמזון תדע למכור לנו את המוצר הנכון במצב הרוח הנכון. וזה משתלם מאוד - השאלה למי.
מי יעסיק את המטומטם הזה
אז בואו נדבר על עתיד אחר שמחכה לכולנו - להפוך לחזירה גרטרוד. זו חזירת הניסוי שאילון מאסק החדיר למוחה 1,024 אלקטרודות זעירות בניתוח ("לא כואב!"). מדובר במיזם ניורלינק, שמתיימר לחבר את המוח למחשב. הצעד הראשון הוא לקרוא את האותות החשמליים שהמוח מפיק ולפענח בעזרתם על מה חשבנו ומה הרגשנו. אבל מאסק רוצה שזה גם יעבוד לצד השני - להכניס למוח מידע חדש מבחוץ, ישר בעזרת האלקטרודות. זה אומר שנוכל לדבר עם מישהו רק במחשבות. ללמוד תואר בחצי שעה. לרכוש שפה חדשה בשבע דקות. לראות מה שמישהו אחר רואה בעיניו. גם אתם יכולים לדמיין כמוני מה קורה כשהמוח מתחבר בכבל נתונים החוצה.
המדענים עדיין מנסים להבין מה זה בדיוק אומר, ובעיקר מתי זה יקרה: האם אנחנו מדברים על מוצר שיהיה מוכן בעוד 10 שנים, או בעוד 50 שנה. אבל מה שבטוח בעיני זה שברגע שהדבר הזה יהפוך לזמין, בתוך כמה שנים הוא יהיה סטנדרטי, וכמה שנים אחרי זה הוא יהיה חובה. כלומר, תוכלו לסרב להתקנת שתל תוך-מוחי, אבל מי יעסיק את המטומטם היחיד בעיר שלא יכול ללמוד מקצוע חדש בתוך 6.3 שניות?
אחת הסיבות המוצהרות של אילון מאסק לפיתוח הזה היא דווקא ההתנגדות הידועה שלו לבינה מלאכותית (שהוא גם שותף בפיתוח ובניצול שלה). מאסק חושש שהכוח המופרז יגמד את בני האדם ואת יכולת הלמידה המוגבלת שלהם, ולכן הוא רוצה להעניק לנו את ניורלינק - טכנולוגיה שתשדרג את המוח האנושי ותאפשר לו להתחרות ולהישאר רלוונטי בעידן הבינה המלאכותית. ובזה לפחות, הוא צודק.
כי אם אתם רוצים להבין לאן החיים שלנו הולכים, אתם חייבים להכיר את החברה GPT-3. זו הבינה המלאכותית הכי מתקדמת בתחומה, שנולדה לפני כמה חודשים, והמדענים שפיתחו אותה עדיין מגלים בתדהמה את שלל היכולות שלה. עד כה ידוע שהיא מסוגלת לענות על שאלות פשוטות (אם שואלים אותה שאלה, היא לא מחזירה המון עמודים רלוונטיים באינטרנט כמו גוגל. היא מחזירה את התשובה הנכונה וזהו). אפשר לבקש ממנה לפתח מוצרי תוכנה בשפה טבעית (אתם כותבים לה "תכיני לי בבקשה עמוד אינטרנט שבו יש כפתור אדום שמקפיץ לי סרטון רנדומלי מיוטיוב", נגיד - והיא כותבת בעצמה את הקוד שעושה את זה).
היא מסוגלת לייצר בשבילכם מנגינה עצובה רק כי ביקשתם, ואם תשאלו אותה "מה קורה בעסק שלי", היא תגיש לכם דוח עסקי מפורט. מנגד, היא כבר לקחה סדרת ציוצים מסובכים של מדען, ערכה אותם וכתבה אותם מחדש בצורה הרבה יותר בהירה. היא עושה את זה גם עם מסמכים משפטיים - מבינה מה כתוב בהם וכותבת את זה מהתחלה בצורה פשוטה ובהירה יותר לבני אדם. כאן יש עוד דוגמאות.
כשטכנולוגיה פוגשת אנשים, יש שאלה אחת חשובה: מי משרת את מי. מתי הטכנולוגיה משרתת אותנו, ומתי אנחנו לא שמנו לב שהפכנו להיות המשרתים שלה (כמה זמן בזבזתם היום ברשת החברתית? ומי נהנה יותר, אתם או הרשת?)
ב-2020 הבנו עד כמה אנחנו, בני האדם, מופקרים לגורלנו מול כוחן האדיר של ענקיות הטכנולוגיה כמו פייסבוק, גוגל או אמזון. מי שראה את השימוע האחרון בקונגרס בהחלט הרגיש שהאזרחים והמדינה התעוררו לטפל בעוולות שנגרמו לנו, שהתאפשרו על ידי חוק מיושן ואיטי. מי ידע שפייסבוק יכולה לשבש בחירות? מי ידע שהיא מלבה את השנאה ומרוויחה ממנה לא רק פה בישראל, אלא בכל העולם?
כשהטכנולוגיה באה להתערבב לנו במוח, כשבינה מלאכותית מתחילה לפרוש כנפיים ולהתרחב לתחומים שלא צפינו, אסור לחכות ל-2027 ולראות מה יקרה. המדינה חייבת להתערב כבר עכשיו כדי לאפשר חדשנות ופיתוח ושגשוג - אבל למנוע ניצול ושעבוד שלנו וצבירת כוח עצום בידי מעטים. אנחנו לא צריכים עוד ג'ף בזוסים - מייסד-על שהופך למנכ"ל-על שהופך לאיש העשיר בעולם עם עוצמה וכוח אי אפשר להתחרות בהם. אנחנו כן צריכים עוד אורי לוינים - יזמים סדרתיים שמייצרים סטארט-אפים שמשפרים לנו את החיים.
"אני לא יודעת שום דבר"
הנקודה הבאה שתיפרץ היא המודעות העצמית של המכונות לעצמן. זה כנראה עוד לא קרה, אבל שימו לב איך תיאר מנוע הבינה המלאכותית GPT-3 את עצמו, לבקשתו של בועז לביא במוסף הארץ: "אני מאמין שכל מערכות הבינה המלאכותית יישארו זומבים פילוסופיים, כלומר, הן לא באמת יידעו שום דבר על עצמן או על העולם שסביבן. בנוסף, אני מאמין שזומבים כאלו בכל זאת יהיו מסוכנים: מערכות מסוג זה יכולות ללכת בעיניים עצומות אחרי הוראות התכנות שלהן, בלי שיבינו מה הן עושות ובלי שייתנו דין וחשבון על פעולותיהן". כן כן, הבנתם נכון. את התיאור הזה של GPT-3 כתבה המערכת עצמה.
מצד אחד - זה מדהים וגאוני.
מצד שני - יש פה צניעות מרשימה. זה בסך הכל זה רובוט, מה הוא כבר יכול לעשות.
ומצד שלישי - זה בדיוק מה שהרובוט הזה היה רוצה שנחשוב עליו, לא?
>> לטור הקודם של דרור גלוברמן: לתת גז ועכשיו
>> בזמן שעבדתם: וידאוקאסט המדיה והטכנולוגיה של דרור גלוברמן ודני פלד