זו הייתה קרן אור באפילה - ההודעה החגיגית של חברת השבבים הגדולה בעולם, אנבידיה, שתקים מחשב-על, אחד מהחזקים בעולם, פה אצלנו ביקנעם. השקעה של מיליארדים בכלכלה הישראלית, בדיוק כשאנחנו צריכים כזאת. איזה יופי.
היום אנחנו מגלים שכל הפרויקט המרגש הזה - עומד בסכנה: חברת החשמל נסוגה מהבטחתה לספק במועד את החשמל הדרוש לחוות השרתים הענקית שאמורה לקום בפארק התעשייה מבוא כרמל. במקום דצמבר 2024, הודיעה חברת חשמל, זה יהיה דצמבר 2025. עבור אנבידיה, זו דחייה לא סבירה בתוכניות - ואם לא יימצא פתרון, מודים בפני גם בכירים באנבידיה, כל הבחירה בישראל למחשב העל וההשקעה של מיליארדי דולרים - בסכנה.
מה הסיפור? בירוקרטיה תכנונית סביב הקמת תחנת משנה לאספקת החשמל הייעודי לחוות שרתים אימתנית כזו. יש אישור, אין אישור, מי מחולל את הסחבת - חברת החשמל או הועדה המקומית? נזכיר, אלה כמה חתימות שעלולות לעלות מיליארדים.
מחברת החשמל נמסר: "חברת החשמל מוכנה כבר מספר חודשים לתחילת עבודה על תחנת המשנה במבוא כרמל, בין היתר עבור פרויקט מחשב העל של אנבידיה. לצערנו, אנחנו נתקלים בסבך בירוקרטי ארוך מול מנהלת פארק תעשיה מבוא כרמל. העיכוב בקבלת היתרי הבניה מונע מחברת החשמל מלהתחיל בהקמת הפרויקט בשטח".
נשמע משכנע? עד שמצלצלים לליאור אפלבויים, מנכ"ל אזור התעשייה מבוא כרמל.
הנה תגובתו: "לצערי הרב, הנתונים שהוצגו על ידי חברת החשמל אינם מדויקים בלשון המעטה. חברת החשמל פנתה לראשונה למנהלת הפארק ביום 29.9.22 בבקשה לדון בתוכנית. לאחר מספר הערות תכנוניות, ב-19.10.22 (תוך 3 שבועות בלבד מיום הפניה הראשונית) הוחזרה לחברת החשמל גרמושקה חתומה ומאושרת על ידי צוות המנהלת. איתה אמורה חברת החשמל לפנות לקבלת ההיתר הסופי לוועדת התכנון המקומית יזרעאלים.
"למיטב ידיעתי התוכנית נמצאת בשלב סופי של בקרת תכן וחתימות להיתר, ואין כל עיכוב מבחינת מנהלת הפארק מאז אוקטובר 2022. מנהלת פארק התעשייה מבוא כרמל תעשה כל שביכולתה על מנת לסייע ליזם ולחברת אנבידיה להשתקע בפארק לטובת השקעות בפיתוח בתעסוקה וחיזוק הכלכלה באזור".
לחברת החשמל כמובן יש תגובה לזה, וכך אפשר להמשיך עד אין קץ. כלומר, עד שלאנבידיה יימאס מהפרטץ' והבירוקרטיה הישראליים.
סאם אלטמן, אתה לא מפחד?
נניח שיש לכם הזדמנות לשאלה אחת לאיש הכי חשוב בעולם כיום. מה אתם שואלים?
סאם אלטמן, האיש מספר אחת בעולם הבינה המלאכותית ומנכ"ל OpenAI, החברה שבונה את ChatGPT ודאלי 2 ביקר השבוע בישראל. בשבוע שעבר הוא הודיע ש"צמצום סכנת הכחדה מבינה מלאכותית צריך לעמוד בראש סדר העדיפויות העולמי, לצד מגפות ומלחמה גרעינית".
קולטים? האנשים שמקדמים במהירות מסחררת את הבינה המלאכותית של העולם - מזהירים - מה שאנחנו מפתחים פה מסוכן למין האנושי. אלפי מומחים מהטובים בעולם - באמת לא ישנים בגלל זה בלילה. איך? יש המון תרחישים. הפצה של פייק ניוז שיעודד מלחמות ויפרק מדינות. וירוס שיברח ממעבדה. מכונות חכמות מדי שיעשו כרצונן ויפסיקו להישמע לנו. גם אלטמן מודאג. ולכן שאלתי אותו: "אם זה כל כך מסוכן, למה אתה בונה את זה? אתה לא חושש לקרובים לך?"
"זו שאלה טובה הוגנת", אמר אלטמן. "החלק הקשה בעבודה שלנו זה לאזן בין ההבטחה המדהימה של הטכנולוגיה הזאת שאנשים באמת צריכים - ובין התמודדות עם הסכנות הרציניות מאוד. למה להמשיך לפתח? אם נסתכל על הרגע הזה מהעתיד, זה ייראה לנו הרבה יותר גרוע מאיך שהיום נראים לנו החיים לפני 500-1,000 שנה. נגיד 'למה אנשים חיו בעוני' או 'למה אנשים חיו עם מחלות'. זה ייראה לנו ברברי. לכולם בעתיד יהיו חיים הרבה יותר טובים. יש לנו חובה מוסרית להבין איך עושים את זה. וחוץ מזה, זה בלתי ניתן לעצירה. הטכנולוגיה כאן ואי אפשר להפסיק אותה".
מדינות ישלמו לאזרחים?
שאלתי אותו גם: "אתה קורא להטיל רגולציה עליך ועל התחום כולו. כשהיא תבוא, האם תשתף פעולה, או שתתנהג כמו מארק צוקרברג שמנסה לחמוק ממנה"?
"יצרנו את החברה במידה רבה בגלל הסיכון הזה", המשיך אלטמן, "ויש לנו מבנה מיוחד, ואם אתה מתכנן את התמריצים נכון, אתה מקבל את התוצאה הרצויה. אין לנו את מבנה התמריצים שיש לחברה כמו פייסבוק. אני חושב שיש בפייסבוק אנשים שרוצים טוב, אבל מבנה התמריצים שם בעייתי. אחד הדברים שאנחנו מדברים עליהם - איך להקים מבנה שיאפשר לנו לאמץ רגולציה בחום".
אלטמן מניח שהבינה המלאכותית לא תברח לנו בין הידיים - אבל מודה שזה עלול לקרות, ושזה מסוכן. הוא מניח שחברות, ממשלות והאקדמיה יצליחו לשתף פעולה לטובת כולם - אבל מודה שייתכן שהעבודות של רבים מאיתנו יעלמו, ומדינות יצטרכו לשלם לנו האזרחים כדי שנשרוד.
דבר אחד ברור: עם כל האזהרות, אנשי הטכנולוגיה - ימשיכו לחקור ולפתח. ככה זה. החוקרים והממציאים כל כך מסוקרנים מהתגליות והיצירות שלהם עצמם, כל כך רוצים להותיר חותם, שהם תמיד יחפשו דרכים להצדיק אותן. וזה בסדר.
מי צריך להגן עלינו? הממשלה שלנו. איפה היא? אה. היא עדיין מחפשת איך להתמודד עם הנזקים של פייסבוק ואינסטגרם. נו, האלה מפעם. ומה עם לפחות ליהנות מהפוטנציאל הכלכלי האדיר של הבינה המלאכותית? אל תתרשמו ממילים, חפשו מעשים. הרבה הרבה פחות.
"לזוז מהר ולשבור דברים"
כשמארק צוקרברג חילק את המוטו הזה לעובדיו לפני כמעט יותר מעשור, הוא רוצה שהם יהיו נועזים וחדשניים. לא בטוח שהוא התכוון ל"לשבור את העיתונות ואת הדמוקרטיה", "לשבור את הנימוס והתרבות הבסיסיים", או "לשבור את הסמכות ההורית", "לשבור את השלווה של האדם שלא מחובר לוואטסאפ" ל-"לשבור את הביטחון העצמי של נערות בכל העולם", "לשבור את הקשב של כולנו".
לא לזה הוא התכוון, אבל כל הדברים האלה קרו. טכנולוגיות רבות זזות מהר ושוברות דברים, בכוונה או בלי כוונה. השאלה היא למה אנחנו - החברה האנושית, המדינה - לא זזים מהר ומתקנים דברים?
למה אנחנו לא לומדים לקחת את הטוב בחדשנות וטכנולוגיה ולעצור את הרע? ובזה אני מאשים היום - תופים בבקשה - את המשפטנים ומערכת החוק. ממש לא רק אותם, אבל אם זה הטרנד, בואו נצטרף.
הנה שורה מקוצרת של עניינים בוערים:
חוקי הפרטיות שלנו - מפגרים בעשרות שנים אחרי המציאות הטכנולוגית. התמודדות עם ענקיות הטכנולוגיה? מה עושים עם תכנים של הסתה לטרור ולאלימות, פגיעות מיניות, ולשון הרע - לא מטופל. איך שומרים על העיתונות החיונית לדמוקרטיה מתפקדת - לא פתור. האם מותר למשטרה לחדור לטלפונים של יעדים פליליים? וליעדי טרור? גם הנושאים האלה עוד לא הגיעו לפתרונם. המאגרים הביומטריים - כנ"ל. והנדסה גנטית, וכמובן, בינה מלאכותית. איך מתגוננים מהסכנות, איך נהנים מהפוטנציאל הכלכלי, ובעיקר - איך עוזרים לאזרחים להתמודד עם השינוים הצפויים?
זה בעצם די ידוע: הקצב של הטכנולוגיה הרבה יותר מהיר מהקצב של המשפטנים, המחוקקים, השופטים והרשויות שאמורות לשמור עלינו, והפער רק הולך ונפתח. אולי צריך לשנות משהו בסיסי. לשדרג את מערכת ההפעלה של המשפטנים. שילמדו לחוקק באותו קצב שכותבים קוד.
מה מפחיד את המשפטנים? בין היתר, לטעות. אז הם נזהרים ובודקים, מעמיקים, מהרהרים ומשתהים. בינתיים, הזמן החולף וחברות הטכנולוגיה הזריזות - הן שמעצבים את המציאות שלנו, בדמותן ולפי האינטרסים שלהן. כי היזמים רוצים לטעות. לטעות מהר ולתקן מהר. משפטנים ומחוקקים - תלמדו מהם.
אם הצוקרברגים זזים מהר ושוברים דברים - אתם צריכים לזוז מהר ולתקן דברים. ואם טעיתם - תלמדו מהטעות מהר ותתקנו מהר. אל תחכו לחוק המושלם. אין כזה. להגיב לטכנולוגיות באיחור של 15-20 שנה, זה הרבה יותר גרוע.
כולנו מאיר שלו
"השיחה עם סם אלטמן הזכירה לי את מאיר שלו. מאיר שלו סיפר שהוא התעצב מאוד כשפותחו תוכנות ניווט. כי אחד מכישוריו הייחודיים היה יכולת ניווט מופלאה, היכרות עם סמטאות העיר ונתיביה והתמצאות במרחב, וכאשר פותחו התוכנות, יכולת זו הפכה לחסרת חשיבות, שכן כולם יכלו לנווט באורח מושלם. כאשר סם אלטמן דיבר היום על בינה מלאכותית, הוא הבין ללבם של בעלי מקצוע וכישורים רבים שבינה מלאכותית תהפוך אותם לחסרי ייחוד ותתעלה עליהם. המעצב, הכותב, החוקר, מתכנת הקוד ועוד. כל אלה יהיו מאיר שלו של המחר". (ד"ר נמרוד קוזלובסקי).