הצבא צועד על בינתו

בחדר הבחינה נפלה עלי התרגשות. ואני בכלל לא הנבחן. אני הבוחן. 

View this post on Instagram

A post shared by Dror Globerman (@drorgloberman)


מדובר בסופו של קורס מיוחד לבינה מלאכותית לחיילים ומילואימניקים תלמידי MBA שהעברתי עם שי פרח במרכז האקדמי פרס. באו עם מדים וכלי נשק, חלקם מאובקים ומיוזעים, כדי להיבחן בבינה מלאכותית יוצרת, שימושים עסקיים וסכנות. 

רק רציתי לעבור בין כולם ולעזור להם. לא רק בבחינה. אפילו סתם להביא להם קולה קר. קח חייל גיבור, תנוח. אבל זה לא מקובל. אז עשיתי פרצוף רציני של מרצה וניסיתי לענות על שאלות באופן קורקטי. ובכל זאת, מתוך המאמץ והכאב הם מרימים ראש ומתאמצים אקסטרה כדי לראות עתיד. של העולם, של המדינה, של עצמם. כשתשאלו אותי מה ישראלי בעיני, נראה לי שיש לי תשובה.

נמאסק

מסתבר שהסרטון התמים הזה בתחילת ההרצאה שלי הפך למוצר אסור ונדיר.

סרטון של טראמפ בקולו ובדמותו? עשיתי אותו מזמן, כשעוד היה אפשר. נראה אתכם מנסים לעשות אותו עכשיו. תצטרכו להתאמץ הרבה יותר. 

חברות בתחומי הוידיאו כמו D-ID או דיבוב כמו ElevenLabs הולכות ומקשיחות את הכללים. ״אנחנו לא מחכים לחוק ולרגולציה. קבענו לעצמנו את הסטנדרטים. במטרה  להציע את האווטארים הכי בטוחים בתעשייה״, אומר תומר צוקר, סמנכ״ל השיווק של D-DI. 

בקצה השני, כרגיל, יש את אילון מאסק. אני יודע, נמאס. זה שחרר את הגירסה המשודגת למנוע הבינה המלאכותית שלו GROK, רק מה, את המגבלות שכח לשדרג, ועכשיו הרשת מתפוצצת בשכתובי היסטוריה.


גניבת זכויות יוצרים

 

 או סתם תעמולה אפקטיבית

כאן עוד דוגמאות.
והשאלות, כרגיל פתוחות.

האם זה באמת מטעה אנשים? או שהם מבינים שזו פיקציה של בינה מלאכותית? וגם אם מבינים - האם זה חסר השפעה נפשית נסתרת? אם יראו לכם סט תמונות של בן או בת הזוג שלכם בסיטואציות אינטימיות עם מישהו אחר. התמונות ריאליסטיות לגמרי, אבל אומרים לכם שזה פייק. אני לא שואל מה תחשבו, אני שואל: איך תרגישו? 

כך או כך, לא אתפלא אם היכולות המסוכנות באמת יילכו וייחסמו. תמיד יהיו דרכים לעקוף, אבל מקווה שתסכימו איתי שלא כדאי להותיר את היכולת להטעות אנשים בקלות בידיו של כל אחד. 

ולא, אל תבצעו את הפשעים שלכם עכשיו, או בכלל, ואם יש לכם סרטון או תמונה שעלולה להטעות, תהיו בני אדם ותדגישו את זה באופן ברור.

גולי גוליית

מצחיק לחשוב שמה שאיפשר לגוגל להתנפח למימדים כאלה היה המשפט הגדול הקודם מלפני רבע מאה, כשגוגל עוד היתה תינוק בחיתולים.  

ב-1998 נתבעה מיקרוסופט על ניצול לרעה של כוחה המונופולי במערכות הפעלה כדי להשתלט על שווקים אחרים כמו דפדפני אינטרנט. היא הפסידה וכבר הוכרע שתפוצל לחברות קטנות יותר. ערעור הציל אותה, אבל החברה ניסתה לרדת מהרדאר ופינתה מקום בעולם האינטרנט. מי שתפסה את המקום הזה יותר מכולם זו גוגל. 

2002 היתה השנה האחרונה בתולדות האינטרנט שבה גוגל היתה בתחרות. מאז היא הבוס. יודעת עלינו ה-כ-ל, שולטת בתוכן שנראה, מחליטה איזה יצרן תוכן יתפרנס ואיזה ימות, שואבת כספי פרסום משווקים שלמים. מייבשת את העיתונות בכל מדינה ומדינה. ובעיקר, מתנפחת ומתעצמת וחוסמת מתחרים. 

האם השתמשתם במנוע חיפוש שהוא לא גוגל ב-20 שנה האחרונות? איך זה הגיוני שאין שום חידוש מצליח בעולם החיפוש מחוץ לגוגל לאורך שני עשורים? ובכן, זה לא במקרה. 

זה נצחי כמו מזג האוויר: גוגל שולטת בחיפוש. בפרסום. בדפדפנים. בניווט ובמפות. בחצי משוק הסלולר. מסתערת על הבינה המלאכותית. שווה כמעט 2 טריליון דולר. נכון, זה מוצר מעולה ובשבילנו הוא חינם. לכן כל כך קשה לשפוט אותו לחומרה, ולהבין את הנזק שלו לשוק במונחי מניעת חדשנות ותחרות. 

כל מוצר שלה עוזר למוצרים האחרים לבצר דומיננטיות. היא משלמת מיליארדים בשנה לאפל ולמוזילה, כדי לוודא שאף מתחרה לא יצליח לשבש לה שליטה של כ-90% בשוק החיפוש, והנגזרת הרווחית שלו - פרסום, שמכניס לה 175 מיליארד דולר בשנה.

הפשע משתלם

בגלל זה קבע בשבוע שעבר השופט האמריקאי שגוגל עברה על החוק - ניצול לרעה של מעמדה המונופולי כדי לחסום מתחרים. כעת מתחילים הדיונים מה יהיה העונש. אחת ההצעות היא לפרק מגוגל את החלקים שעוסקים במערכת אנדרואיד, או את אלה שמטפלים בדפדפן, לכדי חברה אחרת.

נשמע חמור? לטעמי, הרגולטור לא למד את הלקח. תזמון זה הכל. לקח לו כמעט 20 שנה להגיב לשליטה של גוגל בשוק החיפוש ולתבוע את גוגל. לקח לבית המשפט עוד 4 שנים להגיע להחלטה. ועוד לא סיימנו. בינתיים מכונת הכסף של גוגל מתקתקת הכנסות, וכל העולם רואה. 

מה הלקח שלמדו החברות? אכול ככל יכולתך, בסוף זה משתלם גם אם עוברים מהמורות משפטיות. נניח שגוגל אכן תפורק לחברות שכל אחת מהן כבר ענק בתחומו. אם בעוד חמש שנים נחבר את הערך הכלכלי של כל החברות הללו יחד - כנראה שעדיין נקבל הרבה יותר ערך מאשר מציאות דמיונית שבה גוגל היתה נמנעת מלכחילה מעבירות על החוק. בקיצור, העבריינות משתלמת.

עכשיו באים?

ההתערבות המשפטית לא רק באה מאוחר מדי: היא הופכת לגרוטסקית כשחושבים על השפעת הבינה המלאכותית. 

רבים כבר העבירו את החיפוש שלהם מגוגל למנועי LLM כמו ChatGPT. פרפלקסיטי מחבר תשובות טובות מאוד מתוצאות חיפוש עדכניות, ומקפיד להראות לך מהיכן לקח את המידע. 

למה לי לקבל ערימות של לינקים לאתרים במנוע חיפוש - במקום תשובה של בינה מלאכותית שמאגדת כבר את המידע הקיים לפי הבקשה שלי? 

גם גוגל נעה לכיוון הזה, והיא השיקה השבוע סט יכולות חדשות של מנוע ג׳מיני שלה, שידבר עם לוח השנה ורשימת המשימות שלנו. בינה מלאכותית שתבין מה קורה לי בחיים ותסדר לי את היומן? חלום. 

בקיצור, ההחלטה מגיעה באיחור כה רב, דווקא כשמנועי חיפוש מתחילים לדעוך אל מול התחרות מצד מנועי בינה מלאכותית, שאותן מובילה הענקית מהסיפור הקודם - מיקרוסופט ו-OpenAI הצמודה אליה. המסר שבית המשפט והממשל היו צריכים לשגר לענקיות הטק הוא - העין פקוחה, אנחנו מבינים מה אתם עושים, ונפעל במהירות. בפועל, המצב הפוך בדיוק.

מתוך הניוזלטר של דרור גלוברמן Skip Intro. עוד טורים כאן