במשך דקות אחדות בחודש מאי האחרון, היה נדמה לרבים ב"וול סטריט" כי הכלכלה העולמית ניצבת בפני משבר. בבת אחת ובלי התרעה מראש, החלה צניחה חדה בשוק המניות האמריקני ובו גם מדד S&P 500 בתגובה לתמונה אחת שהופצה ברשתות החברתיות והובילה לבהלה אדירה. למרבה המזל, תמונה זו, שהציגה פיצוץ מסתורי בסמוך לבניין הפטנגון האמריקני, התגלתה בתוך זמן קצר כזיוף שנוצר באמצעות תוכנת AI, ידיעה שאפשרה לרבים לנשום לרווחה.
עם זאת, מקרים בהן תמונות וסרטונים פרי יצירתן של תוכנות AI מופצות ברשתות וגורמות לבהלה כבר מזמן הפכו לחלק משגרה עולמית. לפי הערכות של מומחים בתחום, כבר היום נעשה שימוש חסר-תקדים בבינה מלאכותית כדי ליצור מדיה מזוייפת לצרכי מערכות בחירות או עימותים בינלאומיים, ואילו עד 2026 משערים כ-90% מהמדיה ברשתות החברתיות יווצרו באמצעות AI.
כדי להתמודד עם האיומים הללו, הקים מיכאל מטיאס יחד עם עמיתיו מחידה 8200 ואוניברסיטת סטנפורד את חברת הסטראט-אפ Clarity במטרה לנסות ולבלום את המדיה המזויפת רגע לפני שהיא מופיעה על המסכים שלנו. "במהלך השירות שלי ב-8200, זיהיתי כיצד השילוב בין סייבר ובינה מלאכותית הולך להשפיע בקרוב מאוד על מערכות פיננסיות, ביטחוניות ומדיניות בצורה חסרת תקדים", מספר מטיאס, שהחליט מיד לאחר שירותו כקצין ביחידה, לטוס לאוניברסיטת סטנפורד במטרה להעמיק את מחקרו בתחום.
"ככל שאתה חוקר את הנושא יותר – אתה מבין שהסייבר הוא כבר היום אחד מהאיומים הגדולים שניצבים בפני הדמוקרטיה והתפתחות הבינה המלאכותית היא הקטר שיאפשר להוציא לפועל מתקפות סייבר רחבות בכל מקום בעולם", הוא מסביר וטוען: "לצערנו, הגענו למצב ב-2022 שבזמן שמתקפות כאלו הם כבר חלק בלתי נפרד מהיומיום – עדיין לא היה אף מנגנון אבטחה יעיל שינסה להתמודד איתם. לכן הקמנו את Clarity".
את חוש היזמות ירש ככל הנראה מיכאל מאביו, יוסי מטיאס, המשמש כיום כסגן נשיא בגוגל העולמית ומנכ״ל מרכז המחקר והפיתוח של גוגל בישראל. "רבים נחשפים ליכולות של AI רק בשנתיים האחרונות, אבל אני גדלתי בבית שבו ה-AI הוא חלק מהשיח היומיומי", הוא נזכר. "בזמן שאבא שלי הוביל פרויקטים של בינה מלאכותית בגוגל, אמא שלי שימשה כמשנה ליועצת המשפטית והביאה לבית את המישור המדיני. החיבור בין שני העולמות הוביל אותי לחקור את השפעות ה-AI על מדינות דמוקרטיות ולבסוף להקים יחד עם פרופסורים מסטנפורד המומחים דווקא למשטרים דמוקרטים את החברה.
"היום צריך רק 30 שניות של הקלטה קולית כדי לייצר דיפ-פייק מושלם"
מאז הוקמה החברה ב-2022, Clarity משמשת מוסדות פיננסיים, צבאיים וממשלתיים כמו גם גופי תקשורת ואנשי ציבור בכירים, כדי לזהות מניפולציות של AI בסרטוני וידאו, תמונות, אודיו ולאמת את מהימנותם. בכך, החברה מסייעת למנוע הפצת מידע שגוי שמטרתו להנדס תודעה ציבורית, וחמור מכך – למנוע הונאות, מתקפות פישינג וחדירות מידע למנגנונים רגישים מרמת הפרט ועד למדינה.
אחד האתגרים העיקריים איתו החברה מתמודדת הוא איום ה-"דיפ-פייק" – תכני וידאו ושמע שנראים ונשמעים אמינים לחלוטין על-אף שבפועל לא קרו מעולם. "תכני דיפ-פייק הם למעשה אחד מסוגי המתקפות שהתעצמו עקב השילוב של סייבר ובינה מלאכותית", מסביר מטיאס. "אם בעבר היה מאוד קשה לערוך תכנים באמצעות פוטושופ או תוכנות אחרות, היום כל אדם שיש לו מחשב יכול להשתמש בפלטפורמות ה-AI כדי לייצר באופן חינמי ומהיר מספר בלתי-נגמר של תוכן מזוייף".
לפי מנכ"ל החברה, הנגישות הטכנולוגית כיום מאפשרת למעשה לכל אדם להוציא לפועל לייצר דיפ פייק ולשתול באמצעותם רעיונות לאנשים שנחשפים אליהם כמו גם להשיג מהם מידע משמעותי. "היום צריך רק 30 שניות של הקלטה קולית כדי לייצר דיפ-פייק מושלם לכל בן אדם", מצהיר מטיאס. "כבר היום אנחנו עדים למקרים רבים בהם אנשים מקבלים שיחות טלפון לכאורה מקולגה או מהבוס שלהם, שמבקש מהם לעשות פעולות בעלות השלכות מרחיקות לכת. בארצות הברית אפילו התפשטה מגפה בה הורים מקבלים שיחות טלפון מילדיהם שזועקים בקולם כי הם נחטפו ולאחר מכן יוצר הדיפ-פייק דורש כופר מההורים המבוהלים".
"אירועים כאלו נוגעים בעיקר לפרט, אולם הם יכולים גם לסכן ארגונים ואף להוות איום על ביטחון המדינה", ממשיך מטיאס. "זה כבר קרה במלחמת רוסיה-אוקראינה כשהופץ ברשת סרטון של זלנסקי המורה למפקדי הצבא להניח את נשקם, או כשיועצו האישי של הנשיא עלה לשיחה עם שגריר ארה"ב ברוסיה, ורק לאחר עשר דקות במהלם הצדדים החליפו מידע רגיש התברר כי מדובר בדיפ-פייק והשגריר בכלל לא נמצא על הקו. כמו שזה קרה שם, זה יכול לקרות בכל מקום אחר.
"אנחנו במירוץ חימוש בינלאומי – ומי שלא ימגן את עצמו, יותקף"
אחת הבעיות המרכזיות בהתמגנות מפני מתקפות סייבר ככלל ודיפ-פייק בפרט, היא היכולת של הטכנולוגיה להשתכלל בקצב מהיר וכך לאתגר את מערכות ההגנה של החברות ואת העין האנושית. "מחקרים אחרונים מראים שכבר היום, 80% מהאוכלוסייה לא מצליחים לזהות דיפ-פייק – גם אם מדובר בתוכן שזוייף באופן לא מוצלח. תאר לך מה יקרה בעוד כמה חודשים או שנים כאשר הטכנולוגיה רק תמשיך להתקדם והתכנים הללו יראו אפילו יותר מציאותיים מכיום".
"בעולם שבו 90% אחוז מהתוכן ברשתות יווצר על-ידי AI, כל אחד מאיתנו ייקח חלק בעל כורחו במתקפת סייבר ברגע שיצפה, יגיב או ישתף סרטון שאינו אמיתי. בסופו של דבר הטכנולוגיה רק תתקדם – אבל העין שלנו והאוזניים שלנו שקולטות את האינפורמציה יישארו אותו דבר", מדגיש מטיאס.
לפיכך, ועד שיומצאו משקפיים או אוזניות שידעו לזהות מניפולציות ויזואליות וקוליות, נראה כי חברות ומדינות יהיו חייבות לשכור את שירותיהן של חברות כגון Clarity במטרה למגן את עצמן. "אנחנו בעיצומו של מירוץ חימוש בינלאומי – ומי שלא ימגן את עצמו מפני איומי הדיפ-פייק, עלול למצוא את עצמו במוקדם או במאוחר בצד המותקף", מבהיר מטיאס. "לכן, כמו שצ'ק-פוינט פרצו דרך כשיצרו את ה-Firewall לרשתות התקשורת, עכשיו העולם זקוק לחברות שיספקו לו Firewall לאיומי הדיפ-פייק".
זוהי בדיוק רשת ההגנה שחברת Clarity מספקת ללקוחותיה, כאשר היא מטמיעה מערכות הגנה מתקדמות ומספקת להן יתרון טכנולוגי המאפשר להן להיות תמיד "צעד אחד לפני" המפגעים. הביקוש הגדל לחברה אף בא לידי ביטוי בגיוס סיד שביצעה לאחרונה, במסגרתו גייסה כ-16 מיליון דולר שיושקע בהמשך הפיתוח הטכנולוגי, התרחבות לארה"ב וגיוס עובדים נוספים. כמו-כן, זה בוודאי לא יפתיע אף אחד שמבין 15 עובדי החברה כיום, ניתן למנות לא מעט יוצאי צ'ק פוינט כמו גם אנשי מודיעין ישראליים.
"היום אנחנו יצרני הדיפ פייק הכי גדולים בעולם"
לטענתו של מטיאס, אומנם החברה עוסקת במתן כלי הגנה מפני איומי סייבר וזיהוי דיפ-פייק, אולם על כל פנייה שהוא מקבל מחברות לצורך הגנה – הוא מקבל גם בקשות ליצירת דיפ-פייק לצורך התקפה. "כל חברה שיש לה ממשק עם עולם הסייבר רוצה לאחוז בשני צדדי המקל – גם בהגנה הכי טובה וגם בהתקפה הכי יעילה", הוא מחדד ואף מכריז - "לדעתי, החברה היום היא יצרנית הדיפ-פייק הכי גדולה בעולם".
אולם, לטענת מטיאס התכנים שהחברה מייצרת נועדו כדי לשדרג את המערוכת שלה ולא להפצה כלפי חוץ. "כל התכנים שאנחנו מייצרים נועדו אך ורק לאמן את המודלים שלנו – ואנחנו לא עושים בהם שום שימוש חיצוני. כדי לבנות את החומה הטובה ביותר ללקוחות שלנו – צריך לאתגר אותה בהתקפה הטובה ביותר, ולכן מיטב במוחות אצלנו יוצרים את התכנים הפיקטיביים המשוכללים ביותר כדי לעלות על כל פירצה אפשרית במערכות ההגנה ".
מנגד, כבר היום יש לא מעט חברות שמתמחות בייצור והפצה של דיפ פייק, ולצערנו נראה כי התחום הזה עוד רק בראשית דרכו. "עולם ה-AI מושך מיליוני דולרים וכל יום מוקמות עוד חברות שמגבירות את התחרות וכך גם את רמת האיכות והנגישות", מסביר מטיאס. "כולם כבר שמעו על זה שישנן חברות שפועלות כדי שבעוד כמה שנים לכולנו יהיה אווטאר שיוכל להחליף אותנו בשיחות זום, ושנציג הבנק שלנו יוחלף בדמות וירטואלית שנראית ונשמעת כמוהו בדיוק. יהיו לכך הרבה השלכות חיוביות – אבל אף אחד לא מדבר על סכנות הסייבר האפשריות והעובדה שבעולם וירטואלי, גם נהיה חשופים מדי יום לעשרות ומאות הונאות וירטואליות".
וכמה זה אמור להבהיל אותנו? "אני זוכר שבאחד הימים הראשונים של החברה, אחד החוקרים הגיע למשרדים בבוקר מבוהל מאוד, וכששאלתי אותו מה קרה – הוא ענה לי שהוא הצליח לייצר למעלה מ-5,000 תכני דיפ-פייק במהלך הלילה. הוא הראה לי באותו היום את התוצרים שהוא יצר וזה היה באמת מטורף. באותם רגעים אתה מבין שמתקפה כזו של אלפי סרטונים בבת אחת ללא מערכת הגנה ראויה, יכולה להכריע בחירות, למוטט חברות ולהוביל אנשים ומדינות להחלטות גורליות".
"המלחמה בעזה? ישראל היא המובילה בעולם בסייבר – בהגנה וגם בהתקפה"
לפי מטיאס, החברה הייתה בעיצומם של מספר פרוייקטים עם ארגונים וגופים מסביב לעולם כשפרצה לפתע המלחמה בישראל ב-7 באוקטובר. כבוגר יחידת 8200, מטיאס גם הוא מודע לכישלון המודיעיני שאירע במערכה האחרונה. "זה ברור שהיה פה מחדל רציני מאוד ואני בטוח שהוא גם יתוחקר לעומקו", הוא מבהיר אך מוסיף באותה נשימה כי לצד הלקחים החשובים שיש להפיק, אל לנו לשכוח שישראל היא עדיין מעצמת מודיעין בסדר גודל בינלאומי. "ישראל היא המובילה בעולם בסייבר ובבינה מלאכותית", מדגיש מטיאס, "גם בהגנה וגם בהתקפה".
"הקמנו את החברה בארץ כי רצינו את אותם יוצאי יחידות הסייבר והמודיעין שהצבא שלנו יודע לייצר", מבהיר מטיאס. "בסוף, ארגוני המודיעין הישראליים לצד החברות הפרטיות בישראל ידועות באמינות שלהן, ולא סתם מדינות וארגונים מסביב לעולם בוחרים דווקא כעת לשכור את שירותינו".
את סוד ההצלחה הישראלי מטיאס לא חושף בפנינו, אולם אולי ניתן למצוא רמזים לכך בדברי הסיכום האישיים שלו בסיומו של הריאיון: "אני יודע רק דבר אחד, והוא שלסבתא שלי או לאחיינית הקטנה שלי מגיעה הגנה של 360 מעלות, מפני כל מתקפת סייבר שעלולה לפגוע בהן. המטרה שלי היא לספק את כל הכלים האפשריים כדי שברגע האמת נזהה את ההונאה עוד לפני שהגיעה ליעד – ונדאג לסכל אותה".