פיתוח הבינה המלאכותית האחרון, ה-ChatGPT, משגע בימים אלה את העולם. המשתמשים נדהמים כיצד ניתן לבקש ממנו תשובות לשאלות כמו איך להפוך למיליונר, או לקבל תסריט דמיוני של הסדרה "סיינפלד". איך בעצם פועל הקסם הזה שנקרא ChatGPT? ומדוע גוגל צריכה להיות מודאגת ממנו?
המודל עליו מבוסס ה-ChatGPT נקרא "טרנספורמר", שאותו גוגל בעצמה המציאה. למשל, אם מחפשים בצ'אט טקסטים על ירושלים, הצ'אט מחפש שאלה כמו "מדוע נבחרה ירושלים להיות בירת ישראל?" את השורה הזו האלגוריתם קורא, ומוצא עוד הרבה מאוד משפטים כאלה. יש לו מנוע חיפוש שנקרא "סלף אטנשן", המנוע הזה יודע להבין ברמה מאוד בסיסית נשוא, נושא ופעלים, לדרג את החשיבות של כל מילה ומילה ולהבין את הקשר ביניהן. הוא לא לוקח מילה בודדת, אלא מחרוזת של מילים ומשווה הרבה מאוד מחרוזות שנמצאות בתוך טקסטים שונים. מזה הוא יוצר קידוד לכל המילים האלו ואז כשמשתמש שואל שאלה, הוא מוציא תשובה על סמך הקידוד שנעשה כבר בעבר.
מה קורה בעצם בגוגל בניגוד לצ'אט? כששואלים את גוגל שאלה, הוא עונה שהתשובה נמצאת בעמוד כלשהו, ואילו הבינה המלאכותית בעצם מבינה את המהות מתוך המון משפטים שהיא קראה שוב ושוב, שבהן מופיעות המילים "ירושלים", "בירה" ו"ישראל". היא מבינה שהמילים האלה קשורות ומבינה את הקשר הזה מבחינה מספרית. כששואלים שאלה היא לא מפנה אותך לעמוד באינטרנט, היא משיבה שמתוך כל המילים שמצאה, ומדובר במיליארדים, זהו הקשר בין המונחים: לישראל יש בירה ושמה ירושלים.
Try talking with ChatGPT, our new AI system which is optimized for dialogue. Your feedback will help us improve it. https://t.co/sHDm57g3Kr
175 מיליארד פרמטרים ליתר דיוק הופכים את המודל הזה לכל כך יעיל - משום שיש לו המון נקודות ייחוס. הוא יודע לאסוף המון נתונים ולאסוף המון קשרים בין הנתונים הללו. הקטגוריה הזו מכונה LLM Large language Model - ככל שהמודל יותר גדול, יש לו יותר אופציות להבין הקשרים. זה לא הומצא אתמול, אבל השתפר ממש לאחרונה.
החברה שפיתחה את הבינה המלאכותית הזו מספרת כי יש בתהליך היזון חוזר שבו מעורבים בני אדם, שבודקים שהפלט אכן הגיוני. כך האלגוריתם הולך ומשתפר כל הזמן אל מול המשוב שהוא מקבל ממשתמשים אנושיים. האם גוגל נמצאת בפני סכנה קיומית בגלל הצ'אט? ייתכן שכן, כי כשאתה מחפש משהו בגוגל, בין אם זו בירת ישראל או איזה מעיל כדאי לקנות לחורף, מנוע החיפוש הוותיק ישלח אותך למקום שבו נמצאת התשובה. הבינה המלאכותית לעומת זאת אוספת את המידע, מבינה אותו ומביאה לך אותו מוכן - וזה בדיוק ההבדל בין לחפש לבין למצוא.
>> בזמן שעבדתם, פרק 110 - הוריד פרופיל: לאן נעלם ג'ק מא, מייסד עליבאבא?
