OpenAI, החברה מאחורי DALL-E ו-ChatGPT, פרסמה כלי חינמי שלדבריה נועד "להבחין בין טקסט שנכתב על ידי אדם לבין טקסט שנכתב על ידי בינה מלאכותית". החברה מזהירה כי המסווג אינו "אמין לחלוטין" ו"לא אמור לשמש ככלי עיקרי לקבלת החלטות". לפי OpenAI, הכלי יכול להיות שימושי כדי לקבוע אם מישהו יצר טקסט בבינה מלאכותית וטוען שהוא נכתב על ידו.
הכלי פשוט יחסית, ורק מצריך שתתחברו לחשבון שלכם (אפשר דרך גוגל). אתם מדביקים טקסט של לפחות 1,000 תווים לתוך התיבה, לוחצים על כפתור, ותקבלו משוב האם מאוד לא סביר, לא סביר, לא ברור, כנראה שכן או כן, הטקסט נוצר בידי בינה מלאכותית.
סביר שהכלי לא יצליח לסווג טקסט שנכתב על ידי ילדים ואינו באנגלית, מכיוון שהוא אומן על ידי טקסט באנגלית שנכתב על ידי מבוגרים. כשניסינו לתת לו טקסטים בעברית, הוא לא הצליח לקרוא אותם. לעומת זאת, כשהעתקנו את טקסט הכתבה בנושא שפורסמה ב-The Verge, הוא קבע כי מאוד לא סביר שהיא נכתבה על ידי בינה מלאכותית, כלומר צדק.
ב-OpenAI מדגישים כמה סייגים נוספים: המסווג לא תמיד מדויק; הוא יכול לתייג באופן שגוי גם טקסט שנוצר בידי בינה מלאכותית וגם טקסט שנכתב על ידי אדם. בנוסף, ניתן לערוך טקסט שנוצר בידי בינה מלאכותית בקלות כדי להתחמק מהמסווג.
החברה גם אומרת שלפעמים היא תתייג "באופן שגוי אבל בביטחון" טקסט שנכתב על ידי אדם כמקור של בינה מלאכותית, וכי למעשה המסווג עדיין נמצא בתהליכי עבודה. הכלי לא מיועד רק לתכנים שנוצרו בידי GPT, אלא יכול לזהות טקסט שנכתב על ידי בינה מלאכותית ממגוון ספקים ושירותים שונים.
OpenAI היא לא הראשונה שהמציאה כלי לזיהוי טקסט שנוצר באמצעות ChatGPT; כמעט מיד לאחר שהצ'אט בוט הפך לוויראלי, סטודנט בשם אדוארד טיאן יצר כלי בשם GPTZero, כדי לזהות אם טקסט נכתב בידי אדם או מכונה וכך "לגלות גניבת דעת באמצעות בינה מלאכותית".
לאחרונה התגלה כי אתר CNET פרסם טקסטים שנכתבו בידי בינה מלאכותית תחת שם המערכת - CNET money. רק כאשר לחצו הגולשים על שם המחבר הם ראו הערה כי "מאמר זה נכתב בידי בינה מלאכותית ונערך בידי עורך במערכת".
הכלי שיצרה OpenAI מבקש לעזור בעיקר למורים בבתי הספר. בהודעה לעיתונות שפרסמה החברה נכתב כי "זיהוי טקסט שנכתב בבינה מלאכותית הוא נושא חשוב שעלה לדיון בקרב מחנכים", שכן בתי ספר שונים בארה"ב כבר אסרו על השימוש ב-ChatGPT. החברה אומרת שהיא "מתקשרת עם מחנכים בארה"ב" כדי להבין מה הם רואים מ-ChatGPT בכיתותיהם ומבקשת משוב מכל מי שעוסק בחינוך.
לסיום, עשינו ניסוי. ביקשנו מצ'אט GPT לכתוב לנו טקסט של 1,000 תווים האם אפשר לזהות טקסט שנכתב על ידי בינה מלאכותית. העברנו אותו לכלי הסיווג שם נקבע, שסביר שהוא נכתב על ידי בינה מלאכותית.
