האם הרובוטים יקבלו תודעה וירצחו את כולנו? אם זה תלוי בארגון Future of Life, התשובה השלילית. הארגון, העוסק בסכנות הטכנולוגיה, קורא, באמצעות עצומה שפתח, לאסור פיתוח של כלי נשק קטלניים המסוגלים לבצע החלטות הרג ללא מעורבות אנושית.
העצומה הוצגה אתמול (ג') בכנס הבינלאומי לאינטליגנציה מלאכותית בבואנוס איירס, בירת ארגנטינה, וחתומים עליה מאות מדענים, ביניהם הפיזיקאי סטיבן הוקינג, מייסד יצרנית המכוניות החשמליות טסלה והחברה לטיסות חלל SpaceX, אילון מאסק, אחד ממייסדי אפל, סטיב ווזניאק, הלשונאי נעם חומסקי, חתן פרס נובל לפיזיקה לשנת 2004 פרנק ווילצ'ק ועוד. הוקינג גם מקדם את העצומה באמצעות מענה לשאלות גולשים באתר הקהילות Reddit.
בעצומה נאמר כי רובוטים בעלי אינטליגנציה מלאכותית המסוגלים לבצע פעולות צבאיות שלמות בכוחות עצמם נמצאים במרחק שנים בודדות. הכותבים מציינים כי רובוטים שישמשו כחיילים הם רעיון שצבאות רבים שוקלים, בשל כך שהדבר מוריד את הסיכון להרג חיילים אנושיים, אך מצד שני מוריד את רמת ההירתעות מיציאה למלחמה.
הם קוראים לכלי-נשק אוטונומיים "המהפכה השלישית בלחימה - אחרי אבק השריפה והנשק הגרעיני", ומתריעים כי פיתוח נשק כזה על ידי גורם כלשהו יביא למירוץ חימוש עולמי, שיאפשר כמעט לכל גורם - צבאי או אזרחי - לייצר רובוטים כאלה, מה שיהפוך אותם ל"קלשניקובים של המחר", שיגיעו עד מהרה לידיהם של טרוריסטים, דיקטטורים חסרי מעצורים וגורמים לא-יציבים נוספים.
כדי שלא נוכל לטעון שהם מנותקים מהמציאות ומצרכי הביטחון של מדינות קטנות ומוקפות תוכניות גרעין, מדגישים החותמים כי הם אינם מבקשים למנוע פיתוח של נשק מתוחכם באופן מוחלט, אלא רק של נשק שמופעל כולו על ידי אלגוריתמים ממוחשבים, ומסוגל להרוג בני אדם ללא בן אנוש שיפקח על כך מרחוק ויבצע את ההחלטה הקשה.
"אנו מאמינים שלאינטליגנציה מלאכותית יש פוטנציאל גדול להועיל לאנושות בדרכים רבות, וכי זו צריכה להיות מטרת התחום", הם כותבים. "התחלת מירוץ חימוש של אינטליגנציה מלאכותית היא רעיון רע, ועלינו למנוע זאת על ידי איסור פיתוח נשק קטלני אוטונומי ללא שליטה אנושית משמעותית". הם מוסיפים כי "ישנן דרכים רבות בהן אינטליגנציה מלאכותית יכולה להפוך שדות קרב בטוחים יותר לבני אנוש, ובמיוחד אזרחים, מבלי שתיצור עוד כלי הרג".
מאז אתמול נוספו למאות החותמים המקוריים על העצומה אלפי גולשים, וכל אחד יכול להצטרף. אבל אם אתם לא מאמינים שהעצומה תעזור (וסביר להניח שהיא לא, בדיוק כמו המתנגדים לפיתוח האטום בתחילת המאה שעברה) - תשמחו לדעת שיש מי שכבר מתכונן לאפשרות הזו. קמפיין מימון-המון שנפתח בסוף השבוע שעבר מציע לגולשים לשלם כדי להיכלל ב-Don't Kill List ("רשימת האל-הרג") - אתר שמיועד להפוך לחלק מפעולתם של רובוטים קטלניים ולהוות מעין פקודה שאוסרת עליהם להרוג אנשים מסוימים. הקמפיין הזה מעט פחות מוצלח מהעצומה, ובארבעת הימים שלו באוויר תרם לו רק גולש אחד - ובצדק.