האגודה לזכויות האזרח הודיעה כי עתרה היום (חמישי) לבג"ץ בבקשה שיורה למשטרה לחדול מקבלת החלטות על עיכוב וחיפוש סמים לשבים מחו"ל, בהסתמך על מערכת הבינה המלאכותית שפועלת בנתב"ג בשנים האחרונות.
בעתירה מציינת האגודה כי המערכת הפועלת בנתב"ג הוכנסה לשימוש משטרתי בחשאיות, ללא הסמכה מפורשת בחקיקה, ופוטנציאל הפגיעה שלה בזכויות אדם עצום. "משטרת ישראל התעלמה מכל הסכנות של הבינה המלאכותית, והכניסה את מערכת הבינה המלאכותית לשימוש בנתב"ג כאילו היה מדובר בגאדג'ט", טוענים באגודה.
באגודה לזכויות האזרח מסבירים כי מערכת הבינה המלאכותית בנתב"ג נועדה "לנבא" מי מהשבים לישראל עשוי להיות בלדר סמים, על בסיס יצירת פרופיל סטטיסטי ממידע שמוזן למערכת, והשוואתו לנתונים אישיים של הנוסעים המגיעים לנתב"ג. המערכת מייצרת רשימת מועמדים לחיפוש. כשאלו מגיעים ארצה, נשלחת התראה מהמערכת לשוטר, והאזרח מעוכב לחיפוש סמים בחפציו ועל גופו עם הגעתו.
בעתירה נטען שהמערכת פועלת כ"קופסה שחורה" שכן היא אוטונומית ומבוססת על למידת מכונה. השוטר אינו מסוגל להבין מדוע המערכת ממליצה על אדם כלשהו, מאלו נתונים היא מסיקה מסקנות ומוצאת דפוסים סטטיסטיים, ומה המשקל שניתן לכל נתון. כמו כן גם בדיעבד לא ניתן להסביר את ההמלצה של המערכת. לכן נטען בעתירה שההחלטות הן שרירותיות, וסותרות את ההלכות ביחס לאופן הפעלת שיקול הדעת בהחלטות שיטור רגישות. כמו כן מדובר בהחלטה שלא ניתן לבחון את חוקיותה.
כמו בכל מערכת בינה מלאכותית בתחום המכונה "שיטור מנבא", גם במערכת נתב"ג קיים חשש ממשי מפני קבלת "החלטות" שמבוססות על פרופיילינג גזעי פסול והטיות נוספות, שנוצרות במכוון או שלא במכוון, וגם כתוצאה מכך שמאגר הנתונים ממנו המערכת "לומדת" הוא מוטה, או מבוסס על הפליית עבר, מידע חסר, כתוצאה משיטור יתר או שיטור חסר, והטיות אחרות. המשטרה אינה מצביעה על אמצעי כלשהו בו נקטה למנוע תוצאה זו, והשימוש במערכת מאיין את האפשרות האפקטיבית לביקורת שיפוטית על שאלת האפליה.
בעוד השימוש במערכת זו בישראל מתבצע במחשכים ובאופן "פיראטי" כמעט, באיחוד האירופי מתנהל דיון ציבורי, מקצועי ומתמשך בנושא. דיון ציבורי זה הגיע לשיאו בימים אלו בחקיקת חוק הבינה המלאכותית, שבמסגרתו הוחלט לאסור לחלוטין את השימוש במערכות דומות בשטח האיחוד, או לכל הפחות להתנות את השימוש בהן בתנאים נרחבים ודווקניים, הוסבר בעתירה.
"לצד יתרונות הטכנולוגיה, מדובר במערכת שמשנה באופן מהותי את כללי המשחק וטומנת בחובה גם סכנות של ממש לפרטיות, לכבוד האדם ולזכותו לשוויון", אומר עו"ד גיל גן-מור, מנהל היחידה לזכויות אזרחיות חברתיות באגודה לזכויות האזרח. "היא מתנגשת חזיתית עם עקרונות יסוד של המשפט החוקתי, המנהלי והפלילי. משטרת ישראל התעלמה מכל הסכנות של הבינה המלאכותית, והכניסה את מערכת הבינה המלאכותית לשימוש בנתב"ג כאילו היה מדובר בגאדג'ט".