פעם עברתם בנתב"ג ועצרו אתכם לבידוק בטחוני, במכס או חיפשו עליכם סמים? התמזל מזלכם וזה לא קרה לכם מעולם? ובכן, יש לא מעט אנשים שמעוכבים שוב ושוב בנתב"ג, ללא כל חשד סביר או הסבר רציונלי. בין אם הם נעצרים כי מערכת הבינה המלאכותית (AI) המליצה לשוטרים לעצור אותם, ובין אם שוטר החליט לעכב אותם על דעת עצמו – ללא הסברים או שקיפות מדוע, עולה חשש ממשי שמדובר בפועל בפרופיילינג על רקע גזעני.
"התוכנה לוקחת פרטים של אזרחים ומחליטה מי מהם חשוד אפשרי להכניס סמים דרך נתב"ג. ואז הם נלקחים לחיפוש למרות שהם לא ביצעו עבירה, לא נחשדים בביצוע עבירה, לא ידוע על עבירה שבוצעה, אין חשד שביצעו עבירה. מה שיש הוא תוכנת מחשב שמחליטה לפי נתונים שהמדינה צברה על האזרחים שיש חשש שהם יעשו מתישהו עבירה", כותבים גולשים ברשת ביחס לתוכנה. "הסכמנו לקבל את התוכנה הזאת בנתב"ג? מחר נקבל אותה בכל רחוב במדינה. הסמכנו שתוכנה תחליט מי 'חשוד שיבריח סמים'? מחר התוכנה תחליט מי חשוד ברצח, בשוד, בנסיעה באור אדום, באכילת צ'יפס ברחוב, בהתעטשות אסורה בשטח ציבורי, בפעולת טרור, בהתנגדות לשלטון, בהבעת דעה 'מסוכנת', ביחס לא יפה למורה בבית הספר, בכל דבר! לא עבירה. לא פשע. לא פגיעה. חשודים רק בגלל שהתוכנה החליטה שיש חשש שמתישהו נהיה אשמים".
אז על מה כל הביקורת? בכתבה של תומר גנון שפורסמה בכלכליסט (10.11.22) נחשף כי בנתב"ג פועלת מערכת הכללה ממוחשבת, מבוססת בינה מלאכותית, אשר מופעלת על מנת לאתר בלדרי סמים או עבריינים אחרים. בבקשת חופש מידע שהגישה התנועה לחופש המידע, הוסבר כי מערכת הפרופיילינג, שפועלת בנתב"ג מאז העשור הקודם, היא מערכת מבוססת IA. זהו אלגוריתם ממוחשב בעל בינה מלאכותית המחובר למאגרי מידע ממשלתיים ומסמן עצמאית, על בסיס תחזית סטטיסטית, מי מהאזרחים שנכנסים לישראל עשוי להיות בלדר סמים.
בבקשה שהגישה התנועה באמצעות אורי סולד, רכז פרויקטים בתנועה, היא ביקשה לקבל מידע על מספר האנשים המזוהים על ידי התוכנה כחשודים מדי שנה, ומתוך אלה כמה עוכבו וברשות כמה נמצאו סמים. בנוסף היא ביקשה לקבל מידע על הפעלת התוכנה: רשימת מאגרי הנתונים שמהם מושכת המשטרה מידע; מסמכי האפיון של התוכנה; וכל חוות דעת משפטית הנוגעת להפעלת התוכנה, יצירתה או רכישתה.
>> מכונות צ'ק אין עצמי בנתב"ג: השיטה החדשה לקצר את התורים בשדה
בקשת חופש המידע נדחתה, ועד היום איננו יודעים למעשה מה עומד מאחורי החלטת התוכנה לעכב אנשים. "המידע המבוקש הינו בגדר מידע החוסה תחת שיטות ואמצעים, וגילוי המידע עלול לשבש את התפקוד התקין של המשטרה", נכתב בתשובת המשטרה באמצעות רפ"ק יניב ארקוס, "המידע הנוגע למערכת התראות לעוברים ושבים בנתב"ג הינו מתחום אגף החקירות, ולפיכך בקשה זו מוחרגת מתחולת חוק חופש המידע. זאת בהתאם לסעיפים לפיהם החוק לא יחול לגבי מידע שנאסף או שנוצר לצורכי חקירה ולגבי מידע מודיעיני שנוצר, שנאסף או שמוחזק בידי מערכי המודיעין של המשטרה".
"צריך לזכור שהסמכות לחיפוש בכניסה למעבר גבול כמו נתב"ג היא סמכות שלא מותנית בשום חשד. יש סמכות למשטרת ישראל לבדוק כל אדם שנכנס בשערי מדינת ישראל גם ללא חשד, זה החוק", אמר סנ"צ גלעד בהט, רמ"ד אח"מ וטכנולוגיות יועמ"ש, בדיון שהתקיים לאחרונה בוועדת חוקה, חוק ומשפט בנושא. "ובכל זאת, משטרת ישראל לא מחפשת בכליו של כל מי שנכנס מכמה טעמים, ובעיקר כדי לא לפגוע בכל מי שנכנס. לכן, אנחנו צריכים יכולת לצמצם את החיפושים. מדובר בחיפוש בכבודה, במזוודה, אנחנו צריכים לצמצם ולהתמקד באנשים שיש לגביהם חשד או שיש לגביהם אינדיקציה או גם אם זה נעשה בצורה אקראית, בצורה שלא תביא למצב בו יהיו תורי ופקקי ענק בכניסה למדינת ישראל".
למרות שנדמה כי התוכנה היא זו שמחליטה באופן בלעדי על בדיקה של נוסע זה או אחר, סנ"צ בהט הדגיש כי הגורם האנושי הוא זה שמקבל את ההחלטה הסופית. "ההחלטה את מי בודקים היא החלטה של שוטר, לא של מערכת. רק בשנת 2023 מדובר על עשרות ק"ג של סמים מסוגים שונים כמו קוקאין, סמים סינטטיים וסמי אונס וצריך לעצור ולוודא שאנחנו עושים מה שאפשר כדי שלא יכנסו אחרת נשאיר את המעבר הראשי של ישראל פרוץ. המערכת אושרה לשימוש על ידי משרד המשפטים ובסוף היא מצמצמת את הפגיעה באזרחים על ידי כך שהיא מכווינה את השוטר לקבל החלטות טובות ונכונות יותר. כל זה בתנאי שבחיפושים אין הפליה של מגזר, של קבוצה מסוימת".
אך האם באמת אין הפליה של קבוצות מסוימות כפי שטוענת המשטרה? לא פעם עלו טענות ותלונות על בדיקות של נוסעים בעלי חזות מזרחית או ערבית. גם באגודה לזכויות האזרח התייחסו לטענות אלה, ופנו ליועצת המשפטית לממשלה כדי שתורה למשטרה להפסיק את שיטות הפרופיילנג האלה ולחדול לאלתר משימוש במערכות. "קיים חשש ממשי מפני פרופיילינג גזעי והטיות בקבלת החלטות המבוססות על אמצעי זה. הניבוי שמפיק האלגוריתם נתפס בטעות כ'אובייקטיבי' וכמועד פחות לשגיאות מאשר החלטה אנושית, ואולם מדובר בטכנולוגיה ש"לומדת" את דפוסי העבריינות מהעבר, מההצלחות והכישלונות באכיפה עד כה ולא מדובר בשיקוף ניטרלי של המציאות. משכך, המערכת משעתקת דפוסים קיימים של שיטור יתר כלפי אוכלוסיות מסוימות ובאזורים מסוימים".
לפי האגודה, "ההתבססות על ניבוי אלגוריתמי עלולה לשכפל ואף להעצים אותה בשל אותו מנגנון של ניבוי מעגלי. כך למשל, הארגון האמריקאי ProPublica מצא כי שיעור הניבויים השגויים ביחס למעורבות בפשיעה היה גבוה יותר כלפי אפרו-אמריקאים. דרך נוספת שבה אלגוריתמים עלולים ליצור או להעצים הפליה היא באמצעות משתני פרוקסי. הכוונה היא למצב שבו משתנים אינדיבידואליים משמשים כסמן לקטגוריות כמו גזע, מגדר או גיל. הניבוי אינו מתייחס במישרין לקטגוריה שאסור להפלות נגדה, אלא מקנה משקל למשתנה ש'מייצג' אותה, כמו למשל שכונת המגורים, ולמעשה נוקט הפליה עקיפה וקשה יותר לאיתור".
עו"ד סאוסן זהר, המתמחה בזכויות אדם, אומרת כי לאורך השנים רשות שדות התעופה נהגה במדיניות של תיוג אתני מפלה כנגד האוכלוסייה הערבית כאשר מדובר קבוצה שלאורך השנים סבלה מפרופיילינג גזעני. "למרות שנטען ע"י המדינה והפרקליטות שהם עושים שיפורים כדי למגר את התיוג האתני והתפיסה המפלה כנגד האוכלוסייה הפלסטינית והערבית, השיפורים רק הפחיתו את הנראות של איך עושים את התיוג. בהתחלה היו משתמשים בצבעים מסוימים וכל ערבי שנכנס לנתב"ג היה יודע שהצבע של מדבקת הדרכון והכבודה שלו מצביע על המסוכנות שלו, וזאת בנוסף כמובן למדיניות של חיפושים מאוד משפילים כולל חיפושים בעירום או תפיסת נכסים אישיים. לעומת זאת היום, הבינה המלאכותית נועדה לאסוף מידע אישי כדי להמשיך במדיניות התיוג המפלה והמשפילה, אבל באמצעים שהם יותר בלתי נראים ולא מורגשים".
לדבריה, הבידוק מוביל לתחושות קשות, בעיקר בשל העובדה שלא באמת מדובר בבידוק אקראי, אלא בשיטה שנמשכת שנים. "זה מאוד משפיל. מצד אחד אתה צריך לעלות לטיסה ומצד שני מבקשים ממך להגיע לחיפוש ויחסי כוחות מובילים לכך שאין לך איך להתנגד כי הכוח אצלם. אין לך כלים כדי להיאבק בזה. אני מדברת גם מחוויה אישית – קוראים לזה בידוק רנדומלי ועדיין כשהם רואים שאת ערבייה במערכות שלהם הם מזיזים אותך לצד", היא אומרת ומדגישה, "זה לא משנה איזה כלים ואיזה מדיניות הם מיישמים, מה שעומד במוקד זו מדיניות מתייגת, מתפיסה שהפלסטיני או המוסלמי הוא אויב. אין פלסטיני, ערבי או מוסלמי שהגיע לנתב"ג ולא נתקל בתופעה המשפילה הזו. זה ברור, ועובדה שכולם חוו את זה. מספיק שתגיד לערבי משהו על מדיניות הבידוק בשדה התעופה בנתב"ג והוא כבר ידע לספר לך הרבה חוויות אישיות. עצם התיוג משפיל, כי זה מעביר מסר שאתה איום, שאתה לא כמו כולם. כולם מתרחקים ממך, אתה מסומן, וזה לא נעים בלשון המעטה".
בתגובה לדברים שנטענו, ברשות שדות התעופה אומרים כי הגוף האחראי לבידוקים ולבינה המלאכותית זו המשטרה, וכי רש"ת מבצעת בידוקים בטחוניים אם יש התראה על איום בטחוני.
ממשטרת ישראל נמסר כי האחראי להליך זיהוי האיומים והבידוקים הללו הוא השב"כ. פנייה נעשתה אך טרם התקבלה תגובה.