הפרקליטות: המדינה הפסיקה להשתמש במערכת AI לאכיפה פלילית בנתב"ג

אולי יעניין אותך גם

המדינה חדלה להשתמש בנתב"ג מערכת מבוססת בינה מלאכותית (AI), לצורך חיזוי סטטיסטי של בלדרי סמים (פרופיילינג) - כך הודיעה פרקליטות המדינה לבג"ץ בתגובה לעתירה בנושא זה שהגישה האגודה לזכויות האזרח בישראל. המדינה הודיעה כי הפסיקה להשתמש במערכת כבר לפני כשנתיים, מ"שיקולים מבצעיים". בעקבות כך, ביקשה המדינה למחוק את העתירה. 

בעקבותה פנייתה ליועצת המשפטית לממשלה לפני למעלה משנה, האגודה לזכויות האזרח בישראל עתרה לבג"ץ בחודש מאי האחרון, בבקשה שיורה למשטרת ישראל לחדול מקבלת החלטות על עיכוב וחיפוש סמים אצל השבים מחו"ל בהסתמך על מערכת בינה מלאכותית. לפי העתירה, המערכת נועדה "לנבא" מי מהשבים לישראל עשוי להיות בלדר סמים, על-בסיס יצירת פרופיל סטטיסטי ממידע שמוזן למערכת, והשוואתו לנתונים אישיים של הנוסעים המגיעים לנתב"ג. 

בעתירה נטען עוד כי המערכת מייצרת רשימת מועמדים לחיפוש. כשאלו מגיעים ארצה נשלחת התראה מהמערכת לשוטר, והאזרח מעוכב לחיפוש סמים בחפציו ועל גופו עם הגעתו. בעתירה נטען כי במערכת סכנות ממשיות לפרטיות, לכבוד האדם ולזכותו לשוויון, משום שהיא פועלת כ"קופסה שחורה" ועלולה להגיע להחלטות שרירותיות, שאי אפשר להסביר ושאי אפשר לבחון את חוקיותן – בסתירה להלכות ביחס לאופן הפעלת שיקול הדעת בהחלטות שיטור רגישות. כמו נטען כי קיים חשש ממשי מפני קבלת "החלטות" שמבוססות על פרופיילינג גזעי פסול והטיות נוספות.

עו"ד גיל גן-מור מהאגודה, ממגישי העתירה, מסר כי: "ניתן להניח שהמשטרה הפסיקה את השימוש במערכת כתוצאה מכך שהבינה שהיא מעוררת קשיים חוקתיים, וסמיכות הזמנים בין הפסקת השימוש להחלטות שיפוטיות שחייבו לחשוף את המערכת, מדברת בעד עצמה". מקורות: כלכליסט (מאת תומר גנון); האגודה לזכויות האזרח