ראש השב"כ: להתאים את חוק השירות לעידן ה-AI

אולי יעניין אותך גם

ראש השב"כ, רונן בר, קורא לקדם רגולציה ואתיקה בנושא בינה מלאכותית והשימוש בה. לדבריו, "חברה דמוקרטית, ליברלית וחפצת חיים חייבת לייצר רגולציה מחייבת. קוד אתי רלוונטי, כולל הסרת תכנים פוגעניים, עידון האלגוריתם וחשיפת אנשים לדעות שונות והורדת רף ההסתה." הוא דיבר בשבוע הסייבר בתל-אביב.

בר אמר שלבינה מלאכותית השלכות מיידיות על הביטחון הלאומי: "הטכנולוגיה נמצאת בכל מקום, בידי כל אדם, מדינה וארגון, טובים או רעים", התריע. "כדי לפתח יכולת גרעינית נדרשו יכולות מעצמתיות. ל- AI,  שפוטנציאל הנזק שלה עצום, לא נדרש דבר. רק מכשיר סלולרי וחיבור לרשת".

לדבריו יש להתאים את חוק השב"כ "שנכתב בעידן הסיגינט, לעידן הסייבר וה-AI" ולמסד שיתופי פעולה ופתיחות בין חברות ענק טכנולוגיות לגופי הבטחון.

ראש השב"כ חשף בנאומו ששירות הביטחון הכללי משתמש בבינה מלאכותית. הארגון חילק את פוטנציאל השימוש בה לחמישה תחומים עיקריים: התייעלות הכוללת בתוכה קיצור תהליכים בירוקרטיים וקיצוץ בעלויות; הבחנה בין עיקר לתפל; מודיעין המתייחס לזיהוי דפוסים וחריגה מהם; עזרה בקבלת החלטות וחיזוי של מגמות שונות וסיכוי התממשותן.

בינה מלאכותית הוטעמה במערכת הסיכול של שב"כ ובאמצעותה, אמר בר, זוהו איומים וסיכונים ברשת.

לצד היתרונות הגלומים בבינה מלאכותית מנה ראש השב"כגם סיכונים בשימוש בה, ובהם פיתוי המשתמש באמצעות אספקת מידע מהירה ללא חסמים מוסריים, אספקת ידע מסוכן לידיים הלא נכונות וגם היעדר אחריותיות (Accountability) שיוביל לכך ש"החוק הוא חוק הג'ונגל". מקור: ישראל דיפנס (מאת עמי רוחקס דומבה)