ארה"ב מפרסמת מתווה לניהול סיכונים של בינה מלאכותית

מכון התקנים והטכנולוגיה האמריקאי (National Institute of Standards and Technology) פרסם לפני ימים אחדים מתווה מוצע לארגונים לניהול הסיכונים הכרוכים בפיתוח ושימוש בכלי בינה מלאכותית. המתווה מיועד לאימוץ וולונטרי והוא לא בגדר תקן מחייב. הוא גובש בעבודה שנמשכה כשנה וחצי תוך קבלת משוב מכ-240 ארגונים.

המתווה מורכב משני חלקים. הראשון מציע מסגרת לזיהוי הסיכונים בבינה מלאכותית ומתאר את המאפיינים של מערכות בינה מלאכותית אמינות. החלק השני מהווה את ליבת המתווה ומציג את ארבעת הצעדים לניהול הסיכונים במערכת בינה מלאכותית: מיפוי, מדידה, ניהול ומשילות. לפי הודעת NIST - בינה מלאכותית מאפיינת בסיכונים ייחודיים הנובעים מהשילוב של המורכבות הטכנולוגית של כלי בינה מלאכותית והקושי להסביר את פעילותם, לצד ההשפעה הממשית שיש לכלים על החברה (society) ועל חייהם וזכויותיהם של בני אדם. מקור: הודעה לעיתונות של NIST.