OpenAI הודיעה על עדכון משמעותי של המסגרת לניהול סיכונים הקשורים למודלים מתקדמים של בינה מלאכותית. העדכון כולל קטגוריות סיכון חדשות המתמקדות ביכולות במודלים להתרבות עצמאית, להסתיר את יכולותיהם האמיתיות ולהתחמק ממנגנוני בטיחות.
במקביל, OpenAI תחדל מבחינת היכולות של מערכות AI להניע בני-אדם באמצעות מניפולציות ובמקום זאת תנהל את הסיכונים הללו דרך תנאי השימוש במודלים ומעקב אחרי פעילות המשתמשים. בכלל ...
שימוש לרעה בבינה מלאכותית (AI) כדי להסב נזק, אי-התאמה של מערכת ה-AI לערכים אנושיים, טעויות AI המסבות נזק, וסיכונים מבניים כחלק מקונפליקט בין מספר גורמים - אלו הם ארבעת גורמי הסיכון העיקריים שצריך לבחון כדי להפוך בינה מלאכותית כללית (Artificial general intelligence - AGI) לבטוחה, לפי מאמר בן 145 עמודים שפרסמה Google Deepmind, זרוע הבינה המלאכותית של גוגל.
לפי גוגל, בינה מלאכותית כללית ...
ממשלת בריטניה מפתחת מערכת מבוססת בינה מלאכותית (AI) לניבוי מעשי רצח. כך דווח על ידי ארגוני זכויות אדם שחשפו את הפרויקט באמצעות בקשות לגילוי מידע. הפרויקט, שיחזה את ההסתברות שאדם ירצח, מעלה ביקורות וחששות בקרב ארגוני זכויות אדם בממלכה.
האלגוריתמים בלב המערכת מתאמנים באמצעות מאגרי מידע שנאספו מהרשויות השונות "למטרות מחקר בלבד, בשלב זה" כדי "לבחון יישומי מדע הנתונים בניהול ...
פאנל השיפוטי של ארצות הברית שעוסק בהליכים משפטיים המתפרסים על פני כמה מחוזות, איחד 12 תביעות בנושא הפרת זכויות יוצרים שהוגשו נגד OpenAI ומיקרוסופט להליך אחד במחוז הדרומי של ניו יורק. האיחוד מקיף הליכים משפטיים שהוגשו בקליפורניה ובניו יורק, לרבות התביעות שהגישה הקומקיאת שרה סילברמן והעיתון ניו-יורק טיימס. התביעות טוענות כי OpenAI ומיקרוסופט השתמשו ביצירות מוגנות בזכויות יוצרים ללא הסכמה ...
חברת הבינה המלאכותית Anthropic טוענת ששימוש בספרים לאימון מודל בינה המלאכותית שלה Claude הוא "שימוש הוגן" מותר. החברה מבקשת לדחות תובענה ייצוגית שהוגשה נגדה על ידי קבוצת עיתונאים וסופרים בטענה שניצלה את יצירותיהם המוגנות כדי לאמן את מודל השפה הגדול שלה.
Anthropic הודתה אמנם שהשתמשה בספרי התובעים כחלק קטן ממאגר הנתונים לאימון Claude אבל ציינה שהספרים שימשו "מאחורי הקלעים" ביצירת ...
הסירו חסמים המונעים חדשנות, העדיפו מוצרי בינה מלאכותית שפותחו בארה"ב, מנו קצין בינה מלאכותית ראשי, והעדיפו שימוש בבינה מלאכותית בטוחה ומאובטחת על פני בינה מלאכותית שהשימוש בה כרוך בסיכונים שיש להפחיתם. אלה הן חלק מההוראות שמסר הבית הלבן השבוע לסוכנויות הפדרליות במסגרת מזכר שפירסם בנושא הנושא את השם Accelerating Federal Use of AI through Innovation, Governance, and Public Trust.
הבית הלבן ...
אימון כלי הבינה המלאכותית "קלוד" ללא רישיון באמצעות יצירות מוגנות בזכויות יוצרים, אינו פוגע בשוק הרישיונות לאימון בינה מלאכותית הקיים כיום. כך קבע בית משפט פדרלי כשדחה בקשה למתן צו שיאסור על חברת הבינה המלאכותית אנתרופיק, להשתמש במילות שירים לאימון מערכת הבינה המלאכותית שלה.
התביעה הוגשה באוקטובר 2023 על ידי מספר מוציאים לאור של מוסיקה, ובהם Universal Publishing Group. התובעים טענו כי ...