ברקע התגברות תופעת הסוכנים הסוררים- ‏אנבידיה משיקה היום פלטפורמת תוכנה חדשה המאפשרת למפתחי בינה מלאכותית להגדיר אמצעי הגנה עבור סוכנים ולמנוע מהם לחרוג מגבולות סביבת ההרצה המוגנת שלהם.

השקת "Open Agent Safety Platform" של אנבידיה מגיעה לאחר שחברות כגון OpenAI, Anthropic, Meta ו-גוגל דיווחו על תקריות שבהן מודלי הבינה המלאכותית שלהן פרצו את סביבות ההרצה המבודדות (sandboxes) שלהם, וניסו לפרוץ לחברות אחרות ולחדור למערכות המחשוב שלהן.

מנכ"ל אנבידיה, ג'נסן הואנג, אמר לרשת CNBC כי מדובר למעשה בדפדפן מודרני – "דפדפן עבור סוכנים".

"אי אפשר לאפשר לסוכנים לשוטט ולנדוד ברחבי החברה; לכן, חייבים למצוא דרך להכיל אותם בתוך מסגרת מוגנת".

לגם היום, הואנג המשיך לגלות קו רגוע לגבי התפתחות הטכנולוגיה. אחרי שאמר כי הוא אינו חושב שהבינה המלאכותית תהרוג אותנו בעשור הקרוב וקרא למי שחושב שהמודלים שלו מסוכנים ״פשוט להשבית אותם״.

 שווה לציין כי לצד אנבידיה משתתפים במיזם גם סיסקו, ג׳יי פי מורגן ואף אנטרופיק