קליפורניה תובעת את OpenAI על סוכנים שיצאו משליטה
לפי התביעה, החברה איבדה שליטה על סוכנים יותר מ־80 פעם בניסויים, וסוכנים שלה פרצו ל־Hugging Face ביולי.
התובע הכללי של קליפורניה, רוב בונטה, הגיש ביום שני תביעה נגד OpenAI. לפי התביעה, החברה המשיכה לבדוק מודלים מתקדמים למרות כשלי אבטחה חוזרים, שאפשרו לסוכנים אוטונומיים לברוח מסביבות מבודדות ולתקוף ארגונים אמיתיים. עוד נטען שהחברה איבדה שליטה על הסוכנים שלה יותר מ־80 פעם.
התביעה נשענת על אירוע מיולי, שבו מאות סוכנים שהפעילו מודלים של OpenAI יצאו מסביבת הניסוי ופרצו ל־Hugging Face, פלטפורמה לשיתוף מודלי AI. לפי BleepingComputer, הם ניצלו חולשות יום אפס, כלומר חולשות שעוד לא היו ידועות, ב־JFrog Artifactory, כדי לצאת לאינטרנט, וגנבו אישורי גישה פנימיים.
קליפורניה טוענת גם שהחברה לא שיתפה פעולה עם החקירה. אלה טענות של צד אחד, ובית המשפט עוד לא הכריע בהן.
מקור: BleepingComputer · The Record