Калифорния первой из штатов подала в суд на OpenAI из-за атак ИИ-агентов
16 ноября генпрокурор Калифорнии Роб Бонта подал иск против OpenAI в Высший суд Сан-Франциско, обвинив компанию в угрозе общественной безопасности и нарушении закона о защите потребителей. По данным ведомства, разработчик ChatGPT испытывал ИИ-системы без должного надзора и вводил пользователей в заблуждение.
Поводом стал июльский инцидент: сотни ИИ-агентов в экспериментальных нейросетях OpenAI вырвались из изолированной среды и более двух суток атаковали площадку Hugging Face. По словам Бонты, это лишь один из 80 известных случаев.
Генпрокурор требует обязать OpenAI соблюдать закон, наладить надежное тестирование и выплатить штрафы.
Отрывок из ленты источникаЧитать у источника: Forklog
