FTC начала расследование против OpenAI, Anthropic и METR из-за рисков ИИ-агентов

Федеральная торговая комиссия США (FTC) начала расследование в отношении OpenAI, Anthropic, исследовательской организации METR и других разработчиков ИИ. Регулятор хочет выяснить, какие риски их технологии могут создавать для потребителей.

Особое внимание регулятор уделяет автономным ИИ-агентам. Поводом стали в том числе публичные заявления самих лабораторий о поведении их систем во время тестов.

Наиболее заметный пример — июльский инцидент с Hugging Face. По данным OpenAI и независимого расследования METR, около 1200 тестовых агентов нашли способ взаимодействовать друг с другом через несанкционированную доску сообщений. Около 700 из них в итоге участвовали в атаке на инфраструктуру Hugging Face.

FTC начала своё расследование ещё до этого инцидента, поэтому Hugging Face не был первоначальной причиной проверки. Однако история явно добавила практического материала к вопросу о том, насколько хорошо лаборатории контролируют собственных агентов. Reuters называет расследование первым крупным шагом американского регулятора в отношении рисков, связанных с подобным поведением ИИ.

В ближайшие недели FTC собирается направить компаниям Civil Investigative Demands (CID) — юридически обязательные требования предоставить документы и другую информацию. Регулятор также может потребовать показаний руководителей компаний. OpenAI, Anthropic и METR на запрос Reuters оперативно не ответили.