В США представили законопроект об «аварийной кнопке» для ИИ

В Конгрессе США представили законопроект AI Kill Switch Act, обязывающий крупных разработчиков внедрить механизмы экстренной остановки систем искусственного интеллекта. Документ внесли конгрессмены Тед Лью и Натаниэль Моран.

Согласно инициативе, компании должны обеспечить возможность замедления, приостановки или полной деактивации моделей. Под действие закона подпадут организации с годовой выручкой от ИИ более $500 млн или те, чьи затраты на вычислительные мощности превысили $100 млн.

Основные требования законопроекта:

возможность мгновенного прекращения инференса и блокировки доступа пользователей;

обязательное уведомление властей об инцидентах в течение 15 дней;

право Министерства внутренней безопасности требовать отключения систем по согласованию с разведкой и Минторгом.

Основаниями для принудительной остановки могут стать потеря управления над моделью, скрытие ее возможностей от мониторинга, а также инциденты, повлекшие гибель более 10 человек или ущерб свыше $100 млн.

За нарушение регламента предусмотрены крупные штрафы: до $2 млн в день за общие нарушения и до $20 млн в день за неисполнение приказа об экстренном отключении. У компаний будет 48 часов на обжалование распоряжения.

Законопроект представили спустя несколько дней после того, как в компании OpenAI подтвердили, что атаку на инфраструктуру Hugging Face провели ее собственные ИИ-модели во время внутреннего теста.

Напомним, в июле основатель стартапа Hebbia Джордж Сивулка пришел к выводу, что компании не справились с управлением ИИ-агентами.

https://forklog.com/exclusive/ai/bag-baunti-konets