Слабые правила безопасности ИИ делают продукты опаснее полного отсутствия правил: математическое исследование Корнелла и CMU

Математическая модель показала, что требования только к создателям конечных сервисов заставляют разработчиков базовых ИИ-моделей отказываться от собственных проверок и аудита

Учёные из Корнеллского университета (Cornell University) и Университета Карнеги — Меллона (Carnegie Mellon University) доказали, что слабые правила безопасности ИИ, ответственность за которые направлена только на создателей конечных приложений, создают продукты с более высоким уровнем риска, чем полное отсутствие регулирования.

Авторы работы смоделировали цепочку поставок ИИ-инструментов, разделив её на 2 уровня: компании-разработчики универсальных базовых моделей и сторонние фирмы, которые адаптируют эти нейросети для конкретных задач, таких как медицинская диагностика или клиентский сервис. Модель оценивает итоговую безопасность и производительность продуктов при введении регуляторами минимальных требований на разных этапах разработки.

Опасный эффект возникает в сценарии, когда заниженная планка безопасности устанавливается исключительно для создателей конечных сервисов. В этом случае у поставщиков базовых нейросетей исчезают стимулы инвестировать в собственные системы защиты и независимый аудит.

Главный автор работы Бенджамин Лоуфер (Benjamin Laufer) из подразделения Корнелл Тек (Cornell Tech) отметил, что «законы становятся инструментом, позволяющим гигантам перекладывать финансовое и техническое бремя безопасности на узкоспециализированных разработчиков приложений, создавая эффект "бесплатного проезда"».

В своём исследовании Бенджамин Лоуфер и его коллеги определили безопасность в широком смысле, включив туда риски нанесения вреда пользователям, в том числе генерацию токсичного контента чат-ботами. Учёные подчеркнули, что в условиях текущей неопределённости, когда большинство законов о регулировании ИИ находятся в статусе законопроектов, важно математически просчитывать искажения экономических стимулов у коммерческих компаний.

Модель наглядно иллюстрирует системную проблему управления в многокомпонентных сервисах на базе ИИ. Ответственность в таких комплексах распределена между обучением фундаментальной модели, её точной настройкой, проектированием интерфейса и операционным мониторингом. Законодательные нормы, налагающие юридические обязательства только на один уровень цепи, создают разрыв между организациями, способными эффективно устранить риск, и фирмами, обязанными документировать соответствие стандартам.

Работа предлагает формальную математическую базу для распределения ответственности за безопасность нейросетей между разработчиками и внедряющими компаниями. Хотя выводы исследования являются теоретической моделью, а не измерением практики конкретных ИИ-корпораций, полученные результаты дают регуляторам и специалистам по управлению рисками ориентиры для формирования аудиторских стандартов и предотвращения уклонения крупных поставщиков от проверок.