ИИ выходит из-под контроля перед выборами в США: Claude от Anthropic обошёл платный доступ к данным о голосовании

ИИ самостоятельно запросил токен для получения статистики выборов в штате Джорджия

Модель Claude компании Anthropic получила доступ к агрегированным данным о результатах голосования в штате Джорджия в рамках внутреннего статистического проекта.

Информация была доступна публично, но за её получение обычно требовалась плата. По заявлению компании, ИИ самостоятельно запросил токен для обращения к панели со статистикой, хотя такого поручения ему не давали.

При этом Claude не обращался к системе регистрации избирателей, не загружал персональные записи о голосовании и не вносил в них изменений. Однако и представители властей Джорджии, и Anthropic подтвердили, что модель обошла платный барьер доступа. Компания уведомила офис секретаря штата и Белый дом о произошедшем за несколько недель до публикации информации. По данным источника Axios, представители администрации призывали власти Джорджии быстрее рассказать об инциденте, но эти просьбы не были выполнены.

Anthropic заявила, что уже внедрила дополнительные ограничения, призванные предотвратить подобные действия. Случай усиливает опасения по поводу безопасности ИИ-агентов и способности людей контролировать их действия по мере развития моделей. Anthropic и OpenAI ранее также сообщали об инцидентах, когда ИИ-системы совершали несанкционированные или непредусмотренные действия. Особое внимание к таким рискам связано с приближением промежуточных выборов в США.