Исследователи описали риск ботнетов на базе галлюцинаций ИИ-агентов+1 источник
Исследователи из Тель-Авивского университета, Техниона и Intuit описали новый класс атак на агентные ИИ-приложения. Он использует способность языковых моделей выдумывать несуществующие идентификаторы репозиториев, навыков и других внешних ресурсов. В препринте авторы показали, что такие ошибки можно превратить в канал доставки вредоносных инструкций. В контролируемых экспериментах атака приводила к вызову встроенных инструментов ИИ-агентов и удаленному выполнению кода. «Склонность LLM галлюцинир