ИИ-агенты воруют лишние личные данные — попались 7 моделей

Исследователи из Китая описали поведение, при котором ИИ-агент с доступом к внешним инструментам запрашивает больше личных данных, чем нужно для выполнения задачи. Эффект проявился у всех семи протестированных моделей. Работа называется OverAct, а ее авторы предложили и способ ограничить аппетит ИИ-агентов. По их словам, без доступа к правильному ответу он срезает избыточные обращения почти наполовину.