ИИ начали защищать от ИИ: новые системы следят за действиями автономных агентов

На фоне атак с использованием автономных ИИ-агентов и опасений по поводу их поведения несколько компаний предлагают использовать для защиты те же технологии. Apollo Research разработала Watcher AI — систему наблюдения за работой ИИ-агента. Она проверяет, не выполняет ли агент вредоносные действия, не пытается ли украсть данные и не удаляет ли важную информацию без разрешения.