Что означает «контролируемый ИИ-агент»: разбираем 6 уровней контроля
«Дайте агенту доступ к терминалу и файловой системе, и он сам всё сделает» звучит привлекательно ровно до первого случая, когда агент вместо тестового файла отредактировал конфиг продакшена, или переписал файл с ключами API, потому что тот «мешал» задаче. После этого в компании обычно появляется вопрос от безопасника или тимлида: а как мы вообще контролируем, что этот агент делает с кодом? Проблема в том, что «контроль над агентом» - это не один переключатель в настройках. Это набор независимых