Перейти к содержимому
SBER 288,46 ₽ 0,25% ростIMOEX 2 354,80 0,07% рост
·Технологии·источник: Habr·1 мин

Доверяй, но запрещай – или как ограничивать полномочия AI-агента на разных уровнях

Привет, Хабр! В моём AGENTS.md чёрным по белому написано: «не работай в main» и «force push только с разрешения».

Я разобрал 193 вызова git push из своих сессий: примерно в трети случаев агент не спросил разрешения, трижды запушил прямо в main, а из 31 force push я разрешил только два. И это ещё безобидный git – тот же агент ходит в БД, S3 и Kubernetes с моими правами, и однажды там проскочит DROP DATABASE.

Про хуки, песочницы и роли по отдельности на Хабре уже писали; я разложу механизмы безопасности в агентской разработке по четырём уровням: что каждый реально защищает, как настроить и где его границы.

Агент активно ходит во все ваши сервисы и системы из-под ваших учёток и с правами разработчика – как защитить свою инфраструктуру от недетерминированных агентов и уменьшить возможные негативные воздействия?

Защититься от Скайнета

Отрывок из ленты источникаЧитать у источника: Habr

Доверяй, но запрещай – или как ограничивать полномочия AI-агента на разных уровнях