Перейти к содержимому
SBER 286,53 ₽ 0,42% снижение за прошлую сессиюIMOEX 2 326,05 1,16% снижение за прошлую сессию
·Технологии·источник: Habr·1 мин

AI-агент в проде для тех, кто вкатывается: инструменты, RAG, надёжность и проверки

Агент застрял и сделал 100 ходов вместо 30. Ходов в 3,3 раза больше, а денег в 5,3 раза: каждый ход заново читает всю историю. А если процесс упал на 25-м ходе и задачу запустили с нуля, она дорожает на 81%, и все уже сделанные действия повторятся. Письмо клиенту уйдёт дважды.

Собрал практики, которые отделяют агента из демо от агента в проде. Какие инструменты давать модели и как держать контекст коротким. Когда RAG не нужен вовсе, а когда поиск по словам и переранжирование сокращают провалы с 5,7% до 1,9%. Как ограничить цикл и бюджет, какие ошибки повторять, как сделать инструмент идемпотентным, зачем Temporal и как спрашивать подтверждение у человека. Плюс наблюдаемость, проверки, защита от prompt injection и чек-лист из 13 пунктов.

Почему письмо уйдёт дважды

Отрывок из ленты источникаЧитать у источника: Habr