ИИ-агенты внедряются быстрее, чем компании успевают создать правила контроля

Только 21% организаций сообщили о зрелой системе управления агентами, хотя 74% ожидают как минимум умеренного использования таких систем к 2027 году

Исследование Deloitte показало, что только 21% организаций располагают зрелой системой управления агентным ИИ. При этом 74% опрошенных ожидают, что их компании будут использовать ИИ-агентов как минимум умеренно к 2027 году.

Deloitte считает зрелой систему, в которой определены границы самостоятельных решений агента и действий, требующих одобрения человека, настроен мониторинг поведения и аномалий, а также сохраняются журналы всех этапов работы агента.

В отдельном опросе 501 руководителя и старшего менеджера американских компаний 61% респондентов заявили, что ожидают высокой автономности большинства ИИ-агентов, при которой люди в основном будут выполнять надзорную функцию. При этом только примерно 1 из 5 организаций готова перестроить бизнес-процессы под автономные системы.

Среди препятствий Deloitte называет плохо документированные процессы, разрозненные данные и устоявшиеся методы работы.

В группе тех, кто ожидает использования ИИ-агентов к 2027 году, 23% прогнозируют их широкое применение, а 5% — полную интеграцию в ключевые операции.

Deloitte также предупредила, что агенты без мониторинга и централизованного контроля могут ошибаться, раскрывать конфиденциальные сведения, конфликтовать друг с другом или создавать риски для кибербезопасности. В отчёте отдельно отмечается необходимость задавать допустимые действия, пороги согласования, журналировать вызовы инструментов и проверять сценарии отказа.