Мнение: компании не справились с управлением ИИ-агентами

Компании слишком быстро развернули ИИ-агентов без инфраструктуры для контроля их работы и расходов. К такому выводу пришел основатель стартапа Hebbia Джордж Сивулка в эссе для рассылки a16z, пишет Fortune.

Он связал проблему с tokenmaxxing — практикой, при которой организации отслеживали и поощряли рост потребления токенов при работе с ИИ. По его словам, компании ошибочно приняли рост потребления токенов за признак внедрения ИИ и повышения продуктивности.

«Вы только что наняли миллион плохих сотрудников», — написал Сивулка.

По его мнению, ИИ-агенты не столько снизили затраты на труд, сколько изменили структуру расходов. В эссе Сивулка заявил, что «впервые в истории люди оказались дешевле программного обеспечения».

Hebbia разрабатывает корпоративные ИИ-инструменты. По данным Fortune, среди клиентов стартапа — BlackRock, KKR и ВВС США.

Проблема оказалась не в моделях

По оценке Сивулки, ИИ-агенты часто не справляются с задачами не из-за слабости моделей, а из-за неясных инструкций внутри компаний. Он утверждает, что «примерно один из 100 сотрудников» умеет давать ИИ достаточно контекста для качественного выполнения работы.

Плохие инструкции приводят к «петлям»: агент пытается исправить собственные действия, повторно обращается к модели и расходует дополнительные токены без соразмерного результата. Сивулка описал это как «расход токенов на расход токенов». В итоге автор пришел к выводу, что компании столкнулись не с технологическим, а с управленческим кризисом.

Fortune связало этот тезис с более широкой дискуссией о расходах на ИИ. По данным издания, в начале 2026 года ряд компаний отслеживал и поощрял потребление токенов как показатель активности сотрудников.

Позднее часть таких инициатив свернули. Ранее издание писало, что Meta и Amazon использовали внутренние рейтинги потребления токенов, но отказались от них после того, как сотрудники начали использовать ИИ ради показателей, а не результата.

Расходы стали отдельным риском

Fortune приводит данные UBS Global Research, согласно которым почти все руководители ИИ-компаний на закрытом мероприятии банка говорили о проблеме расходов на токены в корпоративной среде.

Одна неназванная фирма сообщила UBS, что ее расходы на Anthropic выросли с $20 000 в декабре до почти $1 млн в июле. Менеджмент не стал ограничивать использование полностью, но начал вводить внутренние лимиты и предупреждения о превышении порогов.

По данным журналистов, UBS ранее оценивал обеспокоенность расходами на токены как значимую проблему примерно для 60% организаций. Издание также упомянуло случай неназванной компании, которая, по данным Axios, за месяц получила счет примерно на $500 млн за использование Claude после запуска ИИ-инструментов без лимитов.

Компании переходят к управлению моделями

Сивулка считает решением не отказ от ИИ, а появление управленческой инфраструктуры для агентных систем. К ней он отнес четкое описание процессов, оценки качества результата, контроль расходов и распределение задач между разными моделями.

Fortune пишет, что некоторые компании уже переходят к model routing. В таком подходе простые операции передают более дешевым или быстрым моделям, а дорогие передовые используют только для ключевых сценариев.

Сивулка также предупредил о новой внутренней проблеме, связанной с удержанием сотрудниками важного рабочего контекста. По его словам, люди могут не захотеть передавать ИИ-системам знания и процессы, которые делают их незаменимыми. Эксперт отметил, что без доверия и понятных правил работники не будут помогать системам, которые могут изменить их.

https://forklog.com/news/kak-ne-poteryat-sebya-kogda-ii-zaberet-vashu-rabotu

Напомним, в июле обозреватель Financial Times Сара О’Коннор назвала знания сотрудников ресурсом для корпоративного ИИ.