Тихая болезнь эпохи ИИ: как отдаёшь модели контроль и ответственность — и теряешь эффективность

Месяц назад я делал очередного ассистента по продажам, и всё шло так гладко, что я просто жал «дальше». Дальше, дальше, дальше. Перестал читать, что пишет модель, — пробегал начало и выводы. А когда зашёл проверить, увидел кучу галлюцинаций и сделанного не так. При этом мой харнес отработал идеально: кросс-проверки разными моделями, E2E, автотесты — ноль багов. Просто построено было хорошо и не то. Я начал копать, только у меня так или нет. Оказалось, у этого есть два режима («поболтать» и «поработать»), стопка исследований и неприятный парадокс: чем сильнее модель, тем труднее с ней спорить. В статье: что об этом говорят Microsoft/CMU, Stanford, METR и Anthropic; почему харнес ловит баги, но не ловит провал суждения; и вопросы к себе (три главных плюс резерв), которые помогают оставаться ведущим, а не пассажиром.