ИИ научился находить уязвимости в ПО, но для их исправления всё ещё нужны люди

Модели искусственного интеллекта доказали, что могут эффективно находить уязвимости ПО и эксплуатировать их, но не исправлять. На эту особенность обратили внимание эксперты лаборатории Off-by-1 компании 1Password — изучив механизмы работы моделей OpenAI ChatGPT 5.5 и Anthropic Claude Opus 4.8, они обнаружили, что без участия человека ИИ способен устранять уязвимости в ПО только в одном из четырёх случаев.