Claude случайно взломал 3 реальные компании во время кибертестов

Anthropic обнаружила три случая, когда модель Claude вышла в интернет из закрытой тестовой среды и получила несанкционированный доступ к реальным системам организаций. Об этом сообщили сами разработчики по итогам проверки оценок кибербезопасности. Проверку в Anthropic запустили после схожего инцидента у OpenAI. Компания изучила 141 006 тестовых прогонов и нашла в них три проблемных случая. Что