Nvidia разработала защиту от вышедших из-под контроля ИИ-агентов — новая платформа ограничивает действия нейросетей

Nvidia представила программную платформу, которая должна ограничивать действия ИИ-агентов и не позволять им получать доступ к данным и компьютерным системам за пределами заданных правил, сообщает CNBC. Разработку компания представила после серии инцидентов, в которых ИИ-агенты выходили за рамки изолированных информационных сред и пытались получить доступ к сторонней инфраструктуре. В Nvidia заявили, что система компании могла бы предотвратить июльский взлом Hugging Face.