Nvidia выпустила компактные ПК для запуска ИИ-моделей на 120 млрд параметров без облака
RTX Spark от ASUS, Dell и MSI получили 20-ядерные процессоры Grace, графику Blackwell и до 128 ГБ объединённой памяти. Заявленная производительность в ИИ-задачах достигает 1 петафлопса
Nvidia начала продажи компактных настольных компьютеров RTX Spark, рассчитанных на локальную работу с крупными ИИ-моделями. Системы способны запускать языковые модели с 120 млрд параметров, генерировать изображения и видео, а также выполнять тонкую настройку моделей без постоянного обращения к облачным сервисам. Первыми устройства выпустили ASUS, Dell и MSI.
В основе компьютеров — 20-ядерный процессор Nvidia Grace и графический ускоритель на архитектуре Blackwell с 6144 ядрами CUDA. CPU и GPU используют объединённую память объёмом до 128 ГБ, а заявленная производительность в задачах искусственного интеллекта достигает 1 петафлопса. Для обмена большими наборами данных и файлами моделей предусмотрен Ethernet со скоростью 10 Гбит/с.
Nvidia позиционирует RTX Spark как отдельный компьютер для локальных ИИ-агентов, разработки и творческих задач. Он может работать параллельно с ноутбуком: например, выполнять запланированные задания, обрабатывать данные или продолжать рендеринг, пока пользователь занят другой работой. Запуск моделей непосредственно на устройстве позволяет не передавать обрабатываемые файлы и код облачным сервисам и не платить за каждый токен при использовании облачного API для этих задач.
Возможности системы не ограничиваются языковыми моделями. Nvidia заявляет о поддержке обработки 3D-сцен объёмом более 90 ГБ в реальном времени и монтажа видео 4:2:2. В программную экосистему входят инструменты для локального запуска ИИ-агентов и тонкой настройки моделей, а также приложения для работы с графикой и видео. Разработчики могут использовать CUDA и Linux-инструменты через подсистему Windows для Linux.
Компактные компьютеры от ASUS, Dell и MSI уже поступили в продажу. Системы от Acer, GIGABYTE и HP, а также Microsoft Surface RTX Spark Dev Box должны появиться позднее.
Отрывок из ленты источникаЧитать у источника: iXBT
