Перейти к содержимому
SBER 298,32 ₽ 0,08% снижениеIMOEX 2 474,63 1,09% снижение
·Технологии·источник: Habr·1 мин

LLM впервые запустили на фотонном чипе: как Q.ANT и AMD скрестили оптику с GPU

Частая боль при работе современных языковых моделей — механизм внимания или self-attention. С ростом контекста он требует квадратично больше вычислений и раздувает KV-кэш в памяти видеокарты. Чтобы обойти это ограничение, немецкая компания Q.ANT привезла на конференцию SC26 в Чикаго демонстрацию гибридного инференса: часть слоев языковой модели перенесли с видеокарты AMD на фотонный сопроцессор NPU Gen 2+, который считает дискретное преобразование Фурье светом за один проход.

Правда, в пресс-релизе компания поторопилась назвать свой запуск «первым в мире». Еще в апреле 2026 года полноценную LLM с помощью оптики запустил британский стартап Lumai на своем сервером Iris. Если Q.ANT использует плоские кремниевые волноводы, то британцы сделали акцент на трехмерную оптику — линзы и пучки света в свободном пространстве. На такой архитектуре они запустили модели уровня Llama 70B в реальном времени, экономя 90% энергии. Давайте разберемся, что за этим стоит.

Отрывок из ленты источникаЧитать у источника: Habr

LLM впервые запустили на фотонном чипе: как Q.ANT и AMD скрестили оптику с GPU
AMD1 мес.▼ 6,4%
$503,41