Нейросеть Google Gemma 3 на 270 миллионов параметров запустили на лазерном принтере с 14 МБ памяти
Искусственный интеллект заработал, используя встроенный интерпретатор языка PostScript Level 3
Языковую модель Google Gemma 3 270M удалось запустить прямо на обычном офисном принтере Ricoh. Эксперимент провёл сотрудник Google Омар Сансевьеро с помощью Carbon — компактного движка для запуска нейросетей. При этом исследователям не пришлось менять прошивку принтера или подключать к нему дополнительные вычислительные платы: модель работала непосредственно внутри устройства, используя встроенный интерпретатор языка PostScript Level 3, который применяется для обработки заданий на печать.
Чтобы уложиться в скромные ресурсы принтера, разработчики использовали динамическую загрузку слоёв нейросети, поочерёдно помещая их в память. Скорость генерации достигла 61,3 токена в секунду. Для проверки системе предложили продолжить фразу «Read the fine», после чего принтер выдал на бумаге ответ «Read the fine print» («Читайте мелкий шрифт»). Правда, обработка исходного запроса заняла около 184 секунд. Но сам эксперимент показал, что даже обычная офисная техника способна запускать локальные ИИ-модели без специального оборудования.
Отрывок из ленты источникаЧитать у источника: iXBT
