Перейти к содержимому
SBER 295,53 ₽ 1,43% снижение за прошлую сессиюIMOEX 2 475,70 1,42% снижение за прошлую сессию
·Технологии·источник: Habr·1 мин

Лайфхак с Shared GPU Memory Override или как я запускал нейросети на мини-ПК (на примере GEEKOM GT1 Mega)

Неочевидный момент - на мини-компьютерах можно отдать практически всю оперативную память для интегрированного GPU, что позволяет запускать LLM типа 26B/27B, без необходимости покупать дорогостоящие видеокарты. В статье покажу, как это сделать, какие LLM работают и оценю их эффективность.

Отрывок из ленты источникаЧитать у источника: Habr

Лайфхак с Shared GPU Memory Override или как я запускал нейросети на мини-ПК (на примере GEEKOM GT1 Mega)