Перейти к содержимому
SBER 288,19 ₽ 0,16% рост за прошлую сессиюIMOEX 2 351,54 0,07% снижение за прошлую сессию
·Технологии·источник: TProger·1 мин

Форк llama.cpp уместил DeepSeek-V4-Flash в 64 ГБ ОЗУ без видеокарты

Квант DeepSeek-V4-Flash 284B на 56,9 ГиБ выдаёт около 9 токенов в секунду на Ryzen без GPU. Разбираем скорость, качество, требования и запуск.

— Читать дальше «Форк llama.cpp уместил DeepSeek-V4-Flash в 64 ГБ ОЗУ без видеокарты»

Отрывок из ленты источникаЧитать у источника: TProger

Форк llama.cpp уместил DeepSeek-V4-Flash в 64 ГБ ОЗУ без видеокарты