Как я смог запустить 32b модель и сделать ее умнее в два раза на 3050
Всем здрайвствуйте я Titled и я создал форк llama.cpp где реализовал все свои жаветные мечты сейчас расскажу что это было и почему я написал такооой длиный заголовок.
Разберем как я это реализовал и почему это может вам помочь !
жмякай сюды
Это отрывок статьи. Полную версию читайте на сайте источника по ссылке ниже.
Источник: Habr