Бывший разработчик ChatGPT представил очень быструю LLM для задач классификации

Человеческий язык удобен для разговора с пользователем, но внутри приложения за эту универсальность приходится платить временем. Когда одна LLM передаёт результат другой модели, ответ всё равно генерируется токен за токеном. Для классификации заявки, оценки риска или выбора следующего инструмента развёрнутый текст вообще не нужен.

Диого Алмейда, бывший исследователь OpenAI и соавтор InstructGPT, вместе с командой TypeSafe представил Jev, первую публичную модель семейства System One.