Перейти к содержимому
IMOEX 2144.97 1.0%

#constrained decoding

·Технологии

Теги реакций и собираемый промпт: как удержать характер ИИ-персонажа по ходу диалога

Вектор диалога с LLM плывёт каждый ход, и к концу разговора персонаж уже не тот. Рассказываю, как я это чиню в своём движке: классификатор выбирает «тег реакции» через constrained decoding, числовые оси отношений двигаются по таблице, а медленные «стадии» задают тон. Всё объяснимо — каждый сдвиг привязан к числам, которые видно в логе.

#constrained decoding — Long/Short