Перейти к содержимому
SBER 288,42 ₽ 0,24% ростIMOEX 2 352,38 0,04% снижение
·Технологии·источник: Habr·1 мин

И так поймет: как сокращать промпты и считать потери

Чем подробнее промпт, тем лучше ответ, и вот уже к задаче добавляют контекст, роль, ограничения и еще пару пояснений на всякий случай. Через полстраницы уже страшно что-нибудь вычеркнуть, вдруг именно на этой фразе все и держится. Посмотрели, что об этом говорят исследования. Спойлер: промпт можно сократить в разы без заметной потери качества ответа. Пробую разобраться, какие подробности модель переживет, а без каких начнет фантазировать.

Отрывок из ленты источникаЧитать у источника: Habr

И так поймет: как сокращать промпты и считать потери