Перейти к содержимому
IMOEX 2144.97 1.0%

#клод

·Технологии

Как я потратил вечер, разбираясь, почему кэш в клоде, gpt и джемини — это три разных зверя

Устал переплачивать за одну и ту же память, которуе гоняю по кругу, и решил разобраться, как у кого на самом деле устроен кэш, а не просто верить строчке "у нас есть кэширование" и "так дешевле" в доке. Начал с клода, как с самой популярной тулы. Кэш там не работает сам по себе, нужно руками вешать cache_control: ephemeral на кусок промпта (тулы, системный промпт, длинный документ, что угодно стабильное). Ничего не закэшируется, если явно не попросишь. При этом ценой все прозрачно: запись на 5 м

#клод — Long/Short