Бюджет LLM API: кэш, batch и цена принятой задачи

Обновлено 11 ноября 2026.

К утру готовы черновики описаний страниц, но часть приходится отправлять модели повторно. Каждый запрос выглядит дешёвым, а счёт за пачку растёт. Свяжите расходы с принятыми редактором результатами. Повторы, переход на более сильную модель и платные инструменты должны попасть в тот же расчёт.

Выберите единицу учёта

Единица — одно принятое описание страницы. Записывайте идентификатор задачи, модель, расходы каждой попытки и причину отказа: выдуманный факт, неверный формат, пропущенное условие.

Учебный пример в условных денежных единицах, без привязки к тарифу или прогнозу экономии:

Цена принятой задачи =
  (запросы + запись/чтение кэша + повторы
   + переходы на другую модель + платные инструменты)
  / число принятых задач

120 / 80 = 1,5 условной единицы

Не учитывайте кэш дважды, если он включён в сумму запроса. При нуле принятых задач цена результата не определена: показывайте затраты отдельно. Время редактора учитывайте другой строкой.

Направляйте задачи по требованиям

Anthropic представила Claude Haiku 5.5 7 октября 2026 года как небольшую модель для частых задач с ограниченным бюджетом. Это позиционирование поставщика, без доказательства массового перехода вебмастеров.

Проблему расходов подтверждает опрос Temporal от 25.08.2026: 79,8 % из 554 инженеров назвали стоимость токенов и вычислений ограничивающим фактором. Участники уже использовали агентов, примерно две трети находились в США. Результат относится к этой выборке, а не ко всем американским компаниям; российский бюджет по нему рассчитать нельзя.

Для классификации задайте категории и эталонные ответы. Для редактуры проверяйте факты и верность исходнику. Критичные выдуманные факты блокируют приёмку; порог остальных ошибок установите до сравнения моделей.

Учебная политика: малая модель получает простую задачу; при провале проверки разрешён один переход на более сильную. После второй неудачи решает человек. Лимит исполняет приложение. Постановку заданий сверяйте с руководством по промптам для SEO.

Соберите стабильный префикс для кэша

В начало запроса поместите неизменные правила, схему ответа и общий справочник, затем текст конкретной страницы. Anthropic требует точного совпадения кэшируемого префикса. Дата запуска или случайный идентификатор в его начале мешают повторному использованию.

Минимальную длину сверяйте для модели, срок жизни и условия записи — для режима API. Короткий префикс может не кэшироваться. Проверяйте cache_creation_input_tokens и cache_read_input_tokens: настройка в запросе ещё не доказывает попадание. Чтение и запись оплачиваются; при редких повторах выгода может исчезнуть.

Кэш не служит базой данных: долговечность и актуальность сведений обеспечивает ваше хранилище. Не включайте секреты разных клиентов в общий префикс. Разделяйте арендаторов в приложении и проверяйте условия хранения поставщика. Совпадение кэша не заменяет проверку прав доступа.

Оставьте batch для отложенной работы

Пакетный режим подходит для ночных черновиков и разметки архива. Он не подходит для ответа покупателю при оформлении заказа: результат приходит асинхронно. Сохраните список заданий, версии исходников и уникальный custom_id каждой записи до отправки.

Ответы могут вернуться в другом порядке. Связывайте их по идентификатору, иначе описание попадёт к чужой странице. Обработчик должен различать исходы:

• succeeded — проверить текст по правилам приёмки; технический успех ещё не означает пригодный результат.
• errored — разобрать причину, исправить неверные параметры до повтора.
• expired или canceled — учесть отсутствие ответа и проверить бюджет перед новой отправкой.

Не пересылайте всю пачку из-за нескольких неудач. Связывайте повтор с исходной задачей, учитывая его расходы. Повторное чтение готового ответа не должно создавать вторую публикацию. В batch попадания в кэш предоставляются по возможности: порядок исполнения не гарантирован, поэтому обещать попадание всей пачки нельзя.

Ограничьте расходы до отправки

Уведомление из кабинета может прийти после начисления расходов. Собственный исполнитель проверяет предел попыток на задачу, сумму за период и число параллельных запросов. Модель не вправе повышать эти ограничения в ответе на ошибку.

Перед вызовом резервируйте верхнюю оценку стоимости с учётом допустимого ответа и инструментов. После получения usage заменяйте резерв фактическим расходом. Проверка остатка и резервирование должны быть атомарными, иначе параллельные процессы потратят один остаток несколько раз.

Если верхнюю стоимость нельзя оценить, обещание жёсткого денежного лимита необоснованно. Платные внешние действия ограничивайте отдельно. Зависший batch сохраняет резерв до выяснения результата: потеря сетевого ответа не означает, что запрос не принят поставщиком.

Сравните варианты на небольшой очереди

Сравните обычные запросы, кэш и batch на одинаковых исходниках: цена принятой задачи, задержка и причины брака.

Начать можно с обезличенных данных из процесса ИИ-аудита логов. Сохраняйте версию исходника: ответ на старую страницу нельзя применять после её редактирования. Изменения проверяйте на отдельной копии сайта.

Запуск модели американской платформой не означает доступность API и оплаты из России. До разработки проверьте поддерживаемую страну, договорные условия, передачу данных и способ оплаты для своей организации. Если доступ не предоставляется, выбирайте доступного поставщика и пересчитывайте процесс. Обход ограничений в этот порядок не входит.

Источники и изменяемые условия

Фиксированных тарифов здесь нет. Перед расчётом сверяйте цены и ограничения для своего способа доступа с актуальной документацией:

• Anthropic: Claude Haiku 5.5, 07.10.2026 — объявление поставщика и назначение небольшой модели.
• Anthropic: Prompt caching — точный префикс, пороги длины, срок жизни и учёт чтения/записи.
• Anthropic: Batch processing — custom_id, отдельные исходы и негарантированные попадания в кэш.

Раздел практики: SEO и ИИ · ИИ-инструменты вебмастера · промпты для SEO-задач.