Стоимость задачи — что это такое
Cost per task
Цена одного реального прогона, а не ставка за миллион токенов.
Что это
Показывает, во сколько обходится типовое обращение к модели целиком: запрос, скрытые размышления и ответ. Две модели с одинаковой ставкой за миллион токенов могут отличаться по стоимости задачи в разы, если одна из них многословна.
Зачем это знать при выборе модели
Это единственное число, которое можно умножить на количество обращений в месяц и получить свой счёт. Ставка за миллион для планирования бюджета почти бесполезна.
Где эта величина видна на сайте
Термин встречается в объяснениях к таблицам и в методике проекта.
Другие термины
Токен · Входные и выходные токены · Кэширование запроса · Контекстное окно · Потерянная середина · Поиск по своим документам · Выдумка модели · Режим рассуждения