Стоимость задачи — что это такое
Cost per task
Цена одного реального прогона, а не ставка за миллион токенов.
Описание
Показывает, во сколько обходится типовое обращение к модели целиком: запрос, скрытые размышления и ответ. Две модели с одинаковой ставкой за миллион токенов могут дать разный счёт, если одна отвечает длиннее другой.
Что учесть при выборе
Это единственное число, которое можно умножить на количество обращений в месяц и получить свой счёт. Ставка за миллион для планирования бюджета почти бесполезна.
Где смотреть на сайте
Термин встречается в объяснениях к таблицам и в методике проекта.
Другие термины
Токен · Входные и выходные токены · Кэширование запроса · Контекстное окно · Потерянная середина · Поиск по своим документам · Выдумка модели · Режим рассуждения