Ограничение частоты — что это такое
Rate limit
Сколько запросов в минуту вам разрешено.
Что это
Поставщик ограничивает число обращений и объём токенов в минуту. При превышении приходит отказ с кодом 429, и запрос нужно повторить позже. Лимиты растут по мере оплаченного объёма.
Зачем это знать при выборе модели
На бесплатных тарифах лимиты жёсткие: сервис может работать в разработке и падать при первой же нагрузке. Проверять до запуска, а не в день запуска.
Где эта величина видна на сайте
Термин встречается в объяснениях к таблицам и в методике проекта.
Другие термины
Токен · Входные и выходные токены · Кэширование запроса · Стоимость задачи · Контекстное окно · Потерянная середина · Поиск по своим документам · Выдумка модели