Ограничение частоты — что это такое
Rate limit
Сколько запросов в минуту вам разрешено.
Описание
Поставщик ограничивает число обращений и объём токенов в минуту. При превышении приходит отказ с кодом 429, и запрос нужно повторить позже. Лимиты растут по мере оплаченного объёма.
Что учесть при выборе
На бесплатных тарифах лимиты жёсткие: сервис может работать в разработке и падать при первой же нагрузке. Проверять до запуска, а не в день запуска.
Где смотреть на сайте
Термин встречается в объяснениях к таблицам и в методике проекта.
Другие термины
Токен · Входные и выходные токены · Кэширование запроса · Стоимость задачи · Контекстное окно · Потерянная середина · Поиск по своим документам · Выдумка модели