Ограничители — что это такое
Guardrails
Проверки вокруг модели, а не внутри неё.
Что это
Отдельный слой, который смотрит запрос до модели и ответ после неё: отсекает запрещённые темы, вырезает персональные данные, проверяет формат. Работает независимо от того, что модель решила ответить.
При выборе модели
Если сервис отвечает отказом там, где сама модель отвечает нормально, дело обычно в ограничителях поставщика, а не в модели.
Где смотреть на сайте
Термин встречается в объяснениях к таблицам и в методике проекта.
Другие термины
Токен · Входные и выходные токены · Кэширование запроса · Стоимость задачи · Контекстное окно · Потерянная середина · Поиск по своим документам · Выдумка модели