Провайдер API — что это такое
API provider
Компания, через которую вы обращаетесь к модели.
Что это
Одну и ту же открытую модель раздают десятки поставщиков, и каждый со своей ценой, скоростью и качеством сжатия. Разработчик модели и поставщик доступа — разные роли, и совпадают они только у закрытых моделей.
Зачем это знать при выборе модели
Модель определяет качество ответа, провайдер — цену и скорость. Разница между поставщиками одной модели доходит до нескольких раз по деньгам.
Где эта величина видна на сайте
Величина показана в разделе провайдеров — посмотреть: в выгрузке 60 поставщиков.
Другие термины
Токен · Входные и выходные токены · Кэширование запроса · Стоимость задачи · Контекстное окно · Потерянная середина · Поиск по своим документам · Выдумка модели