Словарь терминов
В рейтингах нейросетей стоят слова «токен», «контекстное окно», «Elo», «квантизация», и почти нигде не сказано, что за ними стоит. Здесь 53 термина: что означает каждый и как он влияет на выбор модели.
А
1 термин- Агрегатор моделейAI gatewayОдин ключ и один адрес для доступа к сотням моделей.
Б
1 термин- БенчмаркBenchmarkНабор заданий с известными ответами, одинаковый для всех моделей.
В
8 терминов- Векторная базаVector databaseХранилище векторных представлений с поиском по близости.
- Векторное представлениеEmbeddingТекст, переведённый в набор чисел, по которым его можно сравнивать.
- Внедрение команд в запросPrompt injectionУказания для модели, спрятанные в данных, которые она читает.
- Время до первого токенаTime to first tokenПауза между запросом и началом ответа.
- Входные и выходные токеныInput and output tokensДве разные цены: за ваш запрос и за ответ модели.
- Выдумка моделиHallucinationУверенный ответ, не имеющий отношения к действительности.
- Вызов инструментовTool callingМодель умеет сама обращаться к программам и сервисам.
- ВыравниваниеAlignment, RLHFОбучение модели отвечать так, как ожидает человек.
Г
1 термин- Граница знанийKnowledge cutoffДата, после которой модель о событиях не знает.
Д
4 термина- ДистилляцияDistillationМаленькую модель учат повторять ответы большой.
- Диффузионная модельDiffusion modelКак устроено большинство генераторов картинок.
- Доля ошибок в словахWord Error RateМетрика качества распознавания речи.
- ДообучениеFine-tuningНастройка готовой модели на своих примерах.
З
1 термин- Зерно генерацииSeedЧисло, которое задаёт случайность и позволяет её повторить.
И
2 термина- ИИ-агентAI agentПрограмма, которая сама выполняет цепочку действий ради цели.
- Индекс интеллектаIntelligence IndexСводная оценка по нескольким независимым тестам.
К
4 термина- КвантизацияQuantizationСжатие модели ради экономии памяти и скорости.
- Клонирование голосаVoice cloningСинтез речи голосом конкретного человека по короткой записи.
- Контекстное окноContext windowСколько текста модель удерживает за один раз.
- Кэширование запросаPrompt cachingПовторяющаяся часть запроса считается дешевле.
Л
2 термина- Лицензия моделиModel licenseУсловия, на которых модель разрешено использовать.
- Локальный запускLocal inferenceМодель работает на своём компьютере, без обращения к чужому серверу.
М
1 термин- МультимодальностьMultimodalityМодель принимает не только текст.
Н
1 термин- Негативный промтNegative promptОтдельное поле для того, чего в кадре быть не должно.
О
4 термина- Ограничение частотыRate limitСколько запросов в минуту вам разрешено.
- ОграничителиGuardrailsПроверки вокруг модели, а не внутри неё.
- Открытые весаOpen weightsМодель можно скачать и запустить у себя.
- Оценка EloElo ratingРейтинг из парных сравнений, как в шахматах.
П
11 терминов- Пакетная обработкаBatch APIБольшая пачка запросов со скидкой в обмен на ожидание.
- Параметры моделиModel parametersЧисло настраиваемых величин внутри модели, буква B в названии.
- Перерисовка областиInpaintingЗамена части готовой картинки без переделки остального.
- Поиск по своим документамRAGМодель отвечает, опираясь на найденные куски ваших документов.
- Потерянная серединаLost in the middleМодель хуже помнит то, что оказалось в середине длинного текста.
- Потоковая выдачаStreamingОтвет приходит по мере написания, а не целиком в конце.
- ПредобучениеPretrainingПервый и самый дорогой этап: модель читает большой массив текстов.
- Примеры в запросеFew-shot promptingДва-три образца готового ответа прямо в тексте запроса.
- Провайдер APIAPI providerКомпания, через которую вы обращаетесь к модели.
- ПромптPromptТекст запроса, который получает модель.
- Протокол подключения инструментовMCPОбщий способ дать модели доступ к файлам, базам и сервисам.
Р
1 термин- Режим рассужденияReasoningМодель сначала думает про себя, потом отвечает.
С
6 терминов- Синтез речиText to speech, TTSОзвучка написанного текста голосом.
- Системная инструкцияSystem promptПостоянное указание, которое модель получает перед каждым запросом.
- Смесь экспертовMixture of Experts, MoEМодель, где на каждый запрос работает лишь часть параметров.
- Соотношение сторонAspect ratioПропорции кадра: 1:1, 3:4, 16:9.
- Стоимость задачиCost per taskЦена одного реального прогона, а не ставка за миллион токенов.
- Структурированный выводStructured outputОтвет строго в заданном формате, а не свободным текстом.
Т
3 термина- ТемператураTemperatureНасколько модель склонна выбирать неожиданные продолжения.
- ТокенTokenКусочек текста, которым модель меряет объём работы.
- Токенов в секундуTokens per secondСкорость, с которой модель печатает ответ.
У
1 термин- Увеличение разрешенияUpscalingРастягивание картинки с дорисовкой деталей.
Ф
1 термин- Файл правил для агентаAgent rules fileТекстовый файл, который агент читает перед работой.