Примеры в запросе — что это такое
Few-shot prompting
Два-три образца готового ответа прямо в тексте запроса.
Что это
Вместо описания нужного формата в запрос кладут несколько пар «вход — правильный выход». Модель подхватывает образец и держит его в остальных ответах. Обучением это не является: примеры действуют только внутри этого запроса.
При выборе модели
Самый дешёвый способ поднять качество на однотипных задачах. Платой идут входные токены: примеры считаются в каждом обращении.
Где смотреть на сайте
Термин встречается в объяснениях к таблицам и в методике проекта.
Другие термины
Токен · Входные и выходные токены · Кэширование запроса · Стоимость задачи · Контекстное окно · Потерянная середина · Поиск по своим документам · Выдумка модели