Поиск по своим документам — что это такое
RAG
Модель отвечает, опираясь на найденные куски ваших документов.
Описание
Вместо того чтобы держать всю базу в контексте, система сначала ищет подходящие фрагменты, а затем передаёт их модели вместе с вопросом. Так работают корпоративные помощники по базе знаний.
Что учесть при выборе
Дешевле и точнее, чем загружать всё целиком: платите за пару найденных страниц, а не за тысячу. Зато качество ответа упирается в качество поиска, а не модели.
Где смотреть на сайте
Термин встречается в объяснениях к таблицам и в методике проекта.
Другие термины
Токен · Входные и выходные токены · Кэширование запроса · Стоимость задачи · Контекстное окно · Потерянная середина · Выдумка модели · Режим рассуждения