Выдумка модели — что это такое
Hallucination
Уверенный ответ, не имеющий отношения к действительности.
Что это
Модель не знает, что она чего-то не знает: вместо отказа она достраивает правдоподобный текст. Так появляются несуществующие законы, выдуманные цитаты и ссылки на статьи, которых никогда не было.
Зачем это знать при выборе модели
Любой факт из ответа проверяется отдельно. Модели с высоким баллом выдумывают реже, но не перестают: это свойство подхода, а не дефект конкретной модели.
Где эта величина видна на сайте
Термин встречается в объяснениях к таблицам и в методике проекта.
Другие термины
Токен · Входные и выходные токены · Кэширование запроса · Стоимость задачи · Контекстное окно · Потерянная середина · Поиск по своим документам · Режим рассуждения