Выдумка модели — что это такое

Hallucination

Уверенный ответ, не имеющий отношения к действительности.

Что это

Модель не знает, что она чего-то не знает: вместо отказа она достраивает правдоподобный текст. Так появляются несуществующие законы, выдуманные цитаты и ссылки на статьи, которых никогда не было.

Зачем это знать при выборе модели

Любой факт из ответа проверяется отдельно. Модели с высоким баллом выдумывают реже, но не перестают: это свойство подхода, а не дефект конкретной модели.

Где эта величина видна на сайте

Термин встречается в объяснениях к таблицам и в методике проекта.

Другие термины

Токен · Входные и выходные токены · Кэширование запроса · Стоимость задачи · Контекстное окно · Потерянная середина · Поиск по своим документам · Режим рассуждения