Температура — что это такое
Temperature
Насколько модель склонна выбирать неожиданные продолжения.
Что это
Число от нуля до двух. При нуле модель почти всегда выбирает самый вероятный вариант и отвечает предсказуемо. При высоких значениях ответы разнообразнее, но растёт риск бессмыслицы.
Зачем это знать при выборе модели
Для фактических задач и извлечения данных ставят близко к нулю, для текстов и идей — выше. Одна и та же модель при разной температуре ведёт себя как две разные.
Где эта величина видна на сайте
Термин встречается в объяснениях к таблицам и в методике проекта.
Другие термины
Токен · Входные и выходные токены · Кэширование запроса · Стоимость задачи · Контекстное окно · Потерянная середина · Поиск по своим документам · Выдумка модели