Температура — что это такое
Temperature
Насколько модель склонна выбирать неожиданные продолжения.
Описание
Число от нуля до двух. При нуле модель почти всегда выбирает самый вероятный вариант и отвечает предсказуемо. При высоких значениях ответы разнообразнее, но растёт риск бессмыслицы.
Что учесть при выборе
Для фактических задач и извлечения данных ставят близко к нулю, для текстов и идей — выше. Одна и та же модель при разной температуре ведёт себя как две разные.
Где смотреть на сайте
Термин встречается в объяснениях к таблицам и в методике проекта.
Другие термины
Токен · Входные и выходные токены · Кэширование запроса · Стоимость задачи · Контекстное окно · Потерянная середина · Поиск по своим документам · Выдумка модели