Промпт — что это такое
Prompt
Текст запроса, который получает модель.
Что это
Включает и вопрос, и контекст, и указания по формату. Один и тот же вопрос, заданный по-разному, даёт заметно разные ответы: модель реагирует на структуру запроса не меньше, чем на его смысл.
Зачем это знать при выборе модели
Дешевле любой смены модели: аккуратно переписанный запрос часто даёт больший прирост, чем переход на модель вдвое дороже.
Где эта величина видна на сайте
Термин встречается в объяснениях к таблицам и в методике проекта.
Другие термины
Токен · Входные и выходные токены · Кэширование запроса · Стоимость задачи · Контекстное окно · Потерянная середина · Поиск по своим документам · Выдумка модели