Системная инструкция — что это такое
System prompt
Постоянное указание, которое модель получает перед каждым запросом.
Что это
Задаёт роль, тон, ограничения и формат ответа: кем модель себя считает, чего не делает, как отвечает. Пользователь этого текста не видит, но он влияет на каждый ответ и оплачивается как входные токены.
Зачем это знать при выборе модели
Большая часть жалоб «модель отвечает не так» решается не сменой модели, а переписыванием системной инструкции.
Где эта величина видна на сайте
Термин встречается в объяснениях к таблицам и в методике проекта.
Другие термины
Токен · Входные и выходные токены · Кэширование запроса · Стоимость задачи · Контекстное окно · Потерянная середина · Поиск по своим документам · Выдумка модели