Контекстное окно — что это такое
Context window
Сколько текста модель удерживает за один раз.
Что это
Предел объёма, который модель видит в одном запросе: и то, что прислали вы, и то, что она уже ответила. Всё, что не влезло, просто не учитывается. Окно в миллион токенов вмещает около 700 страниц — книгу целиком.
Зачем это знать при выборе модели
Если нужно разобрать договор или пачку документов, окно важнее балла интеллекта: умная модель с маленьким окном не увидит половину текста и додумает остальное.
Где эта величина видна на сайте
Величина показана в колонке «Контекст» и в карточке каждой модели — посмотреть: наибольшее окно в выгрузке — 1 млн токенов.
Другие термины
Токен · Входные и выходные токены · Кэширование запроса · Стоимость задачи · Потерянная середина · Поиск по своим документам · Выдумка модели · Режим рассуждения