Nemotron 3.5 Lightning отвечает за 0,9 секунды
NVIDIA выпустила Nemotron 3.5 Lightning: время до первого токена 0,9 секунды, 309 токенов в секунду, 19 ₽ за миллион выходных токенов и 23,6 балла интеллекта.
Модель сделана под длинные цепочки вызовов, где задержка каждого шага складывается в общее время работы агента. По баллам она на 146-м месте из 445.
Цена входа — 6 ₽ за миллион токенов. Это тот случай, когда модель берут не за качество ответа, а за то, что она не тормозит цепочку.
Где это в наших таблицах
Первоисточник: NVIDIA
Похожие новости
Новость5 сентября 2026Ускорители упираются не в ядра, а в память: Samsung целится в 4 ТБ/с на стек
Тензорных ядер в чипах всё больше, форматы данных всё короче, а скорость ответа модели растёт медленнее. Причина простая: блоки простаивают, ожидая веса из памяти. Samsung обещает у HBM5 вдвое большую производительность против HBM4E и на 20 % лучшую отдачу на ватт.
Релиз4 сентября 2026NVIDIA выпустила PAIR: домашние компьютеры считают одну задачу вместе
Personal AI Router раскидывает запросы к локальным моделям по всем машинам домашней сети. В показанном примере три устройства прошли задачу с пятью подчинёнными агентами за девять минут против восемнадцати на одном ноутбуке.
Релиз4 сентября 2026llama.cpp 0.4.0 научился запускать Qwen3.8-Flash-Next на своём компьютере
В выпуске 0.4.0 появилась поддержка двух свежих открытых моделей — Qwen3.8-Flash-Next и NVIDIA Nemotron-3-Puzzle-75B-A9B, — а также ленивое чтение весов, ограничение контекста на каждый сеанс в сервере и приём видео на вход.