NVIDIA расширяет семейство открытых моделей Nemotron, выпустив Nemotron 3.5 Lightning — 30-миллиардную mixture-of-experts модель для длительных агентных нагрузок. Эта модель создана для специализированных задач внутри больших мультиагентных систем: планирование и оркестрацию может брать на себя фронтальная модель вроде Nemotron 3 Ultra или GPT-5.6, а Lightning выполняет точечные задачи — код-ревью, мониторинг алертов, ответы на вопросы. По заявлению компании, модель выдаёт до 4 раз более быструю выходную скорость и на 30% ускоряет выполнение агентных задач по сравнению с другими моделями своего класса. На бенчмарках PinchBench Lightning показывает точность на уровне фронтальных моделей.
Она открытая и дообучается с помощью NeMo на доменных данных организации. Партнёры уже кастомизируют её: CrowdStrike — для кибербезопасности, Harvey с Trajectory — для юридических услуг, CodeRabbit с Baseten — для код-ревью, Lila Sciences — для естественных наук, Fastino Labs — для софтверной разработки, финансов и медицины. Модель может работать локально на NVIDIA RTX PCs, DGX Spark, DGX Station и Jetson, а также в дата-центрах и облаке. NVIDIA также публикует данные обучения, включая новый датасет Nemotron-RL-Agentic-Terminal-Pivot для reinforcement learning агентных кодинг-способностей.
Вместе с моделью NVIDIA выпускает NeMo Switchyard — open source библиотеку для умной маршрутизации в агентных инструментах. Она автоматически направляет каждый запрос к наиболее подходящей модели из пула, включая открытые, проприетарные и NVIDIA-модели, без переписывания приложений. Разработчики могут настраивать алгоритмы маршрутизации под приоритеты: качество, задержку, стоимость. По внутренним бенчмаркам Switchyard сохраняет точность на уровне фронтальной модели, снижая стоимость до почти трети от Opus 4.8.
Интеграции уже тестируют Boomi (100% точность маршрутизации, 59% трафика на ускоренную модель, снижение задержки), Cadence (улучшение эффективности на 9.9% в ChipStack AI Super Agent), Classmethod (снижение стоимости на 27%), Cognition (снижение средней стоимости на 28% в Devin Desktop), Kong (нативная маршрутизация через Kong AI Gateway), LangChain (74% экономии на задачах Deep Agents), LiteLLM (плагин в proxy-слое), Nous Research (интеграция в Hermes), Ramp (снижение затрат на 58% и времени на 33% в Ramp SWE-Bench), Siemens (бенчмаркинг в Fuse EDA AI Agent).
Nemotron 3.5 Lightning доступна на Hugging Face, ModelScope, OpenRouter и build.nvidia.com как NVIDIA NIM-микросервис, а также через экосистему облачных партнёров. NeMo Switchyard — на GitHub, скоро появится на партнёрских платформах.