NVIDIA выпустила Nemotron 3.5 Super VL и компактные модели Bolt для локального запуска на RTX
Открытая мультимодальная модель на 120 млрд параметров рассчитана на агентные задачи. Вместе с ней вышли Bolt 74B-A9B на 24 ГБ и Bolt E4B на 4 ГБ.
15 октября NVIDIA выпустила Nemotron 3.5 Super VL, открытую мультимодальную модель на 120 млрд параметров для агентных задач. Анонс вышел в блоге компании. Вместе с весами компания открыла датасеты и рецепты обучения.
По данным NVIDIA, по точности Super VL сопоставима с крупнейшей reasoning-моделью компании, хотя параметров у неё примерно в пять раз меньше. Следующую лучшую открытую модель своего класса она, по заявлению компании, опережает по скорости в пять раз. Обучение шло в два этапа. Сначала модель обучили примерно на 26 трлн токенов, а затем дообучили на 3,8 млн примеров с обучением с подкреплением.
Две модели Bolt предназначены для локального запуска. Nemotron 3.5 Bolt 74B-A9B занимает 24 ГБ за счёт нативного 2-битного квантования и работает на RTX и DGX Spark. Bolt E4B весит 4 ГБ и рассчитана на GeForce RTX, Jetson и RTX/DGX Spark.
Младшую модель NVIDIA предлагает использовать в локальных голосовых ассистентах, интерактивных персонажах и встроенных интерфейсах. Super VL и Bolt 74B доступны сразу, а релиз Bolt E4B назначен на 23 октября, через восемь дней после анонса.
Super VL уже интегрируют Atlassian, CrowdStrike, Dassault Systèmes, Perplexity, Salesforce и Synopsys. Bolt пополнила семейство Nemotron, в котором уже есть вышедшая в августе Lightning и Ultra.