🇵🇱 Дедлайн по e-PIT всё ближе ⏳ Поддержите devby из уже уплаченных налогов 💙
Support us

Nvidia выпустила линейку открытых ИИ-моделей до 500 млрд параметров

Компания представила линейку открытых ИИ-моделей Nemotron 3. По словам разработчиков, новые модели стали быстрее и дешевле в работе за счет гибридной архитектуры и ориентированы прежде всего на создание многоагентных ИИ-систем.

Оставить комментарий
Nvidia выпустила линейку открытых ИИ-моделей до 500 млрд параметров

Компания представила линейку открытых ИИ-моделей Nemotron 3. По словам разработчиков, новые модели стали быстрее и дешевле в работе за счет гибридной архитектуры и ориентированы прежде всего на создание многоагентных ИИ-систем.

Линейка Nemotron 3 включает три модели. Nemotron 3 Nano с 30 миллиардами параметров ориентирована на узкие и высокоэффективные задачи. Nemotron 3 Super с 100 миллиардами параметров предназначена для многоагентных сценариев и задач с повышенными требованиями к логическому рассуждению. Nemotron 3 Ultra — крупнейшая версия с примерно 500 миллиардами параметров, рассчитанная на сложные приложения и масштабные агентные системы.

В Nvidia подчеркнули, что гибридная MoE-архитектура позволяет повысить масштабируемость и снизить стоимость инференса. По данным компании, новая архитектура обеспечивает до четырехкратного роста пропускной способности по токенам по сравнению с Nemotron 2 Nano и сокращает количество токенов, генерируемых в процессе рассуждения, примерно на 60%. Это снижает требования к памяти и ускоряет работу моделей.

Для моделей Super и Ultra компания также внедрила так называемый latent MoE — подход, при котором «эксперты» в модели используют общее ядро и сохраняют лишь небольшую часть параметров как приватные. Это позволяет дополнительно повысить эффективность без потери качества. Обучение крупных моделей проводилось с использованием 4-битного формата NVFP4, что дало возможность тренировать их на существующей инфраструктуре без снижения точности.

Ранними пользователями Nemotron 3 стали Accenture, CrowdStrike, Deloitte, EY, Oracle Cloud Infrastructure, Palantir, Perplexity, ServiceNow, Siemens и Zoom. По результатам независимых бенчмарков Artificial Analysis модели Nemotron 3 заняли высокие позиции среди решений сопоставимого размера.

В компании заявили, что делают ставку на открытые модели, чтобы дать разработчикам больше прозрачности и контроля над обучением и донастройкой ИИ. Глава Nvidia Дженсен Хуанг заявил, что открытые инновации остаются фундаментом прогресса в ИИ, а Nemotron должен стать платформой для создания масштабируемых агентных систем.

ИИ за $60 в час оказался эффективнее хакеров в тестовом взломе
ИИ за $60 в час оказался эффективнее хакеров в тестовом взломе
По теме
ИИ за $60 в час оказался эффективнее хакеров в тестовом взломе
«Крёстная мать ИИ»: диплом никому не нужен при найме — смотрят на другое
«Крёстная мать ИИ»: диплом никому не нужен при найме — смотрят на другое
По теме
«Крёстная мать ИИ»: диплом никому не нужен при найме — смотрят на другое
Топ OpenAI назвал три сферы которые ИИ автоматизирует первыми
Топ OpenAI назвал три сферы, которые ИИ автоматизирует первыми
По теме
Топ OpenAI назвал три сферы, которые ИИ автоматизирует первыми
Поддержите редакцию 1,5% налога: бесплатно и за 5 минут

Как помочь, если вы в Польше

Читайте также
Студенты уже начали менять специальности из-за ИИ, половина — задумывались
Студенты уже начали менять специальности из-за ИИ, половина — задумывались
Студенты уже начали менять специальности из-за ИИ, половина — задумывались
Главная ошибка CEO в работе с ИИ — мнение эксперта
Главная ошибка CEO в работе с ИИ — мнение эксперта
Главная ошибка CEO в работе с ИИ — мнение эксперта
«Это не карьерная лестница, а стена»: топ LinkedIn о будущем карьеры в эпоху ИИ
«Это не карьерная лестница, а стена»: топ LinkedIn о будущем карьеры в эпоху ИИ
«Это не карьерная лестница, а стена»: топ LinkedIn о будущем карьеры в эпоху ИИ
Slack обновили по-крупному — более 30 новых ИИ-функций
Slack обновили по-крупному — более 30 новых ИИ-функций
Slack обновили по-крупному — более 30 новых ИИ-функций
1 комментарий

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.