Nvidia показала свой первый ИИ-суперкомпьютер

Project Digits оснащен новым чипом GB10 Grace Blackwell Superchip, который обеспечивает производительность до 1 петафлопса для задач искусственного интеллекта.  Этот чип, разработанный совместно с MediaTek, сочетает графический процессор Nvidia Blackwell и 20-ядерный процессор Nvidia Grace на базе архитектуры Arm. Система включает 128 ГБ памяти и до 4 ТБ NVMe-хранилища.

Одной из ключевых особенностей Project Digits является его способность запускать сложные модели ИИ с параметрами до 200 миллиардов. Для более требовательных задач можно объединить два устройства для работы с моделями, имеющими более 400 миллиардов параметров.  Это сопоставимо с мощностью таких моделей, как Llama 3.1 от Meta, которая имеет 405 миллиардов параметров. Устройство работает под управлением Nvidia DGX OS на базе Linux и поддерживает популярные фреймворки, такие как PyTorch, Python и Jupyter notebooks.

Устройство ориентировано на профессионалов, которые смогут разрабатывать и тестировать модели ИИ локально, а затем развертывать их в облачных сервисах или центрах обработки данных.  Project Digits будет стоить $3,000.

Nvidia также предлагает аналогичное, но более доступное устройство Jetson Orin Nano Super стоимостью $249 для любителей и стартапов, способное обрабатывать модели до 8 миллиардов параметров.