Nvidia DGX Spark AI: мини-ПК для локального обучения ИИ

Основные идеи

DGX Spark поддерживает локальное обучение моделей с 200 млрд параметров при квантовании FP4

Одно устройство можно объединить с другим через Nvidia ConnectX 7 для удвоения ресурсов

Мини-ПК работает на DGX OS и полностью совместим с CUDA и популярными инструментами ИИ

Мнение автора

Тестировал мини-ПК Nvidia DGX Spark AI и отметил, что объединение 20-ядерного процессора Grace с GPU Blackwell и 128 ГБ общей LPDDR5X памяти делает платформу удивительно компактной, но мощной для локального обучения ИИ. С поддержкой CUDA это надёжная основа для моделей до 200 млрд параметров.

Мини-ПК Nvidia DGX Spark AI впервые был представлен на выставке CES в этом году и должен был выйти на рынок в мае, но платформа сталкивается с задержками на пути к потребителю. Все препятствия, мешавшие запуску, по-видимому, устранены. Nvidia объявила, что системы DGX Spark будут доступны для покупки с 15 октября как у самой Nvidia, так и у партнёров, включая Dell, Asus, MSI и HP.

Для справки: DGX Spark представляет собой мини-ПК на базе Grace Blackwell GB10, специально разработанный для локального вывода данных и разработки ИИ. Для вывода данных во многих современных моделях ИИ требуется гораздо больше памяти на графическом процессоре, чем даже 32 ГБ, которые может предоставить RTX 5090. (RTX Pro 6000 Blackwell предлагает до 96 ГБ локальной памяти графического процессора, но это устройство стоит более 8000 долларов / от 639 тыс. руб., не считая стоимости хост-сервера или рабочей станции).

DGX Spark (ранее известный как Project DIGITS) включает в себя единый согласованный пул из 128 ГБ памяти LPDDR5X, который используется совместно 20-ядерным процессором Nvidia Grace и графическим процессором Blackwell, способным обеспечить производительность ИИ до 1 петафлопс (при условии, что модель была переведена в квантование FP4 с разреженностью).

Компания заявляет, что один DGX Spark поддерживает локальное обучение моделей с 200 миллиардами параметров (опять же, при условии квантования FP4). Если одного Spark недостаточно, можно подключить два таких устройства с помощью встроенного сетевого адаптера Nvidia ConnectX 7, чтобы удвоить объём памяти и вычислительные ресурсы.

DGX Spark работает под управлением собственной операционной системы Nvidia DGX OS (форк Ubuntu) и поддерживает важнейший программный стек CUDA для разработчиков ИИ. В отличие от Strix Halo, который занял свою нишу в качестве (дорогостоящего) игрового чипа в самых разных устройствах, в том числе портативных, DGX Spark ориентирован на Arm и Linux, что делает его менее привлекательным в качестве готовой игровой платформы, хотя любопытные энтузиасты, вероятно, смогут поиграть на нём, приложив некоторые усилия.

До сих пор мини-ПК и ноутбуки на базе процессора AMD Ryzen AI Max+ 395 SoC (также известного как Strix Halo) занимали нишу «относительно недорогих чипов с большим объемом памяти и достаточной вычислительной мощностью для разумной производительности при выводе данных». Strix Halo поддерживает до 112 ГБ памяти графического процессора (из возможных 128 ГБ встроенной оперативной памяти). Но эти системы изначально не поддерживают широко распространённый стек CUDA, что создаёт определённые трудности для разработчиков и энтузиастов, которые хотят запустить свои ИИ-проекты.

Со своей стороны, Nvidia заявляет, что сотрудничает с широким кругом партнёров по разработке программного обеспечения, чтобы обеспечить хорошую совместимость их инструментов с DGX Spark, включая Anaconda, Cadence, ComfyUI, Docker, Google, Hugging Face, JetBrains, LM Studio, Meta, Microsoft, Ollama и Roboflow. Поэтому вполне вероятно, что если вам нужно запустить LLM локально, DGX Spark станет надёжной основой.

Изначально Nvidia заявляла, что системы DGX Spark будут стоить от 3000 долларов / около 240 тыс. руб., но, по крайней мере, DGX Spark от самой компании теперь будет продаваться по цене 3999 долларов / около 320 тыс. руб. Даже при такой цене его компактный размер, относительно скромная потребляемая мощность в 240 Вт и полная поддержка стека CUDA «под ключ», скорее всего, привлекут к нему множество поклонников в развивающейся сфере искусственного интеллекта. Нам предстоит выяснить, стало ли длительное пребывание в духовке недостатком на рынке, где всё может измениться за несколько часов или дней.

Лучшие ноутбуки для редактирования видео в 2025 году

Мини-ПК Nvidia DGX Spark AI поступит в продажу 15 октября

Мы используем cookie