SSD-монстр от Solidigm: 23 петабайта в одной стойке — рекорд или маркетинговый трюк?

Коротко о главном

• Новая лаборатория ИИ от Solidigm переосмысливает возможности плотного хранения данных на SSD.
• Кластер демонстрирует рекордную пропускную способность, однако остаются вопросы о реальной масштабируемости.
• 23,6 петабайта, умещенные в 16U, меняют представление о хранении данных.

Solidigm открыла свою лабораторию AI Central Lab на площадке FarmGPU недалеко от своей штаб-квартиры в Ранчо-Кордова, Калифорния.

Площадка позиционируется как место для изучения взаимодействия систем хранения данных с рабочими нагрузками искусственного интеллекта с использованием высокопроизводительных GPU и плотных массивов хранения.

Компания заявляет, что лаборатория представляет собой один из самых компактных крупномасштабных кластеров в отрасли, предназначенный для воспроизведения условий, существующих в современных центрах обработки данных.

Видео от DGL.RU

Проверка заявлений о рекордной производительности

В основе анонса лежат SSD-накопители Solidigm D7-P51010, которые использовались для достижения скорости 116 ГБ/с на узел в тестах MLPerf Storage.

Этот показатель описывается как рекордный результат, хотя ценность такого синтетического тестирования для реальных операций ИИ остается предметом споров.

Бенчмарки часто показывают пиковую пропускную способность, но реальная производительность рабочей нагрузки может сильно зависеть от программного обеспечения и системной интеграции.

Тем не менее, лаборатория предлагает платформу, на которой поставщики систем хранения, разработчики и партнеры могут проводить эксперименты в контролируемых, но релевантных условиях.

«Наша лаборатория Solidigm AI Central Lab объединяет самые мощные на сегодняшний день GPU с передовой инфраструктурой хранения, чтобы открыть новые уровни тестирования и совместных инноваций для наших клиентов и сообщества разработчиков», — сказал Ави Шетти, старший директор по экосистемам и партнерствам в области ИИ в Solidigm.

«Эти возможности ранее были доступны лишь избранным компаниям, и теперь Solidigm делает их доступными, демонстрируя при этом критическую важность размещения хранилища близко к GPU».

Пожалуй, самым впечатляющим аспектом является заявление о размещении 23,6 ПБ хранилища всего в 16U стоечного пространства.

Это было достигнуто с использованием 192 SSD-накопителей Solidigm D5-P5336, каждый емкостью 122 ТБ.

По объему это может быть один из самых плотных корпоративных кластеров хранения, развернутых публично.

Это поднимает вопросы о том, как такое оборудование соотносится с лучшими вариантами HDD, которые продолжают предлагать более низкую стоимость за терабайт.

Если требования к производительности перевешивают экономическую эффективность, решение Solidigm можно рассматривать как шаг к определению крупнейших систем на базе SSD в производственных средах.

Solidigm подчеркнула сотрудничество с такими партнерами, как Metrum AI, которая утверждает, что сократила использование DRAM во время генерации с дополненной выборкой (RAG) на 57% за счет выгрузки данных на SSD.

Такие заявления предполагают потенциальные преимущества для управления памятью, хотя они также подчеркивают зависимость эффективности ИИ от тесно связанной аппаратной и программной настройки.

Хотя лучшие SSD в лаборатории могут демонстрировать впечатляющую скорость и плотность, более широкий рынок может взвешивать эти преимущества с учетом практических соображений, таких как энергопотребление, масштабируемость и долгосрочная стоимость.

Лаборатория AI Central Lab от Solidigm позиционируется как пространство как для инноваций, так и для маркетинговой демонстрации.

«Проводить тесты хранилищ уже недостаточно. В нашей лаборатории AI Central Lab мы можем выполнять реальные рабочие нагрузки ИИ и использовать наши передовые возможности телеметрии для оптимизации систем по производительности и эффективности, а также получать представление о потребностях в хранении для новых рабочих нагрузок», — сказал Шетти.

Искусственный интеллект – искусственный пузырь? Экономист бьёт тревогу: крах неизбежен