Huawei шокировала индустрию: новый ИИ-накопитель убивает рынок дорогущей памяти HBM

• Huawei переключает внимание с HBM на SSD для управления нагрузками в сфере ИИ
• OceanDisk LC 560 имеет объём 245 ТБ — это самый большой из когда-либо созданных твердотельных накопителей
• Компания Huawei продвигает программное обеспечение DiskBooster как решение для объединения памяти HBM и SSD

Компания Huawei представила (первоначально на китайском языке) набор твердотельных накопителей с искусственным интеллектом, призванных снизить зависимость от памяти с высокой пропускной способностью — области, в которой китайские компании сталкиваются с ограничениями поставок.

На мероприятии, посвящённом запуску твердотельных накопителей Data Storage AI, компания представила диски OceanDisk EX, OceanDisk SP и OceanDisk LC 560.

Компания назвала эти запуски ответом на проблемы «стены памяти» и «стены производительности», которые в настоящее время ограничивают возможности искусственного интеллекта.

Видео от DGL.RU

Диски Huawei OceanDisk EX, SP и LC 560

«Всё более серьёзные проблемы с „памятью“ и „ёмкостью“ стали ключевыми препятствиями для повышения эффективности обучения ИИ и улучшения пользовательского опыта. Это создаёт проблемы с производительностью и стоимостью ИТ-инфраструктуры, влияя на положительный бизнес-цикл ИИ», — сказал Чжоу Юэфэн, вице-президент и руководитель линейки продуктов для хранения данных Huawei.

OceanDisk EX 560 позиционируется как «накопитель с экстремальной производительностью», скорость записи которого достигает 1 500 000 операций ввода-вывода в секунду, задержка составляет менее 7 мкс, а ресурс — 60 DWPD.

Компания Huawei заявляет, что может увеличить количество параметров тонкой настройки модели на одном компьютере в шесть раз, что потенциально может сделать её полезной для тонкой настройки больших языковых моделей.

Модель SP 560 более экономична: она обеспечивает 600 000 операций ввода-вывода в секунду и более низкую надёжность — 1 DWPD.

Он предназначен для сценариев логического вывода и, как утверждается, сокращает задержку при получении первого токена на 75 %, а пропускную способность увеличивает вдвое.

LC 560 — это самый большой SSD в серии с заявленной ёмкостью одного накопителя 245 ТБ и скоростью чтения 14,7 ГБ/с.

Компания Huawei продвигает эту модель как хорошо подходящую для обработки больших мультимодальных наборов данных при кластерном обучении, хотя практическое внедрение в больших масштабах будет зависеть от интеграции с существующими системами.

Помимо аппаратного обеспечения, компания Huawei также представила DiskBooster — драйвер, который, как утверждается, увеличивает объём объединённой памяти в двадцать раз за счёт координации твердотельных накопителей AI с HBM и DDR.

Компания также обратила внимание на многопотоковую технологию, направленную на снижение интенсивности записи, что может продлить срок службы накопителя.

Такая программная оптимизация может повысить гибкость рабочих процессов ИИ, но реальный эффект будет зависеть от того, насколько хорошо приложения адаптируются к новым технологиям и поддерживают их.

Последняя разработка Huawei SSD — это попытка смягчить последствия продолжающегося ужесточения Соединёнными Штатами контроля над передовыми чипами HBM, из-за чего китайские компании имеют ограниченный доступ к ним.

Компания стремится снизить зависимость Китая от импортных чипов HBM, делая упор на отечественную флэш-память NAND, и переориентировать производство на технологию SSD.

Тем не менее остаётся неясным, смогут ли эти новые накопители действительно компенсировать ограничения HBM при обучении LLM.

Тем не менее решение Huawei не заменяет HBM, а является лишь частичной альтернативой. Однако компания утверждает, что твердотельные накопители большой ёмкости со специализированным программным обеспечением могут снизить потребность в большом объёме дорогостоящей памяти.

Это утверждение ещё предстоит проверить, но такой подход предполагает переход к «системе, дополняющей отдельные точки», где различные уровни хранения данных компенсируют ограничения в HBM.

Карманный SSD-накопитель Transcend ESD250C вмещает до 480 Гбайт данных, а весит в три раза меньше смартфона