HBM-on-GPU обещает революцию в AI, но пока не доберется до видеокарт

Конструкция 3D HBM-on-GPU предлагает рекордную вычислительную плотность для ресурсоемких задач искусственного интеллекта. Максимальная температура графического процессора превышала 140 °C без применения мер по снижению тепловыделения. Снижение тактовой частоты графического процессора вдвое позволило уменьшить температуру, но замедлило обучение ИИ на 28%.

На Международной конференции IEEE по электронным устройствам (IEDM) 2025 года компания Imec представила результаты исследования конструкции 3D HBM-on-GPU. Цель работы — повышение вычислительной плотности для ресурсоемких задач искусственного интеллекта.

Применяемый подход к совместной оптимизации системы охлаждения и технологий размещает четыре высокоскоростных блока памяти непосредственно над графическим процессором с помощью микроконтактных соединений. Каждый стек состоит из двенадцати гибридно-склеенных кристаллов DRAM, а охлаждение расположено поверх HBM-чипов.

Попытки снизить тепловыделения и компромиссы

Предлагаемое решение использует карты энергопотребления, которые получены на основе актуальных для отрасли рабочих нагрузок. Это позволяет проверить, как конфигурация реагирует в реалистичных условиях обучения ИИ.

Такая трехмерная конфигурация обещает значительное увеличение вычислительной плотности и объема памяти на каждый графический процессор.

Кроме того, она обеспечивает более высокую пропускную способность памяти по сравнению с 2.5D-интеграцией, где стеки HBM располагаются вокруг графического процессора на кремниевой подложке. Однако моделирование тепловых процессов выявляет серьезные проблемы для конструкции 3D HBM-on-GPU.

Без мер по снижению нагрузки пиковая температура графического процессора достигала 141,7 °C, что значительно превышало рабочие пределы. В то же время базовый показатель для 2.5D-конфигурации достигал пика в 69,1 °C при тех же условиях охлаждения.

Компания Imec изучала стратегии на технологическом уровне. Среди них объединение стеков HBM и оптимизация тепловых характеристик кремниевых чипов.

В число стратегий системного уровня входили двустороннее охлаждение и масштабирование частоты графического процессора. Снижение тактовой частоты графического процессора на 50% позволило уменьшить пиковые температуры до уровня ниже 100 °C, но это замедлило процессы обучения ИИ.

Несмотря на эти ограничения, Imec утверждает, что 3D-структура может обеспечить более высокую вычислительную плотность и производительность, чем эталонная 2.5D-конструкция.

«Снижение частоты ядра графического процессора вдвое позволило уменьшить пиковую температуру со 120°C до менее 100°C, достигнув ключевого целевого показателя для работы с памятью. Хотя этот шаг сопряжен со снижением рабочей нагрузки на 28%…», — сказал Джеймс Майерс, директор программы системных технологий в Imec.

«…в целом, пакет превосходит базовый вариант 2.5D благодаря более высокой плотности пропускной способности, обеспечиваемой 3D-конфигурацией. В настоящее время мы используем этот подход для изучения других конфигураций GPU и HBM…»

Организация предполагает, что такой подход может обеспечить поддержку термостойкого оборудования для инструментов искусственного интеллекта в центрах обработки данных с высокой плотностью размещения. Компания Imec представляет эту работу как часть более широкой инициативы по установлению связи между технологическими решениями и поведением системы.

Это включает в себя программу межтехнологической совместной оптимизации (XTCO), запущенную в 2025 году. Она объединяет подходы STCO и DTCO для согласования технологических планов с задачами масштабирования системы.

Компания Imec заявила, что XTCO позволяет совместно решать критически важные проблемы, которые возникают в полупроводниковой экосистеме. Это затрагивает компании, разрабатывающие собственные решения и системные разработки.

Однако подобные технологии, скорее всего, по-прежнему будут использовать в специализированных установках с контролируемым энергопотреблением и тепловым режимом.

Обзор Honor Magic 8 Lite: магия среднего класса