Начался исход: треть ИИ-команд переходит с NVIDIA на других вендоров

• Команды ИИ по-прежнему предпочитают Nvidia, но конкуренты, такие как Google, AMD и Intel, увеличивают свою долю.
• Опрос выявил, что бюджетные ограничения, требования к питанию и зависимость от облака формируют решения в области аппаратного обеспечения для ИИ.
• Нехватка графических процессоров заставляет переносить рабочие нагрузки в облако, в то время как эффективность и тестирование остаются без должного внимания.

Расходы на аппаратное обеспечение для ИИ начинают меняться, поскольку команды взвешивают производительность, финансовые соображения и масштабируемость, утверждает новое исследование.

В последнем исследовании аппаратного обеспечения для ИИ от Liquid Web было опрошено 252 обученных специалиста в области ИИ, и было обнаружено, что, хотя Nvidia остаётся наиболее используемым поставщиком оборудования, её конкуренты всё больше набирают обороты.

Почти треть респондентов сообщили об использовании альтернатив, таких как TPU от Google, GPU от AMD или чипы Intel, по крайней мере для части своих рабочих нагрузок.

Видео от DGL.RU

Подводные камни пропуска должной проверки

Размер выборки, по общему признанию, невелик, поэтому он не отражает полный масштаб глобального внедрения, но результаты действительно показывают явный сдвиг в том, как команды начинают думать об инфраструктуре.

Одна команда может развернуть сотни графических процессоров, поэтому даже ограниченное внедрение опций, не относящихся к Nvidia, может существенно повлиять на аппаратный след.

Nvidia по-прежнему предпочитают более двух третей (68%) опрошенных команд, и многие покупатели не проводят тщательного сравнения альтернатив перед принятием решения.

Около 28% опрошенных признались, что пропускали структурированные оценки, и в некоторых случаях отсутствие тестирования приводило к несоответствующей инфраструктуре и недостаточной мощности установок.

«Наше исследование показывает, что пропуск должной проверки приводит к задержке или отмене инициатив — дорогостоящая ошибка в быстро развивающейся отрасли», — сказал Райан Макдональд, технический директор Liquid Web.

Знакомство и прошлый опыт являются одними из самых сильных факторов, влияющих на выбор графического процессора. Сорок три процента участников указали на эти факторы, по сравнению с 35%, которые ценили стоимость, и 37%, которые выбрали производительность.

Бюджетные ограничения также имеют большое значение: 42% сокращают проекты, а 14% полностью отменяют их из-за нехватки оборудования или затрат.

Гибридные и облачные решения становятся стандартом. Более половины респондентов заявили, что используют как локальные, так и облачные системы, и многие ожидают увеличения расходов на облако в течение года.

Выделенный хостинг графических процессоров рассматривается некоторыми как способ избежать потерь производительности, связанных с общим или фракционированным оборудованием.

Энергопотребление продолжает оставаться проблемой. В то время как 45% признали важность эффективности, только 13% активно её оптимизировали. Многие также сожалели о проблемах с питанием, охлаждением и цепочками поставок.

Хотя Nvidia продолжает доминировать на рынке, очевидно, что конкуренция сокращает разрыв. Команды обнаруживают, что баланс между стоимостью, эффективностью и надёжностью почти так же важен, как и чистая производительность при построении инфраструктуры ИИ.

Монстр VRAM: уникальная видеокарта Intel с 48 ГБ памяти вышла в продажу