ИИ на тёмной стороне: хакеры стали быстрее и опаснее

Ключевые моменты

• Злоумышленники могут быстрее создавать более масштабные кампании с помощью генеративного ИИ
• Они также атакуют корпоративные инструменты искусственного интеллекта
• Люди по-прежнему остаются нашим главным слабым местом

Новое исследование компании CrowdStrike подтверждает, что хакеры используют искусственный интеллект для проведения более агрессивных атак за меньшее время. Кроме того, эта технология позволяет менее опытным хакерам использовать более продвинутый код.

Видео от DGL.RU

ИИ для хакеров: двойные стандарты технологий

Однако, помимо этого, они также используют те же системы искусственного интеллекта, что и предприятия. По данным CrowdStrike, хакеры нацеливаются на инструменты, используемые для создания ИИ-агентов, что позволяет им получать доступ, красть учётные данные и внедрять вредоносное ПО.

Компания CrowdStrike больше всего обеспокоена агентными системами искусственного интеллекта, полагая, что они стали «основной частью поверхности атаки на предприятие».

Злоумышленники нацелились на корпоративный ИИ

Компания, занимающаяся вопросами безопасности, заявила, что наблюдала за «многочисленными» случаями, когда хакеры использовали уязвимости в инструментах, используемых для создания ИИ-агентов. Это знаменует собой серьёзный отход от прежних моделей. До сих пор люди почти всегда были основным каналом проникновения в компанию, но теперь CrowdStrike обеспокоена тем, что «автономные рабочие процессы и нечеловеческие сущности [являются] следующим рубежом в борьбе с злоумышленниками.»

«Мы видим, как злоумышленники используют генеративный ИИ для масштабирования социальной инженерии, ускорения операций и снижения порога вхождения для клавиатурных атак», — пояснил руководитель отдела по борьбе с враждебными действиями Адам Мейерс.

Funklocker и SparkCat — два примера вредоносного ПО, созданного с помощью генеративного ИИ, в реальном мире. Также было замечено, что DPRK-nexus Famous Chollima использует генеративный ИИ для автоматизации своей программы внутренних атак на всех этапах. Группе Scattered Spider, предположительно состоящей из граждан Великобритании и США, удалось развернуть программы-вымогатели в течение 24 часов после получения доступа к системам.

ИИ для хакеров: когда технологии работают против нас

«Злоумышленники относятся к этим агентам как к инфраструктуре и атакуют их так же, как платформы SaaS, облачные консоли и привилегированные учётные записи», — добавил Мейерс.

Тем не менее, несмотря на то, что такие технологии, как искусственный интеллект, играют всё более важную роль в ускорении атак, компания CrowdStrike обнаружила, что в четырёх из пяти (81 %) интерактивных вторжений не использовалось вредоносное ПО, а для того, чтобы остаться незамеченными, злоумышленники полагались на человеческие руки и клавиатуру.

Супергид по macOS 15 Sequoia: все, что вам нужно знать