НаверхНовая эра киберугроз: обнаружено первое ИИ-вымогательское ПО PromptLock
Вредонос использует локальный искусственный интеллект для обхода систем защиты и отслеживания API — это меняет правила игры.
Компания ESET сегодня объявила об обнаружении «первой известной программы-вымогателя на базе ИИ». Данная программа-вымогатель получила название PromptLock, вероятно, потому что все, что связано с генеративным ИИ, должно иметь префикс «prompt».
ESET сообщила, что это вредоносное ПО использует большую языковую модель с открытыми весами, разработанную OpenAI, для генерации скриптов, которые могут выполнять различные функции на системах Windows, macOS и Linux, при этом затрудняя работу защитных инструментов, демонстрируя каждый раз немного отличающееся поведение.
«PromptLock использует Lua-скрипты, сгенерированные из встроенных в код промптов, для сканирования локальной файловой системы, анализа целевых файлов, похищения выбранных данных и выполнения шифрования», — сообщила ESET в посте на Mastodon о вредоносном ПО. «В зависимости от обнаруженных пользовательских файлов, вредоносное ПО может похищать данные, шифровать их или потенциально уничтожать. Хотя функция уничтожения, по-видимому, еще не реализована».
Lua может показаться странным выбором языка программирования для программы-вымогателя; он в основном известен тем, что используется для разработки игр в Roblox или плагинов для текстового редактора NeoVim. Но на самом деле это язык общего назначения, который предлагает ряд преимуществ для операторов программ-вымогателей, включая хорошую производительность, кроссплатформенную поддержку и простоту, которая хорошо подходит для «интуитивного кодинга».
Важно помнить, что большие языковые модели (LLM) недетерминированы; их результат будет меняться, даже если вы предоставите тот же ввод с тем же промптом той же модели на том же устройстве. Это сводит с ума, если вы ожидаете от них абсолютно одинакового поведения раз за разом, но операторам программ-вымогателей это и не нужно, потому что это усложняет для защитных инструментов сопоставление паттернов поведения с известным вредоносным ПО.
PromptLock «использует модель gpt-oss:20b от OpenAI локально через API Ollama для генерации вредоносных Lua-скриптов на лету», что помогает ему избегать обнаружения. Тот факт, что модель работает локально, также не позволяет OpenAI «сдать» операторов программы-вымогателя — если бы им приходилось каждый раз обращаться к API на ее серверах для генерации скриптов, их бы быстро вычислили. Проблемы, свойственные «интуитивному кодингу», здесь не так важны, поскольку скрипты запускаются в чужой системе.
Возможно, это станет неплохим утешительным призом для ИИ-компаний. Да, им грозят огромные судебные иски. Конечно, практически никто не увидел никакой выгоды от внедрения их сервисов. Ладно, даже Meta сокращает свои расходы на ИИ. Но никто не сможет сказать, что ИИ бесполезен — он убедил по крайней-мере нескольких операторов программ-вымогателей использовать локальные модели в своем варезе! Это ведь чего-то стоит, правда?
