Угроза в символах: новая уязвимость в безопасности Google Gemini

• Исследователь безопасности обнаружил, что Gemini уязвим для атак ASCII-контрабанды.
• Эти атаки скрывают вредоносные подсказки в электронных письмах или приглашениях в календаре, которые большие языковые модели могут прочитать, когда их просят обобщить текст.
• Google отклонил угрозу как атаку социальной инженерии, возложив ответственность на конечного пользователя.

Google обычно серьезно относится к безопасности своих пользователей, внедряя ряд мер для обеспечения безопасности своих продуктов. На самом деле, это часть мыслительного процесса, стоящего за подавлением компанией неофициальной загрузки приложений от непроверенных разработчиков на Android. Но, похоже, компания не слишком обеспокоена исправлением проблемы, которая делает Gemini уязвимым для тревожного типа киберугрозы.

Видео от DGL.RU

Согласно Bleeping Computer, исследователь безопасности Виктор Маркопулос протестировал некоторые из самых популярных больших языковых моделей на предмет атак ASCII-контрабанды. Маркопулос обнаружил, что Gemini, DeepSeek и Grok были уязвимы для этого типа кибератак. Однако Claude, ChatGPT и Copilot имели защиту, доказывая, что эти варианты безопасны.

Если вы не знакомы с этим типом киберугрозы, ASCII-контрабанда включает в себя «контрабанду» (скрытие) подсказки для чтения ИИ. Например, злоумышленник может написать секретную подсказку в электронном письме самым маленьким доступным размером шрифта, и жертва ничего не заподозрит. Если жертва попросит инструмент ИИ, такой как Gemini, обобщить текст в сообщении, ИИ также прочитает эту скрытую подсказку.

Есть несколько причин, почему что-то подобное является проблематичным. Например, подсказка может приказать ИИ найти в вашем почтовом ящике конфиденциальную информацию или отправить контактные данные. Учитывая, что Gemini теперь интегрирован с Google Workspace, эта проблема представляет еще больший риск.

Сообщается, что Маркопулос обратился в Google с этим открытием. Он даже дошел до того, что предоставил демонстрацию, в которой передал невидимую инструкцию Gemini. ИИ в итоге был обманут и поделился вредоносным сайтом с качественным, но со скидкой телефоном. Однако сообщается, что Google отклонил проблему как не ошибку безопасности, а скорее тактику социальной инженерии. По сути, компания говорит, что бремя ответственности лежит на конечном пользователе.

Судя по ответу, похоже, у Google нет планов исправлять эту проблему безопасности Gemini.

Создавайте захватывающие видео с помощью AI: Google Vids теперь доступен для всех!