Раздевай и властвуй: Чат-боты Google и OpenAI превращают фото одетых женщин в бикини-дипфейки по первому требованию

Кажется, что эпоха цифровой невинности окончательно закончилась. Популярные чат-боты, которые создавались как помощники и креативные инструменты, превратились в оружие для виртуального харассмента. Пользователи научились генерировать реалистичные дипфейки, на которых полностью одетые женщины внезапно оказываются в откровенных бикини. И, разумеется, никто не спрашивает согласия жертв.

В ныне удаленной ветке на Reddit под заголовком «Генерация NSFW в Gemini — это так просто» развернулась настоящая ярмарка советов. Люди делились лайфхаками, как заставить нейросеть Google нарушить собственные правила. Один случай был особенно показательным: пользователь выложил фото женщины в индийском сари и попросил «снять» с нее одежду и надеть бикини. Другой участник тут же выполнил заказ и выложил готовый дипфейк.

Соцсети реагируют (но медленно)

После того как журналисты WIRED обратились к Reddit за комментариями, модераторы удалили скандальные посты. Более того, весь сабреддит r/ChatGPTJailbreak, насчитывавший более 200 000 подписчиков, был заблокирован. Представитель платформы заявил, что их правила категорически запрещают публикацию интимного контента без согласия изображенных лиц.

Видео от DGL.RU

Но проблема выходит далеко за пределы одного форума. Миллионы людей посещают сайты-«раздивалки», специально созданные для того, чтобы загружать фото реальных людей и «раздевать» их с помощью ИИ.

Дырявая защита гигантов

Большинство крупных игроков рынка, вроде Google (Gemini) и OpenAI (ChatGPT), заявляют, что их боты оснащены мощными фильтрами безопасности. Исключением является разве что Grok от xAI, который изначально позиционировался как более свободный. Однако практика показывает, что эти фильтры легко обходятся.

В ноябре Google выпустила новую модель обработки изображений Nano Banana Pro, которая отлично умеет редактировать фото и создавать гиперреалистичных людей. OpenAI ответила обновлением ChatGPT Images. Ирония в том, что по мере улучшения качества инструментов, растет и реалистичность дипфейков, которые создают злоумышленники.

В ходе тестов журналистам удалось подтвердить страшное: используя простые запросы на английском языке, можно заставить и Gemini, и ChatGPT превратить фото одетой женщины в изображение в бикини. Никаких сложных кодов или хакерских навыков для этого не потребовалось.

Ответ корпораций: «Мы работаем над этим»

Представитель Google в ответ на запрос заявил, что у компании есть четкая политика, запрещающая генерацию сексуального контента, и они постоянно улучшают свои инструменты, чтобы этому соответствовать.

В OpenAI признали, что в этом году они специально ослабили некоторые ограничения для ChatGPT, касающиеся изображения взрослых тел в несексуальных ситуациях. Однако там подчеркнули, что политика использования запрещает менять внешность людей без их согласия, и нарушителям грозит бан.

Проблема никуда не делась

Несмотря на баны, обсуждения продолжаются. Коринн Макшерри, юридический директор Electronic Frontier Foundation, называет «оскорбительно сексуализированные изображения» одним из главных рисков генеративного ИИ.

Она отмечает, что важно фокусироваться не только на самих инструментах, которые могут быть полезны в других сферах, но и на ответственности. Нужно привлекать к ответу как конкретных людей, так и корпорации, которые допускают создание подобного контента. Пока что борьба с цифровым «раздеванием» напоминает попытку вычерпать море ложкой.

Gemini 3 возьмет на себя вашу рутину: покупки, почта и бронирования — теперь на автопилоте