AI-сайты «с раздеванием» приносят миллионы долларов

Алексиос Манцарлис, соучредитель Indicator и исследователь в области онлайн-безопасности, говорит, что сомнительная экосистема нудификаторов стала «прибыльным бизнесом», которому «попустительский подход Кремниевой долины к генеративному ИИ» позволил существовать. «Они должны были прекратить предоставлять любые услуги нудификаторам с искусственным интеллектом, когда стало ясно, что их единственный вариант использования — сексуальные домогательства», — говорит Манцарлис о технологических компаниях.Создание или распространение откровенных дипфейков становится всё более незаконным.

Согласно исследованию, Amazon и Cloudflare предоставляют услуги хостинга или доставки контента для 62 из 85 веб-сайтов, а система входа в систему Google использовалась на 54 веб-сайтах. Веб-сайты, предлагающие услуги нудизма, также используют множество других сервисов, таких как платёжные системы, предоставляемые крупными компаниями.

Представитель Amazon Web Services Райан Уолш говорит, что у AWS есть чёткие условия предоставления услуг, которые требуют от клиентов соблюдения «применимых» законов. «Когда мы получаем сообщения о возможных нарушениях наших условий, мы оперативно проводим проверку и принимаем меры по блокировке запрещённого контента», — говорит Уолш, добавляя, что люди могут сообщать о проблемах в службу безопасности.

Реакция технологических компаний на нарушения

«Некоторые из этих сайтов нарушают наши правила, и наши команды принимают меры для устранения этих нарушений, а также работают над долгосрочными решениями», — говорит представитель Google Карл Райан, отмечая, что система входа в Google требует от разработчиков согласия с правилами, которые запрещают незаконный контент и контент, направленный на травлю других пользователей.

На момент написания статьи компания Cloudflare не ответила на запрос WIRED о комментарии. WIRED не называет в этой статье сайты, использующие технологию nudifier, чтобы не привлекать к ним ещё больше внимания.

Сайты, на которых можно раздеться, и боты процветают с 2019 года после того, как появились инструменты и процессы, использовавшиеся для создания первых откровенных «дипфейков». Как сообщает Bellingcat, в сети появились сети взаимосвязанных компаний, предлагающих технологии и зарабатывающих на этих системах.

Как работает AI в создании «nudify»-контента

В общих чертах сервисы используют искусственный интеллект для преобразования фотографий в откровенные изображения, созданные без согласия их владельцев. Они часто зарабатывают на продаже «кредитов» или подписок, которые можно использовать для создания фотографий. Их популярность резко возросла благодаря волне генеративных ИИ-генераторов изображений, появившихся в последние несколько лет. Их работа наносит огромный ущерб. Фотографии из социальных сетей были украдены и использованы для создания оскорбительных изображений. Тем временем в рамках новой формы кибербуллинга и оскорблений мальчики-подростки по всему миру создают изображения своих одноклассников. Такое жестокое обращение с интимными изображениями травмирует жертв, а сами изображения трудно удалить из интернета.

Используя различные инструменты и данные с открытым исходным кодом, в том числе инструмент для анализа веб-сайтов Built With, сотрудники Indicator и исследователь-расследователь Сантьяго Лакатос изучили инфраструктуру и системы, обеспечивающие работу 85 сайтов с обнажёнкой. Сети доставки контента, услуги хостинга, компании, занимающиеся доменными именами, и сервисы для веб-мастеров — всё это предоставляется как крупнейшими технологическими компаниями, так и небольшими предприятиями.

Доходы сервисов nudify: миллионы долларов в год

Основываясь на расчётах, учитывающих стоимость подписки, предполагаемый коэффициент конверсии клиентов и веб-трафик, который сайты направляли платёжным системам, исследователи подсчитали, что за последние шесть месяцев 18 сайтов заработали от 2,6 до 18,4 миллиона долларов, что в сумме составляет около 36 миллионов долларов в год. (Они отмечают, что это, скорее всего, консервативная оценка, поскольку она не учитывает все веб-сайты и транзакции, которые происходят за пределами веб-сайтов, например в Telegram.) Недавно немецкий журнал Der Spiegel сообщил о разоблачителе и утечке данных, из которых следует, что у одного известного веб-сайта может быть многомиллионный бюджет. Другой веб-сайт заявил, что заработал миллионы.

Согласно исследованию, из 10 самых посещаемых сайтов больше всего посетителей было из США, а также из Индии, Бразилии, Мексики и Германии. Хотя поисковые системы направляют людей на сайты с обнажёнкой, всё больше посетителей приходит с других онлайн-ресурсов. Сайты с обнажёнкой стали настолько популярными, что российские хакеры создали поддельные версии с вредоносным ПО. За последний год 404 Media сообщила об одном сайте, на котором публикуются спонсируемые видеоролики с участием взрослых артистов, а также о том, что веб-сайты всё чаще используют платные партнёрские и реферальные программы.

«Наш анализ поведения нудистов убедительно свидетельствует об их стремлении занять свою нишу в индустрии для взрослых, — говорит Лакатос. — Скорее всего, они продолжат попытки встроить свою деятельность в пространство контента для взрослых. Этой тенденции должны противостоять как крупные технологические компании, так и индустрия для взрослых».

Основные вызовы для борьбы с индустрией nudify

Многие проблемы, связанные с тем, что технологические компании позволяют платформам nudify использовать свои системы, хорошо известны. На протяжении многих лет технические журналисты писали о том, как экономика дипфейков использует основные платёжные сервисы, социальные сети рекламу, поисковые системы и технологии крупных компаний для работы. Однако комплексных мер принято мало.

«С 2019 года приложения для нудификации превратились из нескольких низкокачественных побочных проектов в целую индустрию профессионального незаконного бизнеса с миллионами пользователей, — говорит Генри Айдер, эксперт по искусственному интеллекту и дипфейкам, который впервые обнаружил рост экосистемы нудификации в 2020 году. — Только когда такие компании, как эта, которые способствуют извращённому клиентскому пути приложений для нудификации, начнут предпринимать целенаправленные действия, мы увидим значимый прогресс в том, чтобы усложнить доступ к этим приложениям и получение прибыли от них».

Видео от DGL.RU

Как сервисы nudify меняют тактику для обхода блокировок

Есть признаки того, что сайты, публикующие откровенные фото, меняют свою тактику и подходы, чтобы избежать возможных репрессий или блокировок. В прошлом году издание WIRED сообщило о том, что сайты, публикующие откровенные фото, использовали системы единого входа от Google, Apple и Discord, чтобы люди могли быстро создавать учётные записи. После публикации многие учётные записи разработчиков были заблокированы. По данным Indicator, на 54 из 85 сайтов используется простая система входа от Google, и создатели сайтов принимают меры, чтобы избежать обнаружения со стороны Google. В отчёте говорится, что они будут использовать «промежуточный сайт», чтобы «представлять другой URL для регистрации».