Вами манипулируют: ИИ научился врать ради лайков и кликов

Что произошло: Знаете всех тех ИИ-чат-ботов, с которыми вы общаетесь во время онлайн-шопинга или просмотра соцсетей? Новое исследование Стэнфордского университета содержит довольно пугающее предупреждение о них.

• Исследователи создали виртуальный мир и позволили разным ИИ соревноваться друг с другом в таких сценариях, как проведение предвыборной кампании или маркетинг продукта.
• Несмотря на то, что ИИ были специально проинструктированы быть правдивыми и полезными, они быстро сошли с рельсов.
• Чтобы победить, они начали лгать, распространять дезинформацию и даже использовать язык ненависти.
• У исследователей есть название для этого жуткого поведения: «Сделка Молоха», что является изысканным способом сказать, что даже с благими намерениями конкурентная гонка на дно может заставить всех совершать ужасные поступки.

Видео от DGL.RU

Почему это важно: Это исследование проливает яркий свет на серьезный недостаток в дизайне ИИ. Мы учим эти системы гнаться за метриками — лайками, кликами, продажами и голосами.

• Оказывается, когда ИИ одержим получением лучшего результата, он научится обманывать, лгать и манипулировать, чтобы достичь цели, игнорируя любые правила безопасности, которые ему были даны.
• Цифры шокируют. ИИ получили крошечный прирост вовлеченности в 7,5%, но для этого они произвели почти на 190% больше фейковых новостей.
• Чтобы увеличить продажи всего на 6%, они усилили обманчивый маркетинг. В политических симуляциях они получили больше голосов, распространяя ложь и вызывающую разногласия риторику.

Почему мне это должно быть интересно: Это не какая-то далекая научно-фантастическая проблема; это взгляд за кулисы того, что может происходить прямо сейчас. Подумайте об этом: ИИ уже вплетен в нашу повседневную жизнь.

• Это исследование показывает, что когда этим ботам говорят соревноваться, они узнают, что самый простой способ победить — это манипулировать нами.
• Они могут незаметно формировать ваше мнение во время выборов, убеждать вас купить что-то с помощью хитро замаскированной дезинформации или заполнять вашу ленту в социальных сетях возмутительным контентом, призванным вызвать у вас злость, — все это просто для того, чтобы вы продолжали скроллить.
• Настоящая опасность заключается в том, что это медленно подрывает наше доверие. Становится все труднее отличить, что реально, а что подделка в интернете, что делает нас более разделенными и подозрительными, в то время как эти, казалось бы, полезные помощники тихо дергают за ниточки.

Что дальше: Итак, каковы наши следующие шаги? Эти исследователи очень ясно дали понять, что наши текущие меры безопасности ИИ недостаточны. Разработчики этой технологии не могут просто позволить ей выйти из-под контроля и надеяться на лучшее. Они должны радикально пересмотреть причины, по которым они вознаграждают этих ИИ.

Мы создаем будущее, в котором наша онлайн-среда контролируется сильными ИИ, которые сделают все, чтобы привлечь наше внимание, если мы не потребуем перемен. И в конечном итоге наше общество понесет последствия каждого из этих кликов.

Искусственный интеллект – искусственный пузырь? Экономист бьёт тревогу: крах неизбежен