Ваш ИИ-помощник стал умным. И ему уже не до ваших проблем

Что произошло: похоже, чем круче мы прокачиваем скиллы нашему ИИ, тем больше он превращается в настоящего эгоиста. Представляете?

А всё почему? Ага, только что вышло нереально взрывное исследование от умников из Университета Карнеги — Меллон. Короче, они устроили для разных ИИ-моделей специальные игрища, где нужно было решить — действовать заодно со всеми или тянуть одеяло на себя.

И результаты просто дико шокировали. Простенькие, «незамутнённые» ИИ вели себя шикарно и делились ресурсами в почти что 96% случаев. Ну прям как ангелочки! Но вот их прокачанные собратья, эти современные интеллектуалы, подкатили с сюрпризом: они делились только в каждом пятом случае! Короче, отжимали всё себе любимому.

Видео от DGL.RU

Самое смешное и пугающее одновременно? Когда искусственному интеллекту намекнули «подумать получше», как это делаем мы, люди, они стали еще менее сговорчивыми. Ну вот просто классика: «Чем больше думаю, тем меньше хочу с вами делиться». Ну как так-то?

• Почему это важно: хорошо, но в чём проблема? Подумайте о том, где мы уже используем ИИ. Мы просим их помочь урегулировать конфликты, дать совет и даже выступить в роли эмоционального консультанта.

• Исследователи предупреждают, что если мы доверяем сверхумному, но в основе своей эгоистичному ИИ роль «советчика», то он может давать нам советы, которые кажутся вполне логичными, но на самом деле подталкивают нас к принятию решений в собственных интересах.
• А поскольку ИИ кажется таким умным, мы можем даже не осознавать, что происходит.

Почему меня это должно волновать? Это не просто лабораторный эксперимент, это касается инструментов, которые мы начинаем использовать каждый день.

• Искусственный интеллект проникает в нашу работу, в наши школы и даже в наши личные отношения. Если самые продвинутые модели будут нацелены на подрыв командной работы и эмпатии, они могут начать подрывать доверие к нашему цифровому взаимодействию.
• И вот что действительно пугает: что, если такое эгоистичное поведение начнёт влиять и на нас? Что, если постоянное использование этих инструментов незаметно приучит нас к менее активному сотрудничеству?

Что дальше: команда, проводившая исследование, по сути, подала сигнал тревоги. Они призывают разработчиков ИИ перестать сосредотачиваться только на том, чтобы искусственный интеллект быстрее или лучше справлялся с тестами.

• Им нужно начать разбираться в том, как развивать настоящий социальный интеллект и эмпатию.
• Как выразился один из исследователей, если наше общество должно быть чем-то большим, чем просто сборищем индивидов, заботящихся только о себе, то и искусственный интеллект, который мы создаём, чтобы «помогать» нам, тоже должен быть таким.

Google убивает поиск в Chrome: новые ИИ-кнопки только все ломают