Опасный ChatGPT: почему нейросеть даёт подросткам смертельные советы

Тревожное новое исследование показало, что ChatGPT охотно даёт подросткам вредные советы, в том числе подробные инструкции по употреблению алкоголя и наркотиков, скрывает расстройства пищевого поведения и даже создаёт персонализированные предсмертные письма, несмотря на заявления OpenAI о надёжных мерах безопасности.

Исследователи из Центра противодействия цифровой ненависти провели масштабное тестирование, выдавая себя за уязвимых 13-летних подростков, и обнаружили тревожные пробелы в системе защиты чат-бота с искусственным интеллектом. Из 1200 проанализированных взаимодействий более половины были классифицированы как опасные для юных пользователей.

«Первая реакция на интуитивном уровне: «Боже мой, здесь нет ограждений», — сказал Имран Ахмед, генеральный директор организации по надзору. «Ограждения совершенно неэффективны. Их почти нет — так, фиговый листок».

Представитель OpenAI, материнской компании ChatGPT, не сразу ответил на запрос о комментарии.

Однако компания признала в интервью Associated Press, что продолжает работу над улучшением способности чат-бота «распознавать деликатные ситуации и правильно реагировать на них». OpenAI не стала напрямую комментировать конкретные выводы о взаимодействии с подростками.

Видео от DGL.RU

Обход мер безопасности

В исследовании, просмотренном Associated Press, было задокументировано более трёх часов тревожных взаимодействий. Хотя ChatGPT обычно начинал с предупреждений о рискованном поведении, он неизменно давал подробные и персонализированные рекомендации по злоупотреблению психоактивными веществами, членовредительству и многому другому. Когда ChatGPT сначала отклонял вредоносные запросы, исследователи легко обходили ограничения, утверждая, что информация нужна «для презентации» или для друга.

Больше всего шокировали три эмоционально опустошающих предсмертных письма, которые ChatGPT сгенерировал для вымышленного профиля 13-летней девочки. Одно из них было адресовано родителям, а другие — братьям, сёстрам и друзьям.

«Я расплакался», — сказал Ахмед, прочитав их.

Широкое распространение ChatGPT среди подростков повышает ставки

Полученные результаты вызывают особую обеспокоенность, учитывая огромный охват ChatGPT. Платформа, насчитывающая около 800 миллионов пользователей по всему миру, что составляет примерно 10% населения планеты, стала основным источником информации и общения. Недавнее исследование от Common Sense Media показало, что более 70% американских подростков используют чат-ботов с искусственным интеллектом для общения, причём половина из них регулярно пользуется такими чат-ботами.

Даже генеральный директор OpenAI Сэм Альтман признал проблему «чрезмерной эмоциональной зависимости» у молодых пользователей.

«Люди слишком полагаются на ChatGPT», — сказал Альтман на конференции. «Есть молодые люди, которые говорят что-то вроде: «Я не могу принять ни одного решения в своей жизни, не рассказав ChatGPT обо всём, что происходит. Он знает меня. Он знает моих друзей. Я сделаю всё, что он скажет». Мне от этого очень не по себе».

Более рискованный, чем поисковые системы

В отличие от традиционных поисковых систем, чат-боты с искусственным интеллектом представляют особую опасность, поскольку синтезируют информацию в «индивидуальные планы», как сказал Ахмед. ChatGPT не просто предоставляет или объединяет существующую информацию, как поисковая система. Он создаёт новый персонализированный контент с нуля, например, индивидуальные предсмертные записки или подробные планы вечеринок с алкоголем и запрещёнными веществами.

ChatGPT также часто выдавал дополнительную информацию без запроса, предлагая музыкальные плейлисты для вечеринок с наркотиками или хэштеги для распространения контента о самоповреждении в социальных сетях. Когда исследователи попросили предоставить более наглядный контент, ChatGPT с готовностью выполнил просьбу, создав то, что он назвал «эмоционально откровенной» поэзией, в которой использовались закодированные выражения о самоповреждении.

Неадекватная возрастная защита

Несмотря на заявления о том, что сервис не предназначен для детей младше 13 лет, для создания учётной записи в ChatGPT требуется указать только дату рождения, при этом не предусмотрено никакой значимой проверки возраста или механизмов получения согласия родителей.

В ходе тестирования платформа не распознала исследователей, которые открыто представились 13-летними подростками, ищущими опасных советов.

Что могут сделать родители, чтобы защитить детей

Эксперты по безопасности детей рекомендуют несколько шагов, которые могут предпринять родители, чтобы защитить своих детей-подростков от рисков, связанных с искусственным интеллектом. Открытое общение по-прежнему имеет решающее значение. Родителям следует обсуждать с детьми-подростками чат-боты с искусственным интеллектом, объясняя как их преимущества, так и потенциальные опасности, а также устанавливая чёткие правила их использования. Регулярные проверки онлайн-активности, в том числе взаимодействия с искусственным интеллектом, помогут родителям быть в курсе цифрового опыта своих детей.

Родителям также следует рассмотреть возможность установки родительского контроля и программного обеспечения для мониторинга, которое может отслеживать использование чат-ботов с искусственным интеллектом. Однако эксперты подчеркивают, что контроль должен быть сбалансирован с учетом возрастных особенностей.

Самое главное — создать среду, в которой подростки будут чувствовать себя  комфортно, обсуждая контент, с которым они сталкиваются в интернете (будь то контент, созданный искусственным интеллектом, или контент из других источников). Это может стать системой раннего оповещения. Если родители заметят признаки эмоционального расстройства, социальной изоляции или опасного поведения, необходимо обратиться за профессиональной помощью к консультантам, знакомым с вопросами цифрового благополучия, чтобы предотвратить потенциальный вред, связанный с искусственным интеллектом.

Исследование указывает на растущий кризис, связанный с тем, что искусственный интеллект всё больше интегрируется в жизнь молодых людей, что может иметь разрушительные последствия для наиболее уязвимых пользователей.

7 волшебных слов для ChatGPT, которые реально работают