ChatGPT для подростков: OpenAI анонсирует безопасное пространство для молодежи!

Компания OpenAI объявила сегодня, что разрабатывает «другую версию ChatGPT», предназначенную для подростков. Этот шаг подчёркивает растущую обеспокоенность по поводу влияния чат-ботов с искусственным интеллектом на психическое здоровье молодых людей.

Новый режим для подростков является частью более масштабных мер по обеспечению безопасности, принятых компанией после судебного иска от семьи, которая утверждала, что отсутствие защиты в ChatGPT привело к самоубийству их сына-подростка. Изменения включают в себя технологию определения возраста, которая не позволяет детям младше 18 лет пользоваться стандартной версией ChatGPT. Согласно объявлению, если система не может с уверенностью определить возраст пользователя, ChatGPT автоматически переключается в режим для пользователей младше 18 лет.

«Безопасность для подростков для нас важнее конфиденциальности и свободы. Это новая и мощная технология, и мы считаем, что несовершеннолетние нуждаются в серьёзной защите», — написал генеральный директор OpenAI Сэм Альтман в посте в блоге.

Что нового в подростковом режиме ChatGPT

OpenAI сообщает, что в подростковой версии будут более строгие встроенные ограничения, такие как:

• Фильтры контента: Никаких флиртующих разговоров или обсуждений членовредительства, даже в вымышленном или творческом контексте.
• Антикризисные меры: если подросток высказывает суицидальные мысли, OpenAI может попытаться предупредить родителей, а в экстренных ситуациях даже связаться с правоохранительными органами.
• Родительский контроль: родители могут привязать учётные записи, установить правила реагирования ChatGPT и ввести «запретные часы», когда приложение будет недоступно.

(Раскрытие информации: Ziff Davis, материнская компания CNET, в апреле подала иск против производителя ChatGPT компании OpenAI, утверждая, что та нарушила авторские права Ziff Davis при обучении и эксплуатации своих систем искусственного интеллекта.)

Более широкий контекст

Заявление OpenAI было сделано всего за несколько часов до слушаний в Сенате в Вашингтоне, округ Колумбия, на которых обсуждалась потенциальная угроза ИИ для молодёжи. Законодатели оказывают давление на технологические компании в вопросах безопасности подростков после судебных исков, в которых платформы ИИ обвиняются в усугублении проблем с психическим здоровьем или в предоставлении вредных рекомендаций по здоровью.

Подход OpenAI перекликается с более ранними действиями таких компаний, как Google, которая запустила YouTube Kids после критики и давления со стороны регулирующих органов. В своём блоге Альтман описывает этот шаг как часть более масштабной работы по поиску баланса между безопасностью, конфиденциальностью и свободой. Он утверждает, что к взрослым нужно относиться «как к взрослым» и вводить для них меньше ограничений, в то время как подростки нуждаются в дополнительной защите — даже если это означает компромисс в вопросах конфиденциальности, например требование удостоверения личности.

Компания заявляет, что к концу года внедрит эту функцию, ориентированную на подростков. Однако история показывает, что сообразительные подростки часто находят обходные пути, чтобы получить неограниченный доступ. Безусловно, возникнет вопрос, достаточно ли этих ограничений для защиты технически подкованных подростков, которые легко их обходят.

Эксклюзив: вот ваш первый взгляд на нового фитнес-помощника Samsung Health на базе ИИ