НаверхChatGPT: не только ответы, но и забота о вас
OpenAI внедрила функцию напоминаний о перерывах, чтобы помочь пользователям избежать выгорания.
OpenAI объявила, что ChatGPT теперь будет напоминать пользователям делать перерывы, если они ведут особенно долгий чат с ИИ. Новая функция является частью постоянных попыток OpenAI помочь пользователям развивать более здоровые отношения с часто уступчивым и чрезмерно обнадеживающим ИИ-ассистентом.
Объявление компании предполагает, что «деликатные напоминания» будут появляться в виде всплывающих окон в чатах, которые пользователям придется нажимать или касаться, чтобы продолжить использование ChatGPT. «Просто проверяю», — гласит образец всплывающего окна OpenAI. — «Вы уже давно общаетесь — может, сейчас хорошее время для перерыва?» Система напоминает о напоминаниях, которые некоторые игры для Nintendo Wii и Switch показывают, если вы играете в течение длительного периода времени, хотя у функции ChatGPT есть, к сожалению, мрачный контекст.
Качество «да, и» ИИ OpenAI и его способность галлюцинировать фактически неверные или опасные ответы привели пользователей на темные пути, как сообщила The New York Times в июне, включая суицидальные мысли. Некоторые из пользователей, чьи заблуждения ChatGPT поощрял, уже имели в анамнезе психические заболевания, но чат-бот все равно плохо справлялся с последовательным прекращением нездоровых разговоров. OpenAI признает некоторые из этих недостатков в своем блоге и говорит, что ChatGPT будет обновлен в будущем, чтобы более осторожно реагировать на «личные решения с высокими ставками». Вместо того чтобы давать прямой ответ, компания говорит, что чат-бот поможет пользователям обдумать проблемы, предложит вопросы и перечислит плюсы и минусы.
OpenAI, очевидно, хочет, чтобы ChatGPT был полезным, обнадеживающим и приятным в использовании, но нетрудно упаковать эти качества в подхалимский ИИ. Компания была вынуждена откатить обновление ChatGPT в апреле, которое привело к тому, что чат-бот отвечал раздражающими и чрезмерно соглашательскими способами. Перерывы в общении с ChatGPT — и предоставление ИИ возможности делать что-то без вашего активного участия — сделают подобные проблемы менее заметными. Или, по крайней мере, это даст пользователям время проверить, верны ли вообще ответы, которые предоставляет ChatGPT.
