Опасно для здоровья: как совет от нейросети вызвал психическое расстройство

Ключевые выводы

• Мужчина заболел психическим расстройством XIX века, бромизмом, после того как последовал токсичному совету ChatGPT по замене соли
• ИИ уверенно порекомендовал промышленный бромид натрия в качестве диетической замены, что вызвало галлюцинации и отравление
• Врачи теперь настоятельно рекомендуют спрашивать пациентов о советах по здоровью, полученных от ИИ, на фоне роста числа медицинских консультаций с чат-ботами

Ваше доверие к искусственному интеллекту только что прошло проверку реальностью, которая заставила бы содрогнуться врача викторианской эпохи. 60-летний мужчина недавно попал в психиатрическую клинику с диагнозом бромизм — психическое расстройство, расцвет которого пришелся на эпоху конных экипажей. Причиной стал уверенный, но катастрофически неверный совет по питанию от ChatGPT. Этот случай, опубликованный на этой неделе в журнале «Анналы внутренней медицины» (Annals of Internal Medicine), показывает, как медицинские «галлюцинации» ИИ могут возрождать болезни, которые врачи и не надеялись снова увидеть.

Видео от DGL.RU

Пациент, обеспокоенный влиянием хлорида натрия на здоровье, спросил у ChatGPT об альтернативах поваренной соли. Согласно сообщениям СМИ, пытавшихся воспроизвести это взаимодействие, ИИ предложил заменить хлорид натрия бромидом натрия в качестве галогенидного заменителя, не предоставив четких предупреждений о токсичности этого соединения. В течение примерно трех месяцев мужчина неукоснительно следовал этой рекомендации, неосознанно отравляя себя промышленным химикатом.

Когда уверенность ИИ сталкивается с химической реальностью

Превращение из искателя здоровья в психиатрического пациента произошло постепенно, а затем обернулось катастрофой.

Результаты напоминают медицинский триллер, охватывающий несколько столетий. У мужчины развились паранойя, галлюцинации, кожные высыпания и проблемы с координацией — классические признаки отравления бромидом, хорошо известные врачам XIX века. Он убедил себя, что сосед его травит, попытался сбежать из отделения неотложной помощи и был принудительно госпитализирован в психиатрическое отделение, прежде чем врачи распознали характерные признаки бромизма.

Ключевые симптомы бромизма включают:

• Психоз и слуховые/зрительные галлюцинации
• Акнеформные кожные высыпания и вишневые ангиомы
• Атаксия (потеря координации)
• Нервно-психические проявления
• Чрезмерная жажда и усталость

Бромизм был широко распространен в психиатрических больницах с 1880-х по 1930-е годы, составляя, по некоторым данным, до 10% всех госпитализаций. Соли брома были своего рода «Ксанаксом» своего времени — широко назначаемыми седативными средствами, которые накапливались в организме с разрушительными последствиями из-за их длительного периода полувыведения, составляющего 9-12 дней. Это состояние практически исчезло после того, как в 1970-х и 80-х годах было введено регулирование, ограничивающее использование бромидов, что делает этот случай настоящей медицинской «капсулой времени».

Проблема «ИИ-оракула»

Здесь история становится еще более тревожной для всех, кто когда-либо обращался к ChatGPT за советом по здоровью.

Авторы статьи не смогли получить доступ к оригинальным логам чата пациента, поэтому точные ответы ИИ остались неподтвержденными. Однако, когда журналисты попытались воспроизвести аналогичные запросы, ChatGPT-3.5 действительно предложил бромид в качестве «заменителя» хлорида, подтвердив готовность ИИ рекомендовать промышленные химикаты в качестве диетических добавок.

Это не просто очередная история из серии «ИИ совершает ошибки». Это тревожный звонок, напоминающий о том, что вы, возможно, доверяете принятие медицинских решений системам, которые могут выдавать галлюцинаторные рекомендации по лечению так же легко, как и генерировать стихи. Подобно цифровому шару для предсказаний Magic 8-Ball, раздающему медицинские советы, ИИ дает уверенные ответы на вопросы, на которые он не имеет права отвечать, особенно когда на кону стоит химия вашего мозга.

Авторы статьи теперь призывают врачей целенаправленно спрашивать пациентов о советах по здоровью, полученных от ИИ, признавая, что чат-боты стали неформальными медицинскими консультантами для миллионов пользователей, ищущих быстрые ответы на сложные вопросы о здоровье.

Ваш смартфон обладает большей вычислительной мощностью, чем та, что была у NASA для полета на Луну, но он не может отличить поваренную соль от нейротоксичных химикатов. Возможно, пришло время вспомнить, что уверенность — это не то же самое, что компетентность, и что некоторые проблемы викторианской эпохи лучше оставить в прошлом.

Читайте обзор Baseus PicoGO 45 Вт 10000 мAч: маленький, но мощный аккумулятор