Мужчина попал в больницу с психическими расстройствами после диеты, предложенной ChatGPT

Житель США получил «отравление бромом», так называемый бромизм, после того как обратился за советом по диете к нейросети ChatGPT. Он следовал рекомендации искусственного интеллекта и три месяца заменял поваренную соль бромидом натрия. В итоге 60-летний мужчина попал в больницу с психиатрическими симптомами, включая галлюцинации и паранойю.

Согласно отчёту, опубликованному в журнале Annals of Internal Medicine Clinical Cases, 60-летний мужчина, стремясь исключить хлорид из своего рациона, решил провести «личный эксперимент». Он обратился за консультацией к ChatGPT, чтобы узнать, чем можно заменить хлорид натрия (поваренную соль). Нейросеть предложила бромид натрия. После трёх месяцев употребления этого вещества, купленного онлайн, мужчина был доставлен в отделение неотложной помощи. У него диагностировали бромизм — редкий токсический синдром, который возникает из-за хронического накопления бромида в организме и вызывает нейропсихиатрические симптомы.

Издание Live Science, связавшись с разработчиком ChatGPT, компанией OpenAI, получило комментарий, в котором компания сослалась на условия предоставления услуг. В них говорится, что нейросеть не предназначена для диагностики или лечения заболеваний, а также не может служить заменой профессиональной медицинской консультации. Представитель компании добавил, что их службы безопасности стремятся снизить риски и обучить пользователей обращаться за профессиональной помощью.

Авторы отчёта отмечают, что в XIX и XX веках бромид широко использовался в медицинских препаратах как седативное и снотворное средство. Однако со временем стало ясно, что его длительное употребление вызывает бромизм. В 1970–1980-х годах регуляторы в США исключили бромид из безрецептурных препаратов, и случаи бромизма стали встречаться гораздо реже.

Врачи, пытаясь воспроизвести ситуацию, запросили у ChatGPT 3.5 замену хлориду и также получили ответ с упоминанием бромида, но без предупреждения о возможном вреде для здоровья. Они отметили, что «крайне маловероятно, что медицинский эксперт упомянул бы бромид натрия, столкнувшись с пациентом, ищущим приемлемую замену хлориду натрия».

Мужчина был госпитализирован. После введения жидкости и электролитов его состояние стабилизировалось, а психические симптомы стали менее выраженными. Он сообщил врачам о своём эксперименте с ChatGPT. Мужчина также рассказал о сопутствующих симптомах, таких как угревая сыпь, бессонница, утомляемость и сильная жажда. Все они также указывали на бромизм. Спустя три недели мужчину выписали из больницы, и его состояние оставалось стабильным.

Авторы отчёта заключили, что «хотя ИИ обладает большим потенциалом для налаживания связей между учёными и неакадемическим сообществом, он также несёт в себе риск распространения информации, вырванной из контекста». Они подчеркнули, что медицинским работникам следует учитывать этот фактор, когда они выясняют, откуда их пациенты получают информацию о здоровье.

Источник: Live Science

#ChatGPT #ИИ #Здоровье #Диета #Бромизм