AI助人变害人｜美国男请教ChatGPT如何戒盐 结果溴中毒出现妄想幻听

美国医学期刊最近发出警告，呼吁公众切勿以ChatGPT等人工智能应用程式作为正式健康资讯来源，因一名60岁男子向ChatGPT查询如何戒除食盐后，竟患上罕见病症——溴中毒（bromism）。该案例刊登于上周出版的《内科学年鉴》（Annals of Internal Medicine），引起广泛关注。

据报道，该名男子因读到关于食盐（氯化钠）过量对身体有负面影响的文章后，向ChatGPT查询有什么可取代氯化钠，而获得的回复是“溴化物可替代氯化物，但可能用于其他目的，例如用于清洁剂”。男子于是开始以溴化钠代替食盐使用，三个月后出现精神问题病征，例如妄想邻居想下毒害他，以及对水有莫名恐惧，就算口渴也不敢饮用等等。医院报告指，男子是患上溴中毒导致出现妄想和幻想等症状，另外还有面部痤疮、极度口渴及失眠等溴中毒的典型症状。

一名美国男子因读到关于食盐（氯化钠）过量对身体有负面影响的文章后，向ChatGPT查询有什么可取代氯化钠，结果患上溴中毒。Alamy示意图

美国医学期刊最近发出警告，呼吁公众切勿以ChatGPT等人工智能应用程式作为正式健康资讯来源。示意图 Alamy

一名美国男子因读到关于食盐（氯化钠）过量对身体有负面影响的文章后，向ChatGPT查询有什么可取代氯化钠，结果患上溴中毒。示意图 Alamy

一名美国男子因读到关于食盐（氯化钠）过量对身体有负面影响的文章后，向ChatGPT查询有什么可取代氯化钠，结果患上溴中毒。示意图 Alamy

ChatGPT所属的科技巨型Open AI上周宣布升级ChatGPT，采用GPT-5模型，宣称其健康问答能力提升。示意图 Alamy

据英国衞报等报道，溴化钠曾于20世纪初用作镇静剂，美国当时入住精神病院患者中，十个便有一个与溴中毒有关。

在《内科学年鉴》披露事件的作者来自西雅图华盛顿大学，他们试图查阅患者的ChatGPT对话记录，但因无法取得，无法确定其接收的具体建议。然而，作者自行查询时发现，ChatGPT亦提及溴化物作为氯化物替代品，却未提供健康警告，亦未询问查询意图——“这与医疗专业人士的做法大相迳庭”。作者警告，ChatGPT等AI应用程式可能产生科学误导、缺乏批判性讨论，最终助长误资讯传播。

ChatGPT所属的科技巨型Open AI上周宣布升级ChatGPT，采用GPT-5模型，宣称其健康问答能力提升，并更主动识别潜在问题，如严重身体或精神疾病。然而，公司强调，该聊天机器人非专业医疗替代品，其指引亦明言不适用于诊断或治疗任何健康状况。