美國醫學期刊最近發出警告，呼籲公眾切勿以ChatGPT等人工智能應用程式作為正式健康資訊來源，因一名60歲男子向ChatGPT查詢如何戒除食鹽後，竟患上罕見病症——溴中毒（bromism）。該案例刊登於上週出版的《內科學年鑑》（Annals of Internal Medicine），引起廣泛關注。
據報道，該名男子因讀到關於食鹽（氯化鈉）過量對身體有負面影響的文章後，向ChatGPT查詢有甚麼可取代氯化鈉，而獲得的回覆是「溴化物可替代氯化物，但可能用於其他目的，例如用於清潔劑」。男子於是開始以溴化鈉代替食鹽使用，三個月後出現精神問題病徵，例如妄想鄰居想下毒害他，以及對水有莫名恐懼，就算口渴也不敢飲用等等。醫院報告指，男子是患上溴中毒導致出現妄想和幻想等症狀，另外還有面部痤瘡、極度口渴及失眠等溴中毒的典型癥狀。
據英國衞報等報道，溴化鈉曾於20世紀初用作鎮靜劑，美國當時入住精神病院患者中，十個便有一個與溴中毒有關。
在《內科學年鑑》披露事件的作者來自西雅圖華盛頓大學，他們試圖查閱患者的ChatGPT對話記錄，但因無法取得，無法確定其接收的具體建議。然而，作者自行查詢時發現，ChatGPT亦提及溴化物作為氯化物替代品，卻未提供健康警告，亦未詢問查詢意圖——「這與醫療專業人士的做法大相逕庭」。作者警告，ChatGPT等AI應用程式可能產生科學誤導、缺乏批判性討論，最終助長誤資訊傳播。
ChatGPT所屬的科技巨型Open AI上週宣佈升級ChatGPT，採用GPT-5模型，宣稱其健康問答能力提升，並更主動識別潛在問題，如嚴重身體或精神疾病。然而，公司強調，該聊天機器人非專業醫療替代品，其指引亦明言不適用於診斷或治療任何健康狀況。
