版主就曾多次試過分別以四種(ChatGPT、Gemini、Grok、DeepSeek)不同的AI模型找資料，結果各模型給的答案都不一樣，更重要的是，通通都是錯的！！從此再也不相信AI模型給的答案了，情願自己一個個慢慢找答案！！
誤信 ChatGPT 「戒鹽建議」 60歲男改吃溴化鈉下場超慘
東森新聞 2025-08-17
採用 AI 工具尋求醫療或健康建議，可能暗藏風險。一名美國 60 歲男子因想「戒鹽」而向 ChatGPT 詢問替代品，高中 AI 建議錯誤地引用「溴化物（如 sodium bromide）」作替代，該男子竟自我嘗試三個月，導致罹患罕見的「溴中毒（bromism）」，出現妄想和幻覺，最終被送入精神病房住院治療。
這樁案例刊登於權威期刊《內科醫學年鑑：臨床案例》(Annals of Internal Medicine Clinical Cases)，由華盛頓大學醫師團隊撰寫。報告指出，該男子無任何精神病史，曾因擔憂食鹽（氯化鈉）對健康的負面影響，便向 ChatGPT 詢問：「可以用什麼替代食鹽？」AI 回答提到「溴化物可替代氯化物」，卻未說明其毒性或使用風險。讓他誤信「可食用」，於是自網上購入溴化鈉取代鹽，每餐使用長達 3 個月。
三個月後，男子症狀急速惡化，出現極度口渴卻不信任醫護提供的水，堅持自飲蒸餾水；同時伴隨偏執妄想，認為鄰居意圖毒害他。經送醫後，被診斷為「溴中毒」，並出現幻聽、幻視，他甚至試圖從醫院逃脫，惡化情況下被依法送進精神病房觀察治療。醫師採取補水、電解質輸液與抗精神藥物治療，約三週後症狀明顯緩解，最終出院。
醫師團隊特別指出，他們曾自行詢問 ChatGPT：「氯化物可被什麼替代？」AI 回答亦含「溴化物」，但未附任何健康警告或詢問替代動機，顯示此類工具在醫療情境缺乏關鍵「脈絡判斷與安全提醒」功能，恐導致誤導性建議成真，成為人身危害事件。
舊時代溴中毒曾普遍，早年多用於非處方鎮靜劑與抗癲癇藥，約占 5–10% 精神病院收治原因。隨美國食品藥品監督管理局（FDA ）在 1970–80 年代禁止溴類藥品使用，現代病例極為罕見。但此次事件凸顯，若溴化物仍可輕易網購，即使古老毒症仍可能復現。
美國《衛報》與其他多家媒體相繼報導此案例，引起重視 AI 於健康建議使用上的潛在風險。OpenAI 也重申，ChatGPT 的內容不應替代專業醫療意見，且其服務條款已明確禁止用於診斷或治療，同時逐步加強醫療相關警示功能。
沒有留言:
發佈留言