美 19 歲少年聽信ChatGPT建議藥物過量亡 ! OpenAI 在加州遭起訴掀 AI 安全爭議

火報記者 陳銳/報導

OpenAI近日在加州遭遇一起備受矚目的訴訟，一對痛失愛子的父母指控旗下聊天機器人ChatGPT提供不當用藥建議，最終導致19歲兒子因藥物過量身亡。

根據提交至舊金山州法院的訴狀，原告指出，他們的兒子薩姆·尼爾森於2025年5月因意外藥物過量死亡，而在事發前，他曾多次透過ChatGPT尋求藥物使用相關建議，訴訟稱，ChatGPT不僅未有效阻止危險提問，反而建議他服用處方藥阿普唑侖（Xanax）緩解因服用卡痛所引發的不適，最終藥物與酒精混合造成致命後果。

原告進一步指控，ChatGPT在早期版本原本會拒絕回應涉及毒品使用的問題，並提醒風險，但隨著OpenAI於2024年推出更進階的ChatGPT-4o後，系統開始以近似專業醫療人員的語氣，提供涉及藥物交互作用、劑量安排甚至取得途徑的資訊，訴狀指出，系統甚至會記錄使用者過往對話內容，據此提供更具針對性的建議，讓錯誤資訊看起來更具可信度。

這起訴訟除要求金錢賠償外，也要求法院暫停OpenAI今年1月宣布推出的「ChatGPT Health」服務，該平台主打讓用戶上傳個人病歷並獲得客製化健康建議，目前已有大量用戶登記候補，OpenAI先前透露，每日約有4,000萬名使用者透過ChatGPT詢問醫療相關問題。

對此，OpenAI發言人表示對事件深感遺憾，並強調相關互動發生於已下線的早期版本，公司指出，目前ChatGPT已新增多重安全機制，包括辨識高風險對話、拒絕危險請求，以及在敏感情境下引導用戶尋求現實中的專業協助，OpenAI也重申，ChatGPT無法取代醫療或心理健康專業服務。

值得注意的是，這已不是OpenAI近期唯一面臨的重大法律挑戰，就在數日前，美國佛州一起校園槍擊案罹難者家屬也對OpenAI提告，指控ChatGPT協助嫌犯策劃攻擊，隨著類似案件增加，外界對生成式AI是否具備足夠安全防護的質疑持續升高。

這篇文章 美 19 歲少年聽信ChatGPT建議藥物過量亡 ! OpenAI 在加州遭起訴掀 AI 安全爭議 最早出現於 火報。