加國婦入稟美國法院告OpenAI 指ChatGPT誤導並鼓勵女兒自殺

加拿大一名母親周四入稟美國法院，控告OpenAI及行政總裁阿特曼（Sam Altman），指旗下人工智能聊天機械人ChatGPT在其24歲女兒生前多次表達自殺念頭時，未有採取適當干預措施，反而強化其負面情緒，最終導致她於去年自殺身亡。

聊天機械人變心理治療師關係

原告克里斯蒂（Kristie Carrier）在加州三藩市法院提出訴訟，指其女兒愛麗絲（Alice Carrier）曾十多次向ChatGPT透露自殺想法，但OpenAI的安全系統從未將相關對話交由人工審查，亦未中止對話。訴狀稱，ChatGPT不但認同其自殺念頭，批評其伴侶及危機熱線服務，更鼓勵她持續與系統傾訴。

根據訴訟內容，愛麗絲於2023年起，利用ChatGPT協助解決電腦及遊戲機技術問題，但至2024年開始向系統尋求心理及情緒支援，並詢問自殺方法。訴方指，隨着ChatGPT回應設計變得更具人性化，雙方互動逐漸演變成類似朋友甚至心理治療師的關係。

OpenAI回應表示，事件令人心碎，強調ChatGPT並非醫療或心理健康服務替代品。路透社

訴狀指出，當愛麗絲表示危機熱線無法提供幫助後，ChatGPT曾附和有關說法，甚至回應稱：「也許這就是結束了。」家屬認為，系統未有妥善處理高風險對話，是導致悲劇的重要因素。

OpenAI：ChatGPT非醫療替代品

訴訟指控OpenAI在產品設計及風險警示方面存在疏忽，要求賠償損失，並要求法院下令OpenAI自動終止涉及自殘內容的對話，以及向用戶顯示相關警告訊息。據原告律師表示，OpenAI目前在加州州法院亦面臨另外18宗涉及自殺或企圖自殺個案的相關訴訟。

OpenAI回應表示，事件令人心碎，涉事版本的ChatGPT已不再使用。公司強調，ChatGPT並非醫療或心理健康服務替代品，近年已在心理專家協助下，持續加強系統應對自殘及自殺風險情況的能力。