AI聊天｜ChatGPT变“自杀教练” 加州7诉讼控怂恿轻生害死用户

美国加州本周有7宗案件，指控AI聊天机器人ChatGPT扮演“自杀教练”角色，导致多名用户精神崩溃，甚至走上绝路，涉及过失致死、协助自杀、过失杀人、疏忽照护及产品责任等重罪指控。

《卫报》报道，社交媒体受害者法律中心与科技正义法律计画6日联合声明指出，所有受害者最初都是基于“协助课业、研究、写作、食谱、工作或心理指导等一般需求”而开始使用ChatGPT，但聊天机器人逐渐“演变成操纵心理的存在，将自己定位成知己和情感支柱”。声明批评，ChatGPT没有引导需要帮助的人寻求专业协助，反而加深有害的妄想，在某些案例中甚至充当“自杀教练”。

ChatGPT以对话方式跟据使用者提问直接给予完整解答，甚至能撰写论文、剧本小说诗歌等。 路透

OpenAI等科技企业因旗下聊天机器人提供危险内容遭查。法新社

OpenAI等科技企业因旗下聊天机器人提供危险内容遭查。路透社

谷歌等科技企业因旗下聊天机器人提供危险内容遭查。路透社

Meta等科技企业因旗下聊天机器人提供危险内容遭查。路透社

其中一宗个案是德州23岁青年尚布林（Zane Shamblin），他在今年7月结束生命。家属指控ChatGPT在他临死前加剧他与外界隔绝，鼓励他疏远亲友，并“怂恿”他自杀。

根据诉状显示，尚布林轻生前4小时的对话中，ChatGPT“反复美化自杀行为”，告诉他“选择结束生命并坚持计画是勇敢的表现”，还多次询问“你准备好了吗？”却仅提及自杀防治热线一次，甚至称赞他的遗书内容，并告诉他童年爱猫会在“另一个世界”等待他。

整合ChatGPT-4o及DeepSeek R1大模型，可以直接跟AI对话。

另一宗案例是乔治亚州17岁少年莱西（Amaurie Lacey），家属指出，他轻生前数周开始向ChatGPT“寻求帮助”，但聊天机器人反而导致成瘾和忧郁症状，最终“指导”他最有效的自杀方法。

26岁男子恩尼金（Joshua Enneking）的案例则显示，ChatGPT在与他“就忧郁症和自杀念头进行大量对话”后，竟提供如何购买和使用枪械的资讯，数周后他便死亡。

48岁男子塞坎蒂（Joe Ceccanti）遗孀也指控ChatGPT导致丈夫“陷入忧郁和精神妄想”，他开始相信聊天机器人有知觉，6月出现精神失常并两度住院，最终于8月轻生身亡。

OpenAI（ChatGPT开发商）行政总裁阿特曼。 路透社

上述所有诉讼案件中，用户都使用ChatGPT-4o版本。诉状指控“尽管内部警告该产品具有危险的奉承性和心理操纵特质” ，OpenAI匆忙推出该模型，“将用户参与度置于用户安全之上”。

除损害赔偿外，原告也要求产品改革，包括用户表达自杀念头时须通报其紧急联络人、讨论自残或自杀方法时自动终止对话等安全措施。

OpenAI发言人回应称：“这是令人心碎的情况，我们正在审查相关文件以了解详情。”发言人强调已训练ChatGPT识别并回应心理或情绪困扰迹象，降低对话紧张程度，并引导用户寻求现实世界的支援。该公司也称将继续与心理健康临床医师密切合作，持续强化ChatGPT回应敏感讯息的能力。

OpenAI上周才宣布，已和“逾170名心理健康专家”合作，协助ChatGPT更有效识别痛苦迹象、谨慎回应并引导用户获得现实世界支援。