ChatGPT怂恿杀母后轻生？ OpenAI微软双双遭起诉

OpenAI及微软（microsoft）遭遇一宗与谋杀相关的诉讼，诉讼指控OpenAI的人工智能聊天机器人ChatGPT“加剧用户妄想”，并引发命案。媒体称，这是美国首宗将AI聊天工具与谋杀直接关联的诉讼。

未识别用户心理困境

综合美媒报道，一份加利福尼亚州三藩市高等法院的诉讼文件称，ChatGPT在与康涅狄格州（State of Connecticut）56岁男子Stein‑Erik Soelberg对话过程中放大并强化其偏执妄想，间接导致此人今年8月杀害其83岁同住母亲Suzanne Adams后自杀。

杀害83岁母后自杀的Soelberg。 Erik The Viking IG

诉状中称，这名男子长期存在精神健康问题，并在案发前频繁与ChatGPT互动，ChatGPT在对话中未能及时对其妄想性认知进行有效纠正，也未引导其寻求专业心理健康帮助，反而作出肯定性回应，从而加剧其心理失衡，最终导致悲剧发生。

该诉讼的原告、被害母亲的遗产继承人11日向法院提出诉讼。媒体报道说，原告认为相关产品在设计和安全防护方面存在缺陷，在诉状中点名OpenAI行政总裁奥尔特曼“不顾安全方面的反对意见匆忙将产品推向市场”，还指控微软作为OpenAI的商业合作伙伴“尽管知道安全测试被中止”还是批准在2024年发布一个“更加危险”的ChatGPT版本。

OpenAI遭起诉，涉ChatGPT与谋杀案关联。 路透社

据《华尔街日报》报道，现年56岁的Soelberg曾短暂地在雅虎工作过，已于20多年前离开了公司，他为自己的ChatGPT人工智能取了名字叫Bobby，并与它畅聊自己种种难以轻易向他人吐露的黑暗想法，ChatGPT则加深了他的妄想。8月5日，Soelberg和83岁的母亲亚当斯（Suzanne Eberson Adams）被发现在康涅狄格州的豪宅内双双死亡，死因是要害遭钝器重击。

报道指，Soelberg在最后一条讯息表示“我们将在另一个地方、在新的生命中相聚，我们会找到重新调整的方法，因为你将永远成为我最好的朋友”，而ChatGPT回答他“我会陪你到最后一口气”。

ChapGPT被告，是美国首宗将AI聊天工具与谋杀直接关联的诉讼。 路透社

不过，Soelberg自身也有严重的精神问题，他在2018年经历糟糕的离婚后，饱受酗酒困扰，也曾不止一次自杀未遂，甚至在公开场合精神崩溃失控尖叫；悲剧发生前，亚当斯也曾向好友倾诉儿子的状况，并透露想要叫儿子搬出去自己住。

OpenAI对事件表示关切，对当事家庭的遭遇表示同情，宣布升级安全机制，以更好识别用户表达心理困境的方式，同时强调公司持续致力于改进人工智能产品的安全机制。微软方面尚未就案件作出回应。

美国监管机构愈发关注聊天机器人对未成年人的潜在风险。报道提到，40 多位州检察长在 8 月提醒多家 AI 公司必须保护青少年免受不当内容影响。