ChatGPT伪造虚构6案例 30年资深律师惨受骗面临停牌

ChatGPT 害执业30年的资深律师也中招！美国纽约一名律师使用AI聊天机器人ChatGPT搜集资料并作为案例呈交法官，结果被发现其援引的6宗案例以及文章内容都是虚构的。律师承认自己没有核实信息并为此道歉，虽然没有先例，不过该律师恐面临停牌处分。事件引发了法律界对于人工智能工具在法律研究中适当使用的讨论，以及做出相关措施来以防止类似情况发生。

据美国有线电视新闻网（CNN）28日报道，男乘客马塔对哥伦比亚航空公司提起诉讼，称自己2019年搭乘该公司航班飞往纽约市途中，空服人员疏忽导致他膝盖被客舱内推车撞伤。

一宗航空公司的诉讼案件，引发法律界对于AI工具在法律研究中适当使用的讨论。路透资料图

 

马塔的代理律师是已有30多年从业经历的纽约市律师施瓦茨（Steven Schwarz）。为支持马塔诉求，施瓦茨向法官凯文·卡斯特尔提交了多个所谓类似案例及其判决结果。

今年4月，哥伦比亚航空公司的律师致信法官，质疑施瓦茨所提交案例信息的真实性。据美国《纽约时报》报道，律师之一巴尼诺说，他的律师行的律师精通航空法律，看出那些信息不实。他说，他们当时隐约感觉那些信息来自ChatGPT。

律师用生成式AI ChatGPT协助找案例，结果受骗全是虚假伪造。路透社

 

被ChatGPT骗了 律师后悔

施瓦茨本月25日在宣誓书中承认，曾依赖ChatGPT搜索资料，结果证明来源不可靠。他表示“非常后悔使用生成式AI来补充法律研究”，他强调自己无意欺骗法庭或航空公司，又称以前从未这样做过。他是第一次用ChatGPT协助办案，“没有意识到内容伪造的可能性”。

据悉，施瓦茨询问ChatGPT案例的真实性，ChatGPT再三确定这些案例为真实，且在“可信的法律数据库”中可以查找到。

ChatGPT伪造虚构6案例，30年资深律师惨受骗，在法律研究中使用AI工具是否恰当？路透社

 

施瓦茨在书面表示“深表懊悔”，愿意承担相关责任，承诺今后“没有完全核实”就不会使用聊天机器人提供的信息。

法官卡斯特尔本月4日在一份书面文件中写道，那6个案例的判决结果、引语等都是假的，该情况“史无前例”。他下令6月8日就处罚施瓦茨举行听証会。施瓦茨目前面临何种惩罚尚未明确，最严重的情形可能是被停牌。

---

---------------------------------------------

>>>立即浏览【移民百答】栏目：新移民抵埗攻略，老华侨也未必知道的事，移民、工作、居住、食玩买、交通、报税、银行、福利、生育、教育。

>>>即读【新移民专栏】：新移民第一身经验，与你分享当下年轻移民生活日常大小事，即读“新移民专栏”。