美檢察官引述AI假案例 遭禁出庭6個月

人工智能（AI）科技應用不當，足以引發司法災難。美國喬治亞州一名女檢察官，在處理一宗謀殺案時，疑為求省事，竟利用AI工具撰寫法律文件，惟當中引述大量由AI「杜撰」的虛假案例，最終被州最高法院揭發。法院裁定其行為遠低於對律師的專業期望，重罰該名檢察官禁止出庭6個月。

法庭文件錯漏百出

路透社報道，涉事檢察官為喬治亞州克萊頓郡（Clayton County）助理地方檢察官萊斯利（Deborah Leslie）。案情指，她早前處理一宗謀殺案，被告尋求重審的上訴時，向法院提交文件時，當中引經據典，羅列大量案例，冀說服法官駁回被告請求。

美國喬治亞州最高法院促業界警惕使用AI潛在的風險與益處。 路透社

承審法官其後在裁決時，採納了萊斯利草案的大部分內容，最終駁回了被告的重審要求。然而，該份判詞其後被發現「錯漏百出」，當中包含「多處虛構或錯誤歸屬的案例引用」，始揭發萊斯利原來是利用AI生成該份法律文件，而當中的案例均為AI「自創」。

最高法院促業界警惕

事件驚動喬治亞州最高法院。法院裁定，萊斯利的行為已違反法院規定，其專業水平「遠低於對喬治亞州律師應有行為的期待」。法院最終頒令，禁止萊斯利出席大法官庭審6個月，並命令她必須完成有關專業道德、法律文書寫作及正確使用AI的額外法律課程。萊斯利早前已在法庭文件中就事件道歉，承認自己未有獨立核實AI生成的資料。

大法官在判詞中特別提醒，州內法官在審視由律師撰寫的命令草案時，應警惕當中可能已使用AI軟件，並須留意其潛在的風險與益處。報道指出，全美各地近期已有多宗律師因濫用AI而遭受懲戒的案例，但如本案般，由檢方提供、再獲法官採納的AI虛假資訊，則較為罕見，引起外界對AI在司法領域應用的廣泛關注。