【一文讀懂】AI公司何時該向警方報案？卑詩槍擊慘案揭示AI監管哪些問題？

【星島綜合報道】卑詩省圖布勒嶺(Tumbler Ridge)發生大規模槍擊案後，外界才得知ChatGPT 的開發商 OpenAI 早就在半年前就發現該名槍手Jesse Van Rootselaar的賬戶活動有令人不安的憂慮而被標記且遭封鎖。

這家美國科技公司表示，當時沒有報警，是因為該賬戶在 2025 年 6 月的活動並未達到「更高的閾值」。

OpenAI 的回應引發了省政府和聯邦政府官員的憤怒和不滿，其中包括卑詩省省長尹大衛(David Eby)，他表示，如果該公司更早向當局發出警報，這場悲劇或許可以避免。

OpenAI 稱，圖布勒嶺槍擊案兇手在被封鎖後仍擁有第二個 ChatGPT 賬戶。

然而一些專家表示，判斷何時應該標記與聊天機器人互動的用戶是一個複雜的問題。

OpenAI是如何因應事件？

OpenAI表示，Van Rootselaar的賬戶是透過自動化工具和人工調查發現的，這些工具和調查「識別出濫用我們模型進行暴力活動的行為」。

儘管該賬戶被封禁，但OpenAI表示，其內容不符合公司內部將案件移交執法部門的標準，該標準要求存在「迫在眉睫且可信的風險」，即存在造成嚴重人身傷害的跡象。

在各方抨擊後，OpenAI公司決定對其安全協議進行修改。但人工智能部長所羅門(Evan Solomon)表示，他希望看到一份詳細的計劃，並希望與該公司執行長會面。

槍擊案發生後，OpenAI發現這名槍手創建了第二個賬戶，繞過了封鎖。該公司表示，在得知槍擊事件後，他們主動聯繫了加拿大皇家騎警，並提供了相關資訊。

這位18歲的年輕人究竟與該公司的ChatGPT聊天機器人聊了些什麼，目前尚不清楚，也不知道聊天機器人做出了什麼回應。

在加拿大，AI公司是否有法律義務報告威脅？

沒有。加拿大目前沒有專門針對人工智能的監管框架。

雖然在健康和犯罪活動等領域的現有法律適用於人工智能的某些用途，但目前沒有聯邦法律要求人工智能公司向警方報告潛在的暴力用戶。

卑詩大學計算機科學榮譽退休教授麥克沃斯(Alan Mackworth)表示，報告標準是自願的，由各公司自行制訂。

加拿大兒童優先組織（Children First Canada）董事會主席克里桑索（Andrea Chrysanthou）於周四發起「兒童倒數計時」（Countdown for Kids）運動，該運動隸屬於一個聯盟，呼籲自由黨政府在2025年底前重新提出網路危害立法。

麥克沃斯表示：「我們不能指望這些公司自願承擔責任。我們需要一個擁有執法權的監管機構來監督標準，從而確保公眾承擔責任。」

他說，加拿大落後於歐盟（歐盟於2024年通過了《人工智能法案》）和英國（英國通過了《網路安全法案》）。

加拿大自由黨政府於2024年提出了一項網路危害法案，該法案將對社群媒體公司提出新的要求，並設立一個網路監管機構。但由於2025年舉行了大選，該法案最終未能成為法律。

麥克沃斯認為，人工智能公司應該承擔類似「報告義務」的責任，就像教師或醫生有法律義務報告對未成年人造成的疑似傷害一樣。

安全與隱私之間的界線在哪裡？

在悲劇發生後，OpenAI做出了一些承諾，其中包括與加拿大執法部門建立直接聯繫點、升級其模型以便在必要時引導用戶獲得當地的心理健康支持，以及加強其檢測系統。

該公司稱，根據其更新後的轉介系統，如果今天發現槍手的賬戶，該公司會將該賬戶「在2025年6月被封鎖」的記錄轉介給執法部門。

卑詩大學法學院的講師艾肯黑德(Moira Aikenhead)警告說，不要想當然地認為報告與人工智能的對話就能阻止這場悲劇的發生。「悲劇發生後，人們都渴望得到答案，但是，在制訂新的數位政策時，我們必須格外謹慎，避免倉促行事。」

ChatGPT 並非公共論壇，而是使用者與公司之間的私密互動，她說如果公司開始報告私人查詢，許多加拿大人將對隱私問題感到擔憂。

人工智能系統能否可靠地偵測出真正的威脅？

艾肯黑德指出，語境是另一個問題，因為人們可能無意中向聊天機器人提出任何問題。

「孩子們可能會出於好奇，輸入『我該如何犯下完美犯罪？』來查看 ChatGPT 的回答，這可能會讓這個孩子進入加拿大皇家騎警的視線。」

艾肯黑德認為，如果擴大報告門檻，這些門檻必須透明、明確，並由政府監管，而不是由私人公司制定。

專家表示，即使有監管，也存在技術上的限制。

卑詩大學（UBC）人工智慧助理教授施瓦茨（Vered Shwartz）表示，科技公司會審查海量的對話，而判斷內容是出於幻想、好奇還是真實意圖並非易事。

她表示：「在事情發生之前就舉報某人是一個非常棘手的問題，這有點像警察只有在有理由相信某人即將犯罪的情況下才能逮捕他。」

她表示，用戶可能會被錯誤標記，並舉例說，一位父親將自己幼子的照片發送給醫生後，谷歌將其帳戶標記為「有害內容」，導致父親賬戶被禁用。

接下來會如何？

人工智能部長所羅門表示，OpenAI近期承諾調整政策的力道還不夠。

所羅門表示，他本周將與OpenAI執行長奧特曼(Sam Altman)會面，以進一步明確更嚴格的安全協議，並稱他還將與其他主要科技公司會面，為科技監管做出更好的方向，而所有選項都在考慮中。

圖：法新社 & 加通社 

v01