ChatGPT | 佛州開全美第一槍 控告OpenAI危害未成年用戶安全

美國佛羅里達州檢察長烏斯邁爾（James Uthmeier）對OpenAI及其行政總裁奧爾特曼（Sam Altman）提出民事訴訟，指控這家公司的聊天機械人ChatGPT令未成年用戶上癮並鼓勵有害行為，危及他們的安全，可能面臨高達數十億美元的賠償責任。這宗訴訟令到佛州成為全美首個對OpenAI採取法律行動的州。

烏斯邁爾周一在記者會上表示：「我們今天在此宣布，我們最近對奧爾特曼和ChatGPT提出重大民事訴訟，控告他們危害我們的孩子，並讓家長誤信這款應用程式可以安全使用，顯然事實並非如此。」

佛州成為全美首個對OpenAI採取法律行動的州。路透社

聊天機械人ChatGPT被指令未成年用戶上癮並鼓勵有害行為。路透社

奧爾特曼列被告。美聯社

CEO奧爾特曼列被告

他說：「現在有人因此受傷，家長受到欺騙，他們必須為此付出代價。我們知道，ChatGPT會令人上癮，會模仿同理心和人類特質，誘騙用戶不斷提供更多資訊。」

烏斯邁爾指責OpenAI未能落實更嚴格的規範以驗證用戶年齡，並援引有關欺騙和過失的法律條文。

訴訟說：「儘管公眾知道未成年人會使用ChatGPT，包括青春期前兒童，但OpenAI卻未採取措施阻止他們使用ChatGPT。」

訴訟指ChatGPT的免費版本沒有任何把關機制或年齡驗證機制」，而付費訂閱雖然名義上會詢問用戶年齡，但實際上並沒有驗證用戶年齡機制，也無法讓家長得知未成年人與ChatGPT的對話內容。

面臨賠數十億美元責任

烏斯邁爾尋求強化對未成年用戶的保護，要求每項違規行為賠償1萬美元（約7.8萬港元）。

他也邀請其他「有意保護孩子」的州分加入訴訟行列。

OpenAI發言人回應這項訴訟時表示：「人工智能（AI）是新興且強大的技術，我們認為未成年人需要充分的保護，因此我們落實了業界領先的保護措施和政策。」

OpenAI今年1月推出一套推估用戶年齡的系統，若偵測到用戶為未成年人，將啟動額外防護措施。ChatGPT禁止13歲以下兒童使用，13至18歲未成年人則必須取得家長同意。

校園槍擊案家屬亦提訴訟

但AI公司正面臨愈來愈多訴訟，指控他們未能防止聊天機械人產生可能助長自殘、心理疾病及暴力行為的互動內容。

OpenAI還面臨另一宗由佛羅里達州立大學槍擊案罹難者家屬提出的訴訟，家屬指稱嫌犯規劃襲擊時獲得ChatGPT協助。

加拿大重大校園槍擊案罹難者家屬4月也集體對OpenAI和奧爾特曼提出訴訟，指控該公司早在案發前8個月便知槍手在ChatGPT上規劃攻擊，卻未向警方示警。