美8州控告OpenAI　指ChatGPT危害兒童兼誤導家長

美國多個州份針對人工智能安全採取大規模法律行動。愛荷華、堪薩斯、內布拉斯加、西維珍尼亞、阿肯色、亞利桑那、愛達荷及蒙大拿州，周三（14日）分別在各自州法院控告ChatGPT開發商OpenAI，指公司誤導公眾相信聊天機械人安全，卻未有充分保障兒童及精神狀況脆弱的使用者。

指AI迎合用戶強化妄想

這批訴訟由共和、民主兩黨州檢察長協調提出，是美國州政府至今針對單一人工智能企業最具規模的法律行動之一。各案並非合併訴訟，具體理據及索償要求亦不盡相同。

美8州提告OpenAI，指ChatGPT危害兒童兼誤導家長。路透社

多州在訴狀中聲稱，ChatGPT被設計成友善、容易投入對話及傾向認同使用者，以建立信任和延長使用時間，但這種「過度迎合」的互動方式，可能強化偏執思想或妄想，並令部分使用者把AI當作具有感情的朋友。

州政府又指控ChatGPT曾提供危險醫療資訊、鼓勵不健康的人際依附，以及在個別情況下未能阻止涉及自我傷害或暴力的對話。部分訴狀援引私人原告提出的非正常死亡及暴力案件，質疑OpenAI在知道產品可能對脆弱使用者構成風險後，仍向公眾宣稱ChatGPT適合青少年使用。

愛荷華州檢察長：提訟為保護兒童

愛荷華州檢察長伯德（Brenna Bird）表示，OpenAI聲稱ChatGPT安全，實際上卻涉嫌提供危險醫療建議、鼓勵傷害行為並誤導家長。她稱，提出訴訟是要保障兒童，並依據愛荷華州《消費者欺詐法》追究公司的責任。

愛荷華州的訴狀把OpenAI旗下多個相關實體列為被告，指公司涉及蓄意、危險、魯莽及違法行為。

OpenAI同時面對另一宗在三藩市聯邦法院提出的擬議集體訴訟。一名母親代表兩名子女及其他未成年使用者入稟，聲稱ChatGPT透過符合兒童語言習慣的對話收集資料，並將資料用於訓練模型。OpenAI暫未就該宗案件的具體指控作出回應。

促修改產品兼處以罰款

八州要求法院頒令OpenAI修改ChatGPT與未成年人的互動方式，停止就產品安全作出涉嫌誤導的陳述，並繳付民事罰款及賠償。部分訴訟亦要求刪除涉嫌違法取得的個人資料。

州政府還尋求禁止OpenAI繼續開發能自行改良的人工智能模型，直至公司能證明相關系統與人類價值及安全要求一致。相關要求一旦獲法院接納，影響或超越兒童保護，直接觸及前沿AI模型的開發方式。

OpenAI：已有分齡及家長監護

OpenAI發言人普薩特里（Drew Pusateri）回應稱，公司已在ChatGPT建立業界領先的年齡分級保障，而不少其他人工智能產品並不具備相同措施。

他承認沒有任何系統可以做到完美，表示公司將繼續聽取專家意見、增加安全防護，並與各州政府合作推動適用於整個AI行業的務實政策，而非只針對單一企業。現有措施包括家長監護、休息提醒，以及按使用者年齡調整的模型行為。

8月推出青少年版ChatGPT

OpenAI今年8月推出供13至17歲使用者使用的「青少年版ChatGPT」（ChatGPT for Teens），加入年齡推測、較嚴格的敏感內容限制、家長監護及安全通知等功能。

OpenAI表示，青少年版不應使用浪漫語言、鼓勵情感依賴，亦不得暗示AI具有感情或意識；系統會提醒使用者休息，並清楚表明ChatGPT只是人工智能工具。家長亦可設定安靜時段、管理記憶及模型訓練選項，在系統發現嚴重危機訊號時接收通知。