ChatGPT | 佛州开全美第一枪 控告OpenAI危害未成年用户安全

美国佛罗里达州检察长乌斯迈尔（James Uthmeier）对OpenAI及其行政总裁奥尔特曼（Sam Altman）提出民事诉讼，指控这家公司的聊天机器人ChatGPT令未成年用户上瘾并鼓励有害行为，危及他们的安全，可能面临高达数十亿美元的赔偿责任。这宗诉讼令到佛州成为全美首个对OpenAI采取法律行动的州。

乌斯迈尔周一在记者会上表示：“我们今天在此宣布，我们最近对奥尔特曼和ChatGPT提出重大民事诉讼，控告他们危害我们的孩子，并让家长误信这款应用程式可以安全使用，显然事实并非如此。”

佛州成为全美首个对OpenAI采取法律行动的州。路透社

聊天机器人ChatGPT被指令未成年用户上瘾并鼓励有害行为。路透社

奥尔特曼列被告。美联社

CEO奥尔特曼列被告

他说：“现在有人因此受伤，家长受到欺骗，他们必须为此付出代价。我们知道，ChatGPT会令人上瘾，会模仿同理心和人类特质，诱骗用户不断提供更多资讯。”

乌斯迈尔指责OpenAI未能落实更严格的规范以验证用户年龄，并援引有关欺骗和过失的法律条文。

诉讼说：“尽管公众知道未成年人会使用ChatGPT，包括青春期前儿童，但OpenAI却未采取措施阻止他们使用ChatGPT。”

诉讼指ChatGPT的免费版本没有任何把关机制或年龄验证机制”，而付费订阅虽然名义上会询问用户年龄，但实际上并没有验证用户年龄机制，也无法让家长得知未成年人与ChatGPT的对话内容。

面临赔数十亿美元责任

乌斯迈尔寻求强化对未成年用户的保护，要求每项违规行为赔偿1万美元（约7.8万港元）。

他也邀请其他“有意保护孩子”的州分加入诉讼行列。

OpenAI发言人回应这项诉讼时表示：“人工智能（AI）是新兴且强大的技术，我们认为未成年人需要充分的保护，因此我们落实了业界领先的保护措施和政策。”

OpenAI今年1月推出一套推估用户年龄的系统，若侦测到用户为未成年人，将启动额外防护措施。ChatGPT禁止13岁以下儿童使用，13至18岁未成年人则必须取得家长同意。

校园枪击案家属亦提诉讼

但AI公司正面临愈来愈多诉讼，指控他们未能防止聊天机器人产生可能助长自残、心理疾病及暴力行为的互动内容。

OpenAI还面临另一宗由佛罗里达州立大学枪击案罹难者家属提出的诉讼，家属指称嫌犯规划袭击时获得ChatGPT协助。

加拿大重大校园枪击案罹难者家属4月也集体对OpenAI和奥尔特曼提出诉讼，指控该公司早在案发前8个月便知枪手在ChatGPT上规划攻击，却未向警方示警。