AI聊天｜谷歌OpenAI等7巨頭遭查 涉向青少年提供吸毒自殺建議

美國聯邦貿易委員會（FTC）11日表示，已對包括OpenAI、谷歌母公司Alphabet、Meta、XAI等七間企業開展調查，以了解其人工智能聊天機械人可能對兒童和青少年造成的危害，以及公司如何避免這類危害的發生。自2022年底ChatGPT推出以來，新一代聊天機械人激增，引發一系列倫理和隱私擔憂。

聊天機械人引倫理和隱私擔憂

FTC表示，人工智能聊天機械人或被用於模擬擬人化溝通及與用戶建立人際關係。根據公告，該機構要求上述企業披露聊天機械人的盈利模式、維持用戶群的計劃，以及降低用戶風險的措施，借此了解公司如何評估聊天機械人的安全性，兒童和青少年在使用產品時存在哪些負面影響，以及是否告知家長及用戶使用產品的相關風險。

相關新聞：迪士尼公主變調情對象？Meta聊天機械人遭爆與未成年進行「情色對話」

OpenAI等科技企業因旗下聊天機器人提供危險內容遭查。法新社

OpenAI等科技企業因旗下聊天機械人提供危險內容遭查。路透社

谷歌等科技企業因旗下聊天機械人提供危險內容遭查。路透社

Meta等科技企業因旗下聊天機械人提供危險內容遭查。路透社

相關新聞：Meta AI自稱真人「色誘」邀見面 老翁赴約途中不幸跌死

美媒稱，現在越來越多的兒童及青少年使用聊天機械人，使用範圍廣泛，從家庭作業、人生建議到情感諮詢。有研究表明，聊天機械人在毒品、酒精和飲食問題上會給孩子們提供危險建議。此前已經出現多個案例，有青少年通過聊天機械人討論自殺問題後獲得危險建議進而導致悲劇發生。

另有許多教師反映，學生在做家庭作業時，使用聊天機械人作弊的現象激增。學生們也表示，他們會使用聊天機械人來幫助做研究、寫提綱、進行文字校對，但很難分辨其使用界限。目前許多學校已經起草了生成式人工智能使用準則，進一步明確人工智能工具在教育場景中的輔助定位，強調其應用邊界。