OpenAI：疑似中國政府人員利用ChatGPT制定大規模監控建議書

OpenAI表示，事件顯示人工智能(AI)或被用作提升打壓效率，並揭示AI被威權政權濫用的狀況。

周二發報的報告指出，OpenAI在偵查到使用旗下ChatGPT進行惡意網絡行為、有組織犯罪及隱蔽干預行動的事例後，均將相關賬戶關閉並公開事件。

報告列舉了不同性質的行為，中國成為事例最多的國家，此外，俄羅斯、韓國、尼日利亞、柬埔寨等亦有被提及。

中國駐華盛頓大使館發言人劉鵬宇向CNN回應說，「我們反對對中國進行毫無根據的攻擊和詆毀。」他在聲明中指出，中國正在「加快建構具有鮮明國家特色的人工智能治理體系」，而體系強調發展與安全的平衡，突出創新、安全與包容性。

支援大型監控系統

報告指出，疑似與中國政府機構有關聯的個人，曾使用ChatGPT協助支援大規模監控，以及深入的社會標籤化(profiling)行為。

例如有用戶聲稱為中國安全部門服務，要求設計「社交媒體監聽工具」，分析中西兩方社交媒體平台的數據。

另一用戶則要求ChatGPT為一款社交媒體監聽工具設計宣傳材料。根據材料，工具能審視Twitter/X、Facebook、Instagram、Reddit、TikTok和YouTube，監測用戶的「極端言論」，以及涉及種族、宗教和政治的內容，被描述為一種社交媒體「探針」。

「高危涉維吾爾關注人員流入預警模型」

另一名用戶則要求ChatGPT撰寫建議書，關乎一個「高危涉維吾爾關注人員流入預警模型」。該建議書描述一種可分析交通預訂信息，同時與警方記錄比對的工具，以對被歸類為「涉維吾爾且高風險」人士的行蹤發出警報。

更有用戶要求ChatGPT識別一個批評中國政府的X賬號的資金來源，及找出一項蒙古請願活動的發起人身份。

OpenAI表示未有應要求助用戶「起底」，他們亦無從確認上述項目是否的確在籌建或已執行，但已把相關帳戶查封。

撰寫釣魚內容專攻台灣半導體、美國機構及及異見人士

報告又稱，發現有人利用中文版本的ChatGPT來預備網絡釣魚行為，並開發惡意軟件工具。

該批帳號的對象包括台灣半導體產業、美國學術機構與智庫，以及與批評中共的族群和政治團體、又被稱為「五毒」(即爭取香港民主、西藏自由、台灣獨立、指責維吾爾再教育營及法輪功成員被逼害)的組織。

報告指，在製作釣魚內容時，該批賬戶會具體界定目標人群，生成一封簡潔、正式且禮貌的電子郵件，偽裝成學術、工商界或會議人員的身份，並調整語氣，配合特定地區常用術語。但報告指出，即使精細微調增加可信性，內容仍留下明顯破綻，如留下不可能的聯繫訊息。

帖文抹黑黎智英、羅冠聰和周庭

OpenAI的報告又指出，一個規模較小的ChatGPT賬戶網絡，又以人工智能生成內容，用於跨平台的認知干預行動(Covert Influence Operation)。

這些賬戶會以Chatgpt生成大量粵語帖文及評論，針對香港社會運動人物如黎智英、羅冠聰和周庭，發布在X和Instagram上。帖文內容或批評或貶損，旨在抹黑，將他們描繪為罪犯或叛徒。另也有帖文表達對香港國安法的支持。

報告又指，針對與中國有水域爭議的國家，有用戶以英文生成社交帖文，如抨擊越南在南中國海造成的「環境問題」，批評菲律賓總統馬科斯(Ferdinand Marcos)的帖文等。

資料來源：加拿大國際廣播電台RCI

V21