OpenAI：疑似中国政府人员利用ChatGPT制定大规模监控建议书

OpenAI表示，事件显示人工智能(AI)或被用作提升打压效率，并揭示AI被威权政权滥用的状况。

周二发报的报告指出，OpenAI在侦查到使用旗下ChatGPT进行恶意网络行为、有组织犯罪及隐蔽干预行动的事例后，均将相关账户关闭并公开事件。

报告列举了不同性质的行为，中国成为事例最多的国家，此外，俄罗斯、韩国、尼日利亚、柬埔寨等亦有被提及。

中国驻华盛顿大使馆发言人刘鹏宇向CNN回应说，“我们反对对中国进行毫无根据的攻击和诋毁。”他在声明中指出，中国正在“加快建构具有鲜明国家特色的人工智能治理体系”，而体系强调发展与安全的平衡，突出创新、安全与包容性。

支援大型监控系统

报告指出，疑似与中国政府机构有关联的个人，曾使用ChatGPT协助支援大规模监控，以及深入的社会标签化(profiling)行为。

例如有用户声称为中国安全部门服务，要求设计“社交媒体监听工具”，分析中西两方社交媒体平台的数据。

另一用户则要求ChatGPT为一款社交媒体监听工具设计宣传材料。根据材料，工具能审视Twitter/X、Facebook、Instagram、Reddit、TikTok和YouTube，监测用户的“极端言论”，以及涉及种族、宗教和政治的内容，被描述为一种社交媒体“探针”。

“高危涉维吾尔关注人员流入预警模型”

另一名用户则要求ChatGPT撰写建议书，关乎一个“高危涉维吾尔关注人员流入预警模型”。该建议书描述一种可分析交通预订信息，同时与警方记录比对的工具，以对被归类为“涉维吾尔且高风险”人士的行踪发出警报。

更有用户要求ChatGPT识别一个批评中国政府的X账号的资金来源，及找出一项蒙古请愿活动的发起人身份。

OpenAI表示未有应要求助用户“起底”，他们亦无从确认上述项目是否的确在筹建或已执行，但已把相关帐户查封。

撰写钓鱼内容专攻台湾半导体、美国机构及及异见人士

报告又称，发现有人利用中文版本的ChatGPT来预备网络钓鱼行为，并开发恶意软件工具。

该批帐号的对象包括台湾半导体产业、美国学术机构与智库，以及与批评中共的族群和政治团体、又被称为“五毒”(即争取香港民主、西藏自由、台湾独立、指责维吾尔再教育营及法轮功成员被逼害)的组织。

报告指，在制作钓鱼内容时，该批账户会具体界定目标人群，生成一封简洁、正式且礼貌的电子邮件，伪装成学术、工商界或会议人员的身份，并调整语气，配合特定地区常用术语。但报告指出，即使精细微调增加可信性，内容仍留下明显破绽，如留下不可能的联系讯息。

OpenAI的报告指，亦有用户要求生成诋毁香港社运人士如周庭等的社交平台言论。美联社资料图片

帖文抹黑黎智英、罗冠聪和周庭

OpenAI的报告又指出，一个规模较小的ChatGPT账户网络，又以人工智能生成内容，用于跨平台的认知干预行动(Covert Influence Operation)。

这些账户会以Chatgpt生成大量粤语帖文及评论，针对香港社会运动人物如黎智英、罗冠聪和周庭，发布在X和Instagram上。帖文内容或批评或贬损，旨在抹黑，将他们描绘为罪犯或叛徒。另也有帖文表达对香港国安法的支持。

报告又指，针对与中国有水域争议的国家，有用户以英文生成社交帖文，如抨击越南在南中国海造成的“环境问题”，批评菲律宾总统马科斯(Ferdinand Marcos)的帖文等。

资料来源：加拿大国际广播电台RCI

V21