美国主流AI“拒答”涉华政治问题

美媒《华尔街日报》前日报道，研究发现，ChatGPT、Claude和Gemini等美国主流AI模型，在面对涉中国敏感政治提问时，或因“安全理由”拒绝回答，或输出更接近中国官方叙事的内容。

现象源于模型训练作用

报道指，现象部分源于AI模型的训练方式。这些模型就像一个巨大搅拌机，吞噬着网络上海量的数据，其中也包括官方媒体叙事。澳洲法学教授、Meta Platforms独立监督委员会成员苏佐尔说，这是模型训练带来的一些意想不到的作用。

研究人员表示，AI公司只需做些简单的调整就能帮助解决这个问题，比如提高信息来源的透明度，但很多公司却消极应对。美国Anthropic表示，该公司一直严谨地开展工作，以确保Claude给出平衡的回答，其最新模型在减少过度拒绝方面，已取得重大进展。ChatGPT开发商OpenAI提到一系列策略，指其模型默认采用客观视角，并且“绝不应仅仅因为某个话题敏感或存在争议就避而不谈”。