Palantir警告AI具无限风险 倡实验室国有化 促追究开发者刑责

Palantir行政总裁Alex Karp周四表示，AI技术涉及「无限风险」及相关法律责任，或有需要将相关业务国有化，并呼吁当局就AI监管订立「合理准则」。他在接受CNBC节目访问时表示，「我相信部分业界人士的看法是，这些业务必须国有化，因为如果不国有化，我每一个客户都会提告。」

Karp多次提及开发这项强大技术所涉及的风险及责任，并进一步主张将AI实验室国有化，同时对「不负责任」的技术开发者追究民事及刑事法律责任。

他表示，「你必须找到方法，制定出能落实执行的合理准则，但你做不到，第一道防线是你须为自身行为负责。」

AI风险论战持续升温

Karp的言论发表之际，政策制定者及科技业界正就先进AI模型的监管方式展开激烈争论，事缘研究人员早前警告AI技术可能对人类构成严重风险。

OpenAI披露六宗模型异常行为

OpenAI早前披露，过去半年内共发现六宗「非预期或令人忧虑」的模型行为个案。卡普谈及最新AI模型的能力时表示，「我们必须认真看待这件事。」

华盛顿国会推动AI安全立法

AI风险警号亦促使华盛顿加紧推动相关立法及监管呼声。曾提出AI安全立法的民主党参议员Richard Blumenthal本周向CNBC表示，美国已处于「彻底失去控制的边缘」，呼吁在AI模型推出前，须设立某种形式的「客观审查」机制。

国会议员亦一直要求设立所谓「紧急关闭开关」（kill switch），强制AI实验室具备在技术失控时中断运作的能力；众议院已就此提出相关法案，惟在参议院遭到反对阻力。