Palantir警告AI具无限风险 倡实验室国有化 促追究开发者刑责

Palantir行政总裁Alex Karp周四表示，AI技术涉及“无限风险”及相关法律责任，或有需要将相关业务国有化，并呼吁当局就AI监管订立“合理准则”。他在接受CNBC节目访问时表示，“我相信部分业界人士的看法是，这些业务必须国有化，因为如果不国有化，我每一个客户都会提告。”

Karp多次提及开发这项强大技术所涉及的风险及责任，并进一步主张将AI实验室国有化，同时对“不负责任”的技术开发者追究民事及刑事法律责任。

他表示，“你必须找到方法，制定出能落实执行的合理准则，但你做不到，第一道防线是你须为自身行为负责。”

AI风险论战持续升温

Karp的言论发表之际，政策制定者及科技业界正就先进AI模型的监管方式展开激烈争论，事缘研究人员早前警告AI技术可能对人类构成严重风险。

OpenAI披露六宗模型异常行为

OpenAI早前披露，过去半年内共发现六宗“非预期或令人忧虑”的模型行为个案。卡普谈及最新AI模型的能力时表示，“我们必须认真看待这件事。”

华盛顿国会推动AI安全立法

AI风险警号亦促使华盛顿加紧推动相关立法及监管呼声。曾提出AI安全立法的民主党参议员Richard Blumenthal本周向CNBC表示，美国已处于“彻底失去控制的边缘”，呼吁在AI模型推出前，须设立某种形式的“客观审查”机制。

国会议员亦一直要求设立所谓“紧急关闭开关”（kill switch），强制AI实验室具备在技术失控时中断运作的能力；众议院已就此提出相关法案，惟在参议院遭到反对阻力。