Palantir警告AI具無限風險 倡實驗室國有化 促追究開發者刑責

Palantir行政總裁Alex Karp周四表示，AI技術涉及「無限風險」及相關法律責任，或有需要將相關業務國有化，並呼籲當局就AI監管訂立「合理準則」。他在接受CNBC節目訪問時表示，「我相信部分業界人士的看法是，這些業務必須國有化，因為如果不國有化，我每一個客戶都會提告。」

Karp多次提及開發這項強大技術所涉及的風險及責任，並進一步主張將AI實驗室國有化，同時對「不負責任」的技術開發者追究民事及刑事法律責任。

他表示，「你必須找到方法，制定出能落實執行的合理準則，但你做不到，第一道防線是你須為自身行為負責。」

AI風險論戰持續升溫

Karp的言論發表之際，政策制定者及科技業界正就先進AI模型的監管方式展開激烈爭論，事緣研究人員早前警告AI技術可能對人類構成嚴重風險。

OpenAI披露六宗模型異常行為

OpenAI早前披露，過去半年內共發現六宗「非預期或令人憂慮」的模型行為個案。卡普談及最新AI模型的能力時表示，「我們必須認真看待這件事。」

華盛頓國會推動AI安全立法

AI風險警號亦促使華盛頓加緊推動相關立法及監管呼聲。曾提出AI安全立法的民主黨參議員Richard Blumenthal本周向CNBC表示，美國已處於「徹底失去控制的邊緣」，呼籲在AI模型推出前，須設立某種形式的「客觀審查」機制。

國會議員亦一直要求設立所謂「緊急關閉開關」（kill switch），強制AI實驗室具備在技術失控時中斷運作的能力；眾議院已就此提出相關法案，惟在參議院遭到反對阻力。