OpenAI硬件主管辭職 不滿與五角大樓協議未防用於戰爭

美國人工智能公司OpenAI的硬件(包括機械人)部門主管卡利諾夫斯基上周六宣布辭職，原因是不滿公司與美國戰爭部(國防部)達成的協議，擔心協議未設置明確的防護措施，令OpenAI的AI技術可能用於戰爭。

卡利諾夫斯基（Caitlin Kalinowski）X平台發文說，OpenAI在同意將其AI模型部署到五角大樓的機密雲端網路前，並未花足夠時間進行評估。她說：「AI在國家安全中扮演重要角色，但在缺乏司法監督的情況下監控美國公民，以及在未經人類授權下賦予武器致命的自主權，都是應該更謹慎討論的界線。」

未設置明確防護措施

她說，儘管她對OpenAI行政總裁奧爾特曼（Sam Altman）及其團隊抱有「深切敬意」，但公司宣布與五角大樓的協議時，「並未設置明確的防護措施」。她在隨後的X帖文中寫道：「這首先是一個治理問題。事關重大，不該為了簽約或對外發布公告而匆促行事。」

開發聊天機械人ChatGPT的OpenAI在協議達成後翌日表示，該協議包含額外的防護措施以保障其技術應用。OpenAI周六重申，其「紅線」規定禁止將技術用於國內監控或自主武器。OpenAI在給路透社的聲明中表示：「我們理解大眾對這些議題持有強烈看法，我們將持續與全球各地的員工、政府、公民社會及社群進行討論。」

另一間AI新創大廠Anthropic近來才因堅持在與五角大樓的協議中加入防護條款，而引發特朗普政府的憤怒。Anthropic行政總裁阿莫迪（Dario Amodei）說，五角大樓和情報機構已在國防領域部署Anthropic的AI模型，但該公司對其技術用於大規模監控美國公民和全自動武器方面設下倫理界線。他說，「將這些系統用於國內大規模監控，與民主價值背道而馳」。五角大樓其後已將Anthropic列入「供應鏈風險」黑名單，禁止與美軍合作的承包商、供應商與該公司有業務往來，且聯邦機構不得使用該公司的技術。

另一AI新創大廠Anthropic近來才因堅持在與五角大樓的協議中加入防護條款，而引發特朗普政府的憤怒。