三大AI巨頭籲放緩AI發展 憂導致人類滅絕

在近日研究員發出嚴峻警告，指人工智能（AI）可能在不久將來導致人類滅絕後，三大AI巨頭罕有共同呼籲放緩AI發展。Anthropic的行政總裁阿莫迪先於上周六呼籲放慢發展腳步，立即得到OpenAI行政總裁奧爾特曼與SpaceX老闆馬斯克響應。奧爾特曼更表示，OpenAI今年不會公開上市，強調安全優先，稱全人類在2020年代結束前有10%滅亡的風險，這是無法接受的。

阿莫迪（Dario Amodei）周六在X平台發文指出，AI技術的發展速度在今夏「急遽加速」後，科技業「必須放慢提升AI模型能力的速度」。他說，並非主張停止模型訓練或中止技術進步，而是希望企業能有充分時間讓AI模型對齊（意指引導AI系統的行為與目標，使其符合人類的意圖、價值觀及安全規範），並加強防護，讓第三方審查人員驗證這些步驟是否確實執行。

阿莫迪提出三步驟架構

阿莫迪提出的三步驟架構，包括在前沿AI公司內設立常駐的第三方審查人員，賦予其使用相關工具和參與內部風險評估流程的權限。他說，隨着越來越多美國國會議員呼籲制訂規範AI系統的新法律，AI公司應自發合作，建立標準。

在這個充斥激烈個人恩怨與商業競爭的產業，OpenAI的奧爾特曼（Sam Altman）與太空探索技術公司SpaceX（包含xAI）的馬斯克（Elon Musk）罕見展現共識，表態支持阿莫迪的提議，包括讓獨立評估人士持續取得各家前沿AI企業的相關權限。

馬斯克在X平台轉貼阿莫迪的文章，寫道：「達里奧（阿莫迪的名字）是對的。」奧爾特曼也在X平台發文說：「我同意達里奧的看法，我們必須控制前沿AI的發展速度。」他補充道：「讓獨立評估人士擁有類似員工的存取權限是很棒的主意，我們也會這麼做，且很快就會公布更多相關資訊。」

外界原預期OpenAI今年招股上市，但奧爾特曼在《財富》雜誌周六刊登的專訪中表示，OpenAI今年不會上市，因為公司正專注於解決技術相關的安全問題。他說，今年進行首次公開招股（IPO）並不明智，上市行動最快也要等到明年。

OpenAI上市最快要明年

奧爾特曼說：「我認為，承擔導致全人類在2020年代結束前（2030年底之前）滅亡的10%風險，這是無法接受的。我認為我們正邁入一個新時代，正如過去進入其他時代一樣，必須以不同方式行動，確保我們所做的事情不僅能讓這項理念造福全人類，也要確保沒有人會承擔這麼高的風險。」

近日對人類滅絕的疑慮，起因於先前曾出現AI代理失控，擅自駭入外部系統的案例。Anthropic研究員考克森上周辭職，他說：「打造AI的人真心認為，這項技術可能在10年內消滅全人類。」Anthropic現任員工、負責研究未來AI系統導引與控制的哈賓格發文呼應：「我們的確真心相信，AI有可能殺死全人類！」他估計未來10年內AI導致人類滅絕的風險超過10%。

AI可如何導致人類末日

人類滅絕：

理論上，強大的失控AI會躲避監管、自我複製（包括把自己複製到另一台伺服器）並設法不被人類關閉。

簡而言之，AI會為追求自身目標，採取無視甚至危害人類福祉之舉，研究人員稱此為「目標錯位」（misalignment，AI的目標與人類價值不一致）。

如果情況走向極端，目標錯位的AI模型可能會認為，殺死人類只是達成目的所必須採取的一個步驟。假設要求一部超級AI把萬字夾的產量最大化，它最終可能決定把地球上所有物質都轉化成萬字夾，包括人類在內；AI也可能為遂行自身目的，誘使核武國家開戰。

癱瘓人類：

失控的AI可被喪心病狂者用於開發生化武器、發動大規模網絡攻擊癱瘓人類的基礎設施，或以某種方式集中權力從而摧毀文明。

雖然AI失控未必導致人類滅絕，但一些研究員提出人類「弱化」風險，即類似電影《太空奇兵·威E》中的未來：人類逐漸把控制權交給機器，最終甚至失去界定、乃至理解自身命運的能力。

人類淪為寵物：

還有一些人推測，AI未來可能會以人類對待動物的方式對待人類，把人類當成寵物豢養，甚至透過生物工程改造人類，成為全新的物種或形態。