中國安全部長籲AI發展需「守牢底線」 點出6類不同風險

美國AI巨頭警告AI技術風險加劇、呼籲行業放慢新模型開發速度之際，中國國家安全部部長陳一新昨日（13日）亦在「中國網信雜誌」微信公眾號發表布署名文章《全面築牢人工智能安全屏障 推動人工智能健康有序發展》指出，人工智能作為新一輪科技革命和產業變革的核心引擎，正以前所未有的速度、廣度和深度滲透人類社會的各個層面，深刻重塑全球經濟結構、權力格局、創新範式和社會治理邏輯，但「我們既要看到機遇、搶佔先機，也要認清風險、守牢底線」。

1. 系統性影響政治安全環境

文章指出，人工智能具有6類不同的風險。一是系統性影響政治安全環境。各種敵對勢力和別有用心之人濫用深度偽造音視頻、AI生成圖文、智能水軍等生成式人工智能技術，低成本、批量化炮制政治謠言、傳播有害信息、煽動對立情緒，對中國實施輿論戰、認知戰，直接威脅政治安全、制度安全、意識形態安全。

2. 顛覆性升級網絡攻防態勢

二是顛覆性升級網絡攻防態勢。以美國科技公司近期推出的Claude Mythos、GPT-5.5-Cyber大模型為標誌，人工智能技術正顯著提升網絡漏洞挖掘、惡意軟件開發效率和武器化水平，網絡攻防進入漏洞工業化、攻防全自動、AI對AI的新階段，部分國家、組織具備快速批量挖掘漏洞、自動串聯攻擊路徑、完成複雜黑客任務的能力，大幅拉低實施網絡攻擊的技術門檻與成本投入，對中國關鍵信息基礎設施帶來嚴重風險隱患。

3. 規模性放大竊密泄密風險

三是規模性放大竊密泄密風險。境外間諜情報機關深度運用智能網絡爬蟲、智能數據挖掘、智能畫像分析等技術，大肆搜集獲取國家關鍵數據、商業秘密、公民個人隱私等敏感信息數據。國內部分用戶安全意識不足，使用境外人工智能產品處理敏感信息和向境外輸出數據，造成境內數據大規模外泄。今年上半年爆火的「龍蝦」等開源人工智能體工具，也存在設備管理權限被遠程操控、用戶敏感信息泄露等結構性問題。

4. 壟斷性加劇科技發展失衡

四是壟斷性加劇科技發展失衡。有關國家利用在人工智能基礎理論、模型架構、核心算力等方面積累的優勢，以「維護國家安全」之名，通過制定實體清單、實施技術管制、壟斷行業標準、建立閉源生態等手段，嚴格限制相關國家引進前沿技術設備、提升科技創新能力，割裂全球人工智能產業鏈、供應鏈，加劇全球智能產業發展失衡。

5. 結構性移擊社會治理體系

五是結構性移擊社會治理體系。人工智能應用對社會治理和公共秩序帶來大量不確定性因素，算法「黑箱」、數據「投毒」可能放大已有社會偏見，數據使用過程中的個人信息濫用可能引發用戶信任危機，系統自動決策造成責任歸屬難題，特別是人工智能高速發展突破了傳統技術治理框架，導致現有法律規範、倫理原則與治理機制在實踐中頻頻滯後，難以形成有效的制度約束和監管體系。

6. 根本性變革軍事鬥爭形態

六是根本性變革軍事鬥爭形態。人工智能技術正在推動戰爭形態進入智能化時代，誰能通過算法實現更精細的感知、更精準的判斷、更精確的打擊，誰就能掌握戰場主動權。如美以伊衝突中，人工智能軍事化應用催生情報智能融合、決策智能輔助、目標智能識別、實戰智能支持、認知智能塑造，人工智能正在從戰場「輔助配角」變成「關鍵角色」。