兩會2025︱雷軍籲加強監管「AI換臉擬聲」 去年曾陷虛假「語音包」風波

十四屆全國人大三次會議開幕前，全國人大代表、小米科技創始人雷軍提交了五份建議，其中包括一份「關於加強『AI換臉擬聲』，違法侵權重災區治理」的建議，呼籲加快相關法律建立、強化行業自律共治、加大普法宣傳。

全國人大代表雷軍今年提交五份建議，當中包括關於加強「AI換臉擬聲」治理。

雷軍在建議中指出，人工智能（AI）深度合成技術的快速發展，推動了「AI換臉擬聲」在影視、廣告、社交等領域廣泛興起，成為社會喜聞樂見、傳播力強、易成熱點的技術應用。

相關新聞：AI之戰︱濫用「雙刃劍」惹關注 學者警惕：隨時致創造力逐漸萎縮

但同時也看到，「AI換臉擬聲」不當濫用造成了違法侵權行為的重災區，易引發侵犯肖像權、侵犯公民個人信息以及詐騙等犯罪行為，甚至造成難以挽回的大規模形象和聲譽損害，帶來社會治理等風險。AI深度合成技術所需素材獲取便利、技術使用門檻低、侵權主體及其手段隱蔽性強等特點，給治理帶來較大挑戰。

去年國慶假網現「雷軍語音包」

雷軍提出的建議方向包括：加快單行法立法進程，在安全與發展並重的基礎上提升立法位階；強化行業自律共治，壓實平台企業等各方的責任和義務；加大普法宣傳的廣度力度，增強民眾的警惕性和鑒別力。

據此前報道，去年國慶假期，就曾有人用AI捏造雷軍配音，所謂「雷軍語音包」層出不窮，從吐槽假期到罵人，各種內容應有盡有。對此，雷軍本人還專門發視頻，呼籲大家不要再惡搞：「這段時間，看到很多人在玩『雷軍語音包』。有網友說國慶被我罵了整整7天，這事確實讓我挺困擾的。」

「AI技術本身是積極的，具有廣泛的實用價值。」雷軍在視頻中表示，雖然AI技術為人們帶來了便利和創新，但不應成為惡搞和侵犯他人權益的工具。他強調，每個人都應該對技術的使用負責，共同營造一個健康、積極的網絡環境。