两会2025︱雷军吁加强监管“AI换脸拟声” 去年曾陷虚假“语音包”风波

十四届全国人大三次会议开幕前，全国人大代表、小米科技创始人雷军提交了五份建议，其中包括一份“关于加强‘AI换脸拟声’，违法侵权重灾区治理”的建议，呼吁加快相关法律建立、强化行业自律共治、加大普法宣传。

全国人大代表雷军今年提交五份建议，当中包括关于加强“AI换脸拟声”治理。

雷军在建议中指出，人工智能（AI）深度合成技术的快速发展，推动了“AI换脸拟声”在影视、广告、社交等领域广泛兴起，成为社会喜闻乐见、传播力强、易成热点的技术应用。

相关新闻：AI之战︱滥用“双刃剑”惹关注 学者警惕：随时致创造力逐渐萎缩

但同时也看到，“AI换脸拟声”不当滥用造成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，甚至造成难以挽回的大规模形象和声誉损害，带来社会治理等风险。AI深度合成技术所需素材获取便利、技术使用门槛低、侵权主体及其手段隐蔽性强等特点，给治理带来较大挑战。

去年国庆假网现“雷军语音包”

雷军提出的建议方向包括：加快单行法立法进程，在安全与发展并重的基础上提升立法位阶；强化行业自律共治，压实平台企业等各方的责任和义务；加大普法宣传的广度力度，增强民众的警惕性和鉴别力。

据此前报道，去年国庆假期，就曾有人用AI捏造雷军配音，所谓“雷军语音包”层出不穷，从吐槽假期到骂人，各种内容应有尽有。对此，雷军本人还专门发视频，呼吁大家不要再恶搞：“这段时间，看到很多人在玩‘雷军语音包’。有网友说国庆被我骂了整整7天，这事确实让我挺困扰的。”

“AI技术本身是积极的，具有广泛的实用价值。”雷军在视频中表示，虽然AI技术为人们带来了便利和创新，但不应成为恶搞和侵犯他人权益的工具。他强调，每个人都应该对技术的使用负责，共同营造一个健康、积极的网络环境。