中国为何决定加入打击“深度伪造”的行列？

武汉大学媒体发展研究中心副主任肖珺表示，其目的应该还是为了避免将来技术广泛应用后可能出现的众多伦理问题或相关法律干预隐患。

根据新浪科技统计的数据，中国网络音乐用户规模达6.08亿，包括短视频在内的网络视频用户规模达7.59亿。广泛传播的音视频内容和迅速发展的高科技已逐渐开始和基于“深度学习”、“伪造”的“深度伪造(deepfake)”这类复杂概念进行合成和应用。
“深度伪造”概念应用的知名案例就是中国的一款应用程序ZAO。今年9月，ZAO首次登上了本地App Store的榜首，随后被卷入丑闻中心。这款APP可以让用户将自己的面容放在演员的脸上，从而让自己成为影片或电视剧主角。但很快人们就开始怀疑这款APP的安全性以及个人数据隐私。
肖珺表示, 目前技术发展达到了一定的程度。众所周知，中国自2017年进入AR/VR元年，很多人工智能产业便开始进行相关的技术投资，然后逐渐在传播业有所使用。
她认为：

“据我了解，此类技术可能在新闻传播业的使用暂时还不是特别的成熟和普及，因此我认为利用这项文件提前做预判，可以说是一个很好的管理规范。”

人工智能技术在音视频材料中的积极渗透不仅让中国开始警觉，今年10月美国加州的居民也收到了类似的禁令。加州政府首次禁止发布对政治人物言行进行虚假修改的音视频材料。当地政府认为，通过剪辑可以让候选人符合剪辑人的期望，因此一些虚假视频甚至可以影响选举。例如，今年夏天一段众议长佩洛西演讲的剪辑视频就在网上流传，众议长被剪辑成好像总是口吃不清的样子，无法清晰表达自己的想法。加州的这部法律将于2023年生效。
肖珺认为，

“新技术带来的问题可能更多地还是集中在虚拟技术的应用，因为虚拟技术在使用过程中会增大追溯新闻源或者查证等行为的难度。总的来说，我认为，这项技术还是提出了更多的挑战。”

互联网信息办公室发布的《网络音视频信息服务管理规定》没有说明对违反规定的人员将采取哪些措施。但规定指出，音视频内容必须包括使用新技术创建。规定还指出，制定相关法律旨在防范发布含有虚假信息内容的风险。
规定指出：“任何组织和个人不得利用网络音视频信息服务以及相关信息技术从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动，不得制作、发布、传播煽动颠覆国家政权、危害政治安全和社会稳定、网络谣言、淫秽色情，以及侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益等法律法规禁止的信息内容。”