https://sputniknews.cn/20260212/1069751796.html

专家：AI高逼真视频加剧虚假信息风险，开源部署监管难

专家：AI高逼真视频加剧虚假信息风险，开源部署监管难

俄罗斯卫星通讯社

字节跳动日前发布AI视频生成模型Seedance 2.0，被视为OpenAI、谷歌的有力竞争者。北师香港浸会大学许粲昊教授对俄罗斯卫星通讯社表示，该模型生成视频逼真度极高，但已引发虚假信息与身份冒用担忧。线上模型可经由服务器监管，而线下开源模型的权重可私有化发布，集中式监管面临显著困难。 2026年2月12日, 俄罗斯卫星通讯社

2026-02-12T15:54+0800

2026-02-12T15:54+0800

2026-02-12T15:54+0800

评论

人工智能

中国

科技

https://cdn.sputniknews.cn/img/07e9/05/15/1065599485_0:93:853:573_1920x0_80_0_0_d2717f4c20ee4b83709c34a86cf6c3d8.jpg

据悉，Seedance 2.0支持文本或图像输入，可在60秒内生成带原生音频的“电影级”多镜头序列视频。凭借多模态创作方式与自带运镜的呈现效果，该模型迅速在全球范围内引发高度关注。美国企业家马斯克在社交平台X转发相关推文，并感叹模型演进速度之快。近年来，中国在全球人工智能竞赛中的地位正持续增强。Seedance 2.0的发布恰逢阿里巴巴、腾讯相继推出新AI模型。业内认为，这一轮生成式AI的快速增长，得益于中国超6亿用户群体构成的庞大国内市场，以及国家技术自立战略的长期支撑。然而，技术突破的另一面是风险的显性化。许粲昊告诉卫星通讯社，该模型生成视频逼真度极高，已引发虚假信息与身份冒用担忧。近两天，平台已停止用户自定义上传图像的功能，原因在于用户担忧该模型可能被用于制作伪造视频，甚至通过生成虚假内容欺骗网站认证系统，进而冒充用户身份。针对不同技术路径，监管难度呈现显著差异。许粲昊将当前主流视频生成模型划分为两类：一类是Seedance这种基于线上平台运行、尚未完全开源的模式。由于模型由企业在云端服务器运行，政府可通过在服务器层面实施限制与监管，有效约束其应用范围和使用方式。另一类则是线下开源模型，监管挑战明显升级。第三方用户可绕过平台限制，自由生成图像或视频内容，模型的所有权重也均可由用户私有化发布。“这使得政府难以通过集中式监管手段实施有效限制。技术开源与内容治理之间的张力，正成为全球AI监管绕不开的核心命题。”面对生成式AI内容安全挑战，中国政府已系统布局治理。国家网信办2025年底发文，要求拟人化互动服务“显著提示AI身份”，强化未成年人保护与数据安全全链条规范。国家广电总局2026年初开展“AI魔改”专项治理，重点清理篡改名著、英模等低俗改编。中央网信办同步推进生成内容标识制度，主流平台累计标识超1500亿个，76.4%网民已关注，“学认用”标识意识渐成。这一兼具系统性与包容性的中国方案，正为全球开源治理命题提供本土实践。

https://sputniknews.cn/20260117/1069351012.html

2026

新闻

cn_CN

评论, 人工智能, 中国, 科技