专家：中国对生成式人工智能的监管将为全球提供经验
CC0 / Gerd Altmann /
关注
独家
8月15日，中国国家互联网信息办公室等七部门联合发布的《生成式人工智能服务管理暂行办法》正式施行。北京师范大学—香港浸会大学联合国际学院教授许粲昊8月16日在接受卫星通讯社采访时表示，生成式人工智能在短时间内得到广泛应用的同时，也引发了一系列伦理道德和“黑箱”问题。因此，中国对生成式人工智能的监管无疑能够为全球提供经验。
生成式人工智能是一种基于深度学习技术的人工智能模型，能够模拟人类思维，生成具有一定逻辑性和连贯性的语言文本、图像、音频等内容。此次开始实施的文件明确中国鼓励生成式人工智能的创新发展。文件称：“国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。”
与传统的AI系统不同，生成式AI系统能够自己创造出新的内容，而不是只能根据输入数据进行处理。这一技术在掀起了生成式人工智能产业的热潮，但全球在对其治理规划方面却面临问题。
谈及生成式人工智能产业存在的问题，许粲昊说：”随着生成式人工智能短时间内在多领域得到广泛应用，该技术引发了一系列伦理道德和‘黑箱’问题，全世界都面临亟待规范的问题。 比如‘黑箱’问题，当用AI生成的文字或图片内容再进行模型训练时，我们很难确定会生成怎样的结果，或者有些伪造的生成结果会对真实世界产生严重影响。换言之，虽然生成式人工智能能够带来更高的创造力，但其生成虚假视频、虚假图片甚至虚假新闻的案例屡见不鲜。 并且普通人是难以辨别这些虚假结果的。所谓魔高一尺道高一丈，即使针对虚假结果发明识别功能，不排除后续生成式人工智能模型可能又会创造出更加难以辨别的虚假内容。因此针对这些严重问题，我们需要出台相应的监管措施。”
对于日常普通用户来说，目前生成式人工智能生成的图片、文字、语音视频等内容，都已经达到以假乱真的程度。许粲昊指出：”从实际层面来看，普通用户很难判断真假。这也是为何需要立法要求做出明确标注的原因。 “
在评论有关《办法》对生成式人工智能服务提供者的约束效果和影响时，许粲昊教授表示，目前对技术应用的最大约束确实来自法律层面。比如要求生成式人工智能服务提供者明确说明图片内容由生成式人工智能生成，而非人类创造，否则需要承担法律责任。
他说：“我认为这是非常关键的一个内容。比如专业的机构用户（新闻工作者等）或创造者（艺术家或漫画工作者等）在使用生成式人工智能时，如何规范版权问题、如何利用技术进行创造，可能都是需要更多考虑的问题。从技术创新的角度来看，目前技术端实际上已经分化成两部分，一部分是明面上受到各种约束和监管的生成式人工智能，另一部分则是地下的灰色产业链。后者通常做出一些不受道德法律约束的生成式人工智能，由于彻底剥掉人类训练人工智能模式的枷锁，这些行为实际上更加危险，可能会造成严重后果。对此我认为有必要保持警惕和高度关注。”
目前在全球范围内，意大利、德国、法国、西班牙等多个国家的监管部门对人工智能表达担忧或发起调查。 中国政府此次发布的文件强调，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德。
许粲昊就此表示，中国发布《生成式人工智能服务管理暂行办法》，无疑能够为全球生成式人工智能的发展提供经验，因为目前全球范围在该问题上都较为缺乏经验。
他说：“我们可以看到，生成式人工智能的快速发展到目前为止仅有半年多的时间。不可否认这项技术给我们带来了很多创意，但同时也带来诸多挑战。而且我们现在并没有任何先进的监管经验，在这种情况下，需要全球一起去思考如何管理整个产业链的问题。”
据此前报道，由中国国家互联网信息办公室等七部门联合发布的《生成式人工智能服务管理暂行办法》于8月15日正式施行，这是中国首个针对生成式人工智能产业的规范性政策。作为中国促进生成式人工智能发展和规范应用的专门立法，《办法》界定了该技术的基本概念，规定了对服务提供者的制度要求，为未来行业健康发展指明了方向。
京公网安备11010502053235号
