https://sputniknews.cn/20260918/1073307228.html

中国对AI代理提出单独的安全要求

中国对AI代理提出单独的安全要求

俄罗斯卫星通讯社

中国更新了人工智能风险管控体系。在“国家网络安全宣传周”期间，中国发布了《人工智能安全治理框架3.0》。该文件首次明确指出自主人工智能代理的风险，并提出了此类系统的可靠性原则。 2026年9月18日, 俄罗斯卫星通讯社

2026-09-18T15:06+0800

2026-09-18T15:06+0800

2026-09-18T15:06+0800

中国

人工智能

风险

安全

https://cdn.sputniknews.cn/img/102336/91/1023369113_1:0:1000:562_1920x0_80_0_0_712fba0b4901485f7e63f88762643ab4.jpg

•新版保留了原有的逻辑框架：风险分类、技术防控措施以及人工智能技术发展的综合管理。主要变化与人工智能代理的快速普及有关。2026年5月，中国相关部门已发布《智能体规范应用与创新发展实施意见》，其中给出的官方定义是：智能体是具备‌自主感知、记忆、决策、交互与执行能力‌的智能系统。•在《框架3.0》中，关于人工智能代理使用领域的威胁包括：规划错误、偏离既定任务、目标被恶意攻击者劫持、超出授权范围、对外部程序和服务的不安全调用，以及代理内存中信息的篡改或窃取。此外，还单独探讨了工具和数据的“中毒”问题。恶意信息不仅可能渗入训练数据，还可能侵入关联的知识库、文档、互联网资源或代理的长期记忆中，进而影响其决策。•为降低这些风险，明确要求为每个智能体配置唯一身份标识，并按“最小权限”原则授予任务所需权限‌。必须在工作流程中嵌入控制点。关键操作——如数据传输、更改设置、删除文件以及其他可能产生重大后果的操作需要人工确认。人必须能检查、修改或终止任务。•单独的强制性国家标准《智能体应用安全基本要求》目前仍在制定中。因此，当前框架体系的规定确定了监管方向，而具体的强制性要求则需由后续标准予以确立。•随着人工智能技术的加速应用，对其监管也同步推进。2025年，中国人工智能产业规模超过1.2万亿元，截至2026年6月，全国该领域企业数量已超过6600家。政府提出要加快人工智能代理的普及及其在关键行业的商业应用。工业和信息化部计划到2028年，仅在软件领域就打造100个智能体软件标杆应用。新的框架体系表明，中国的监管重心正逐步从对人工智能生成内容的管控，转向对人工智能能够自主实施行为的管控。中国并未限制自主系统的应用，而是正同步推进一套覆盖‌身份识别、权限限制、测试监控、人工干预‌的治理框架。这符合北京更广泛的方针：在加快人工智能在工业和服务业中的实际应用的同时，将由此产生的风险纳入技术标准和规范化的监管程序体系之中。

https://sputniknews.cn/20260913/1073228303.html

2026

新闻

cn_CN

中国, 人工智能, 风险, 安全