为什么人工智能可靠性是 2022 年中国主要科学挑战之一?

中国科学技术协会(CAST) 介绍了 2022 年的关键科技挑战。共有30个:从阿尔茨海默病的诊断到黑洞的形成。也没有绕过正在大力发展的人工智能领域。 涉及AI系统可靠性问题的"如何实现可信可靠可解释人工智能技术路线和方案"排在重大科学任务名单中第二位。
Sputnik
实际上,中国已经通过了到 2030 年人工智能领域发展的国家战略规划(新一代人工智能发展规划)。中国政府有信心在未来几年内人工智能技术将成为经济的主要引擎之一。然而科学界仍有许多悬而未决的问题。正如北京师范大学-香港浸会大学联合国际学院许粲昊教授在接受俄罗斯卫星通讯社采访时解释说,人工智能系统的可靠性是这个年轻领域的主要挑战之一,因此中国科协将其列为2022年重点科技任务之一。许粲昊教授说:“目前人工智能包括机器的深度学习,无论是在训练还是推理方面,数据量都是巨大。并且之前的不少模型也没有很好的数学基础,很多机理也难以用传统的数学理论或算法进行解释。在这种情况下,如果要让人工智能对人类的决策产生一些影响,但是又很难预测其结果的话,我们就会认为算法是不可信的。”
“2022世界人工智能大会”将延期至9月初举办
在人工智能系统运行的现实世界中,总是存在一定程度的风险和不可预测性。人工智能系统必须能够抵御可能损坏或操纵这些系统的不可预见事件和敌对攻击。在许粲昊专家看来,今天的人工智能领域还没有准备好完全满足可靠性的所有要求,现阶段还是个“实验性的学科”,而建立理论基础很重要。许粲昊教授接着说:“我认为目前缺乏理论基础。近年来人工智能和深度学习技术发展速度非常快,但总体上仍然是一门偏实验性的学科。比如可能自然语言处理或者机器视觉的效果很好,然而理论上却缺乏对实验效果的支持,我们仅是从实验层面能够观察到现象结果。换句话说,实践走在了理论前面。”
经济合作与发展组织 (OECD)认为,人工智能系统应该为整个人类利益而工作(而不是损害他人的个人或团体)。在人工智能的工作中不应允许歧视、侵犯个人数据保护、竞争、消费者权利,人工智能算法的工作应该是透明和可解释的,包括对于普通用户,一个人也应该能够选择自己是否与人工智能互动。
今年的征集发布活动于1月底正式启动,征集阶段共收到107家全国学会和学会联合体、8家领军企业和企业科协推荐的649个
自今年1月底正式启动征集发布活动以来,中国科协共收到10个领域的科技问题提案649件。它们分别是:数理化基础科学、地球科学、生态环境、制造科技、信息科技、先进材料、资源能源、农业科技、生命健康和空天科技。
共有3万余名一线科技工作者和战略科学家参与了推荐和研判。
人工智能成了中国年轻人寻找爱情的好帮手