人工智能：新的心理威胁？

研究结果发表在《全球事务中的俄罗斯》（Russia in Global Affairs）杂志上。

恶意使用人工智能的危险

人工智能对人类构成的潜在危险不止一次成为艺术作品的主题，目前也是科学技术发展中讨论最多的问题之一。尽管能够进行独立系统性思考并且可能具有自我意识和意志的“强人工智能”远未被创造出来，但各种高级版本的“弱人工智能”已经在执行10年前似乎还是幻想的专业任务了。将人工智能用于良好目的（例如，用于医学）已经带来了无可置疑的好处。然而，在恐怖主义和其他犯罪组织的手中，成本逐渐降低、越来越先进的人工智能技术可能成为比核武器更可怕的武器。

来自不同国家的研究人员正在积极研究恶意使用人工智能对整个社会和人类活动的个别领域所构成的威胁，包括政治、经济、军事等领域。然而，对国际信息和心理安全构成的威胁尚未被拿来单独研究。同时，利用人工智能通过有针对性地对人进行高科技信息和心理影响来破坏国际关系的稳定显然十分危险。

该研究的作者基于地域覆盖范围、速度和传播形式等一系列标准对恶意使用人工智能构成的威胁进行了分类，这将有助于找到对抗和开发回应工具的方法。

俄罗斯国民经济与国家行政学院国际安全与外交政策教研室教授达里娅·巴扎尔金娜向俄罗斯卫星通讯社表示：“未来人工智能技术成本的降低可能会催生全新的恐怖主义威胁。对基本上新的恐怖主义行为构成威胁。不排除使用聊天机器人来构建虚假活动信息并说服潜在受害者参加。为了对抗，建议让公众熟悉新的威胁，指导公民警惕与不熟悉的人进行远程接触。对公共事件信息发布真实性进行认证是一个可能的出路。当然，在这种情况下，技术专家的任务将是保护活动数据库及其认证机制。”

人工智能的现代技术和能力水平使我们能够划分出对人的信息和心理安全构成的一系列全新威胁。

使用“假人”和“深度伪造”（deepfake） 技术进行国际挑衅 

美国英伟达公司（NVIDIA）最近分享了一个生成竞争网络的结果，该网络经过培训可以自动生成人物（“假人”）图像。神经网络用时几秒就可创建不存在的人的高分辨率面部图像，还可添加任何文化和种族特征、情感、情绪，并且基于真实人物的图像集合。将来不排除其他开发人员可能会重复这种体验。在这种情况下，犯罪分子可使用这些图像进行各种挑衅，只有掌握系统性技术知识的公众才能识别这些挑衅。

俄罗斯外交部外交学院国际热点问题研究所主任研究员、莫斯科国立大学教授叶夫根尼·帕申采夫向俄罗斯卫星通讯社表示：“ ‘深度伪造’技术可以合成一个人的形象和声音。它已经开始用于制作各国领导人的视频图像，包括美国总统唐纳德·特朗普和俄罗斯总统弗拉基米尔·普京的图像。‘深度伪造’视频能够操纵大型目标群体的行为，并可用于信息和心理对抗，以引发金融恐慌或战争。”

基调分析是计算语言学中的一类内容分析方法，用于自动识别文本中的情感色彩词汇和作者情感评价。基调分析由广泛的来源保障，例如博客、文章、论坛、民意调查等。这可能是非常有效的信息心理对抗工具。例如，现在美国特种作战司令部领导对类似成果的浓厚兴趣就证实了这一点。 

“预测性武器”：根据社交网络数据预测人们的行为

2012年，美国高级情报研究计划署（IARPA）启动了“基于早期使用代用品模型的事件识别”（EMBERS）计划，旨在基于人工智能的使用来预测民事骚乱，确定日期、地点和抗议群体。

该系统处理来自媒体和社交网络的数据，以及更高质量的信息源，如经济指标。当然，将此类程序交到恐怖分子手中也是非常危险的。在这种情况下，恐怖分子就可能在大型社会活动中制造恐怖袭击。

选择恐怖袭击目标的另一个标准可能是某些地区的社会和心理紧张程度。

该研究的作者认为，作为对策，国家和超国家机构可将预测分析用于防止社会紧张（及时采取旨在实现长期稳定的社会、经济和政治措施）。

此外，恐怖主义团体可以通过在政治运动期间使用机器人来损害他人声誉、吸引新的支持者或组织杀害政客。

无人机和机器人化基础设施的捕获

基于人工智能控制的自学运输系统可能成为高科技恐怖袭击的便利目标。恐怖分子对大城市交通管理系统的控制可能会造成很多伤亡。

商业系统可用于部署无人驾驶飞行器或自动驾驶车辆，以运送爆炸物和制造事故。一系列重大灾害能够引起国际媒体轰动，对心理安全造成重大损害。

俄罗斯国民经济与国家行政学院和俄罗斯外交部外交学院的研究人员将系统性分析人工智能在安全领域的作用、情景分析方法、历史类比和案例分析作为研究基础。该研究的作者与乌普萨拉大学（瑞典）的格雷格·西蒙斯合作撰写了即将出版的《信息和心理对抗中的恐怖主义和先进技术：新风险、应对恐怖主义威胁的新机遇》，有来自11个国家的研究人员参与编写。

在俄罗斯研究人员的倡议下，人工智能在国际信息和心理安全受到威胁背景下的作用问题正在积极讨论中，并将在国际会议和国际自主研究研讨会上进行讨论。其中包括在俄罗斯联合国教科文组织全国委员会以及多个俄罗斯和国际机构支持下于6月9日至12日在汉特-曼西斯克举行的会议。汉特-曼西斯克自治区区长纳塔利娅·科马罗娃积极参与了欧洲-俄罗斯通信管理专家网络支持举办的恶意使用人工智能问题会议。之后还有将于2019年10月1日至3日在圣彼得堡举行第四届伊比利亚美洲论坛、2019年10月31日至11月1日的欧洲人工智能和机器人技术会议。该研究的作者曾在阿根廷、乌拉圭、巴西、南非和意大利做过科学报告。

俄罗斯国民经济与国家行政学院和俄罗斯外交部外交学院的专家认为，以俄罗斯的规模形成长期专项计划极为重要，因为人工智能和国际信息心理安全问题是不久的将来就要面对的问题。