联合国安理会利比亚问题专家小组表示,2020年3月,土耳其STM公司生产的“卡古-2”(kargu)型四旋翼无人攻击机被编程为在不依靠操作员的情况下攻击目标,这架无人机跟踪并攻击了正在撤退的哈夫塔尔指挥的“利比亚国民军“。联合国专家在报告中指出,这是一次真正的”发射后不管“。报告中说,这是第一次在利比亚发现使用这种无人机,这违反了联合国第1970号决议第9条。这次攻击是否造成人类死亡还有待核实。
费杜季诺夫说:”自动自主猎杀有生力量、无人机或者巡飞弹药等目标,这在很早以前就被预测到了。人们认为,不管是从技术,还是从道德角度,人类社会还需要一些时间来接受这一‘事实’。在这种情况下,重要的是哪一个国家第一个打开这个潘多拉魔盒。"
专家指出,从技术角度讲,这早就已经可行了,无人机可在自动模式下完成许多操作:按照设定的参数发现和识别目标;跟踪目标;武器引导。操作员通常仅需要核准这些动作并发出攻击指令。
费杜季诺夫表示,“不能放任机器自主决定使用武器的因素包括:技术层面上,可能存在识别错误;道德层面上,授权机器人做出杀人决定是错误的。此外,做出错误决定的责任问题也因此变得模糊”。