摆脱人类控制?无人战争≠“无人的战争”

2018年06月08日09:11  来源:解放军报
 

  还记得电影《战狼2》中挂着机枪在空中到处“突突”的杀人无人机吗?还记得科幻片《黑镜》中被黑客入侵的机器“杀人蜂”的恐怖场景吗?人与武器的关系,是军事领域亘古不变的话题。试想,如果赋予智能无人作战系统“生杀大权”,甚至实现“机器代理人战争”,那么《黑镜》等电影中的场景或将变为现实。避免无人作战系统拥有“自主开火权”,确保战争人类可控,或将成为智能战争时代人类的“自我救赎”。

  智能战争面临失控风险

  人工智能技术与无人化作战系统,正加速叩开未来智能化战争的大门。

  也别高兴得太早,智能机器人“大兵”若真的在战场上冲锋陷阵,未来战争或将面临巨大的失控风险。2015年7月,美国一台“发疯”的机器人曾“失手”将一名装配工人杀死。据说,伊拉克战场上,美军的“剑”式战斗机器人曾无故将枪口指向己方指挥官。

  在复杂战场环境下,拥有高度智能的无人作战系统极有可能出现识别错误、通信降级甚至被敌电磁、网络攻击后“倒戈反击”等情况,而诸如滥杀无辜、系统失控等更是给智能武器的军事应用带来了巨大隐患。

  其实,人们对于智能武器系统的担忧,从命名伊始就初见端倪。机器人的英文名为“Robot”,其原意就是“农奴式被强迫的劳动者”。未来的智能化战争,战场上的绝大多数作战任务都将交由“被强迫劳动”的战斗机器人来完成。一旦人类授予了智能武器系统“自主开火权”,这群毫无感情、不知疲倦的钢铁机器会不会滥杀无辜,甚至调转枪口成为“人类终结者”?这是我们必须直面的问题。

  一方面,谁能为智能武器的“滥杀无辜”来买单。人工智能武器的智能化一旦超过一定程度,是否会出现自作主张甚至滥杀无辜的情况,我们不得而知。就拿美军对藏匿的恐怖分子开展定点清除行动来说,无人机在杀死武装人员的同时也可能“误杀”了大量平民,这还是在有人干预的情况下。一旦人被完全排斥在“战争回路”之外,智能作战平台由于自身的“不靠谱”极有可能造成武力滥用,或将对战争伦理道德产生巨大冲击。

  另一方面,智能武器的战场失控程度难以估量。武器的智能化程度越高,其内部控制软硬件的规模就越庞大、复杂,出现故障的概率也相应增大。资料显示,美国空军一架无人机曾突然自动向地面一处重要设施发射导弹,而事故原因是飞机的火控系统出了故障。在战备值班与演习过程中,美军也多次出现通用战场态势分析系统因软件故障而被迫中断的情况,进而导致作战方案无法按时生成。

  绝不能离开人类的控制

  人工智能和无人作战带给人类的究竟是威胁还是发展,关键在于如何利用。人作为“战争回路”的主体,必须牢牢掌握未来智能战争的“开火权”。

  人们在研制智能无人作战系统时,为防止出现因失控而导致的意外事故,要求操作人员在必要时可以解除系统功能。英国空军研制的“雷神”无人飞行器可携带武器直接攻击地面目标,尽管该型无人机上装备有可识别危险目标的机载计算机,但目前依然主要采用由地面人员控制的工作模式,发起攻击时必须通过地面人员授权才能开火。

  此外,还可以在智能作战平台中提前进行设置。一方面,可以通过代码控制智能武器的“大脑”。在智能武器出厂启用之前,人们可以提前设置“后门”式自毁模块,从而在需要时令智能武器彻底死机或自行报废。同时,由于智能武器的控制中枢是计算机,可在编写软件时加入相关控制程序。另一方面,智能武器的攻击目标和攻击方式也应受到明确限制。例如,如何使“武装自主系统”摧毁敌方武器而非作战人员,便可以通过设计来实现。

  当然,更直接的办法是只为智能武器平台配备非致命性武器。未来,电磁脉冲武器、网络攻击武器、高功率微波武器等新概念武器,或将为智能武器平台的安全使用提供新的技术思路。

  人机协同是“最优解”

  无论未来的武器系统如何高度智能化,人是战争的主导因素这一基本条件不会改变。未来智能化战争,允许改变的只是人与武器装备的战场协作方式,人机协同将成为无人武器战场运用的“最终答案”。

  目前,美军正在进行“有人-无人”协同作战试验,其中较为著名的当属“忠诚僚机”计划。“忠诚僚机”计划就是为有人战斗机找一群忠诚可靠的无人僚机,从而大幅提升人机协同作战能力。据专家估算,即便拥有极高计算能力,无人僚机在响应或执行指令时通常会有2秒钟的滞后,这在瞬息万变的智能化战争中是“致命伤”。考虑到人类大脑可以更为迅速地响应事态发展,人类飞行员依旧是未来战场不可或缺的作战主力。

  作为美军“第三次抵消战略”重点发展的技术领域之一,“忠诚僚机”计划有望首先发展出由第四代战斗机改进而来的无人驾驶僚机。2017年4月,“臭鼬工厂”就与美国空军研究实验室等机构一起完成了基于“忠诚僚机”概念的人机编组实验,实现了无人僚机自主与长机编队飞行并开展对地打击,为美军新型作战模式打上了一针“强心剂”。

  可以预见,随着“有人-无人”协同作战的稳步发展,智能武器系统不仅将作为“战场先锋”实施侦察监视、障碍排除、火力摧毁等作战任务,还可进一步实现有人与无人作战力量的混合编组。如此一来,不仅避免了无人作战平台“滥杀无辜”,还能以少量人力来指挥大量智能武器系统作战。这种有人参与的“无人战争”,或将成为未来智能化战争的新常态。(许玥凡 张瑷敏)

(责编:邱越、黄子娟)