报告 2016-03-10 08:03

自主武器与使用风险

郭道平 摘自 新美国安全中心

2016年2月29日,新美国安全中心(CNAS)网站刊登资深研究员保罗·雪莱题为《Autonomous Weapons and Operational Risk》的研究报告。该报告是自主伦理问题研究项目的最新研究成果,考察了未来自主武器的相关风险,这类武器自选目标并可能造成灾难性事故。这篇报告的结论如下:

(1)战争是一种冒险的尝试。军方必须权衡各种风险——与其军队、任务使命、公民、无辜百姓相关的风险以及可能危及国家本身的风险。军人在战斗和某些战争中要冒失去自己生命的风险,而国家的生存则可能会受到极大的威胁。各国还必须在各种战略目标之间权衡风险:威慑、防御和危机稳定。例如,军队必须时刻准备在接到命令后反击挑衅,而这可能导致危机一触即发或造成不必要的冲突升级。军方在如何衡量这些风险上会得出不同的结论,而其针对外部威胁的战略态势是一个主要因素。从逻辑上看,军事上的弱者或面临生死存亡的国家很可能更愿意冒险达成其目标。在某些情况下,一些国家会故意采取危险行为,以此作为一种边缘政策战术,从而达到威吓或胁迫别国的目的。

(2)目前,还没有一个国家表示计划制造完全自主的武器,但几乎也没有哪个国家宣布放弃它们。90多个国家和非国家组织已经拥有无人机。如今,这些无人机在很大程度上采取遥控方式,但随着时间的推移,其下一代版本将具有更高的自主性。在有足够的通信设备以保持人在回路的情况下,提高无人机的自主性就有很大的价值。人可以在这类武器出现故障的情况下提供安全保证,并且在其应对各种各样的状况时拥有足够的灵活性。然而,当通信设备失效时,自主武器可能会对机会目标发起攻击,并且无人机会保护自己免受攻击。

(3)随着技术的进步,军方必须仔细考虑使用自主武器的风险。许多关于自主武器的辩论集中于法律、道德或伦理上的问题。但是,自主武器也提出了极为重要的可控性和安全性问题。可以设想,在绝大部分时间里完全受控的武器出现一个失效即可能导致灾难。自主武器失控可能导致大规模自相残杀,或者误伤平民和导致危机失控。而当操作使用时间足够长的时候,某些失效是不可避免的。采用自主武器就意味着接受这些无可避免的失效所带来的后果。

(4)国家之间需要在武器系统实现自主性的途径上有更大的透明度。只有极少数国家发布了关于武器实现自主性的明确的国家政策。鉴于自主系统之间可能存在危险的相互对攻,国际社会所期望达成的共识是至关重要的。对抗环境的自然趋势是速度更快,这样就必须实现自动化,以进一步加快战斗节奏。其结果是可能导致局面混乱不堪。自主系统之间的意外对攻或黑客攻击可能导致所谓的“闪战”(“flash war”),此时冲突迅速地螺旋式摆脱人的控制。

(5)现在很多关于自主武器的论述,虽然侧重于对平民的人道主义影响这一非常重要的问题,但自主武器也提出了战略稳定性方面的重要问题。这是自主武器值得进一步考虑的一个重要方面。仅举几例,针对被视为不稳定和危险的各种武器,各国在合作制订规范、禁令或提出共同的规范和期望上有着悠久的历史,这些武器包括核武器、天基和反太空武器、反导武器和中程核导弹。国际社会必须在武器自主性的使用问题上继续对话,以帮助管理自主武器的潜在战略风险和避免危险的结果。

阅读 收藏

相关专题: