人工智能军事应用及其国际法问题.docx

《人工智能军事应用及其国际法问题.docx》由会员分享，可在线阅读，更多相关《人工智能军事应用及其国际法问题.docx（12页珍藏版）》请在课桌文档上搜索。

1、O1.人工智能军事应用的主要领域与以往大多数新兴军事技术不同，人工智能技术并不专属于某个作战空间或领域，而是能蜉应用于各领域并提升武器装备性能的一种技术，甚至可以改变现有战争形态。根据一些学者的分类,人工智能目前可以分为“弱人工智能和强人工智能两类，弱人工智能能蜉借鉴人类的智能行为.以减轻人类智力劳动强人工智能则是达到甚至超越人类智慧水平的人造物，具有心智和意识、能根据自己的意图开展行动.从目前来看，强人工智能”的出现依然较为遥远，但基于大数据和深度学习的计算机视觉、语音识别、自然语言处理等弱人工智能”技术正在不断地得到开发应用,因此本文仅讨论“弱人工智能”的军事应用问题。通过梳理现有文献与案

2、例可以发现，人工智能的军事应用主要集中在情报与侦察、作战决策与指挥控制、自主武器系统、训练与演习、作战支援与保障等领域。在情报与侦察领域，由于人工智能在图像、语音识别方面具有强大能力，其与各类传感器的结合能够大幅提升战略与战术侦察能力，提升卫星照片判读、光学/电子侦察、水声探测识别的效率例如,美国国防部2017年启动了Maven项目，以实现计算机从视频图像中自主识别人员、车辆等目标，并计划在后续将其集成在各类平台上.当年12月，Maven项目的原型系统已经部署在美军中央司令部和非洲司令部的辖区进行试验，并在一周时间内使目标识别准确率从60%提升至80%.尽管该项目曾因合作方谷歌的退出而受到影响

3、，但目前仍在美国国防部的重点支持下平稳推进.在作战决策与指挥控制领域，人工智能因具有出色的数据处理、系统集成、高性能计算能力，被视为辅助甚至替代决策者与指挥员的工具.美军目前提出的联合全域指挥控制（JADC2马赛克战忠诚僚机分布式杀伤”等概念对人工智能算法支持的任务规划、态势分析、作战决策、指挥控制、通信传输提出了较高要求，以期加快决策速度并提高作战效率，克服人力处理信息的局限性.在自主武器系统领域，人工智能使得传统的遥控式无人武器开始向不受人工干预的自主武器方向升级，这是目前人们关注人工智能军事应用问题的焦点.目前关于自主武器还没有公认的定义.美国国防部认为，自主武器系统指的是“一旦启动，可

4、以在不受操作人员干预下选择目标并交战的武器系统，它也包括受到人类监督的此种武器系统.国际红十字会也提出了类似的定义，并明确其应区别于自动武器/半自主武器，以及遥控武器.也有一些学者从人机关系角度出发，根据约翰博伊德提出的OoDA（观察一判断一决策一行动）循环，将自主武器分为半自主武器、有监督的自主武器和完全自主武器。从目前各国发展人工智能军事应用的公开资料来看，自主武器无疑是重中之重.就包含半自主与完全自主的广义范围而言，目前各军事大国正在研发或部署阶段的此类武器已涵盖了防空系统、主动防御系统、机器哨兵、制导弹药、巡飞武器等.此外，还包括自主无人机、无人车辆、无人舰艇、战斗机器人等主战装备，例

5、如美国的MQ-9无人机、海上猎手”无人船，俄罗斯的“天王星-9战斗机器人、涅列赫塔无人战车、无人版T-14主战坦克，以色列的哈比无人机，韩国的SGR-A1自动岗哨炮等.值得一提的是，除了常规武器，俄罗斯还专门研发了具有自主能力的战略武器.如携带核弹头的波塞冬（Poseidon）核动力无人潜肮器.目前，上述一些装备已经以集群编队的方式进行了测试，甚至已被部署到战场使用。人工智能技术还在训练与演习、作战支援与保障领域得到广泛应用.这里主要包括训练模拟、计算机推演、网络攻防、信息作战、医疗救护、维修保障等用途.例如，美国国防高级研究计划局（DARPA）正在推进先迸空战演进”项目，以对人机协同作战提供

6、训练；而在DARPA举行的A1.phaDogfight人机空战对抗模拟演习中，人工智能以5：0的比分战胜了美军F-16飞行员.02人工智能军，应用对国际法带来的挑战新军事技术的出现往往对战争模式和交战规则带来巨大甚至颠覆性的影响，从而对已有的国际法体系带来了挑战。针对这个问题,1977年的日内瓦公约第一附加议定书在第36条“新武器”明确了各国应当承担的国际义务，即在研究、发展、取得或采用新的武器、作战手段或方法时，缔约一方有义务断定，在某些或所有情况下，该新的武器、作战手段或方法的使用是否为本议定书或适用于该缔约一方的任何其它国际法规则所禁止.人工智能的军事应用当然也应遵循这一条规定.近年来，

7、人们已普遍认识到致命自主性武器（1.AWS）对国际人道主义法带来的严峻挑战.2016年中国政府向特定常规武器公约五审会提交了立场文件，呼吁从国际法层面对致命自主武器引发的人道主义问题进行规制.相关研究人员也就致命自主武器对国际人道主义法的区分原则、比例原则、责任归属等方面引发的问迤展开了较为广泛的讨论。但是，在致命自主性武器与人道主义问题以外，更为广泛的人工智能军事应用还可能在武力使用合法性、国家主权、武器犷散方面对现有国际法造成挑战，由于其对国际安全与地区稳定具有重要影响，需要引起国际社会的同等重视.2.1 对武力使用合法性的挑战目前的国际法已对武力使用的合法性做出了严格规定.联合国宪章第1

8、章第2条第4款规定：”各会员国在其国际关系上不得使用威胁或武力，或以与联合国宗旨不符之任何其他方法，侵害任何会员国或国家之领土完整或政治独立,这一条款禁止了武力的使用，并受到联合国会员国的普遍认可，在法律层面上有强制约束力.但在普遍禁止之外，国际法还针对两种例外情况授予了使用武力的合法性，根据联合国宪章第7章第42条和第51条，这两种例外分别是：（1）安理会授权以武力维持或恢复国际和平及安全；（2）会员国受武力攻击时行使单独或集体自卫。从以往的经验来看，由于使用武力的决策权一直牢牢地掌握在武器使用者的手中，新军事技术本身几乎不会对武力使用的合法性产生景乡响。但是，随着人工智能开始逐渐被用在军事

9、决策领域，人类可能会有意或无意地将使用武力的决策权授予人工智能系统。相关研究者常常以苏联研发的死手（或称为周长）系统以及1983年彼得洛夫事件”引发的意外核战争危机为例,提醒人们自主化决策与指挥控制系统的安全风险。从国际法的角度来看，这种新的情况针对前面提到的武力使用的第二种合法例外一单独或集体自卫带来了挑战。对于人工智能的自主决策和指挥控制系统以及自主武器系统而言，在缺乏人工干预时，如何判断自卫的条件是一个较为困难的问题.目前的人工智能技术在可解释性、认知能力方面仍较为薄弱，因此无法像受过训练的人类一样能够对模糊不定与匏杂多变的情况做出适当判断。如果在边境部署的自动岗哨武器，或在海空巡逻的无

10、人机或无人舰艇，因为算法引起的误判或是系统故障而对他国人员或资产主动发起攻击，将直接违反国际法关于武力使用的规定，而且这种违背使用者意图的非法武力使用也难以找到明确的主体来承担法律责任。此外，当应用于军队决策与指挥控制的人工智能系统出现这种情况时，除了会产生更严重的国际法后果外，还甚至会进一步引起意外性战争.2.2 对国家主权的挑战人工智能军事应用对于受国际法保护的国家主权构成了侵蚀。与有人驾驶装备相比，以无人机、无人潜航器为代表的一批人工智能无人系统具有小型化、隐身性能强的特点，以及无需人工操纵且能够执行长距离作业，因此极为适合完成渗透侦察任务.由于这些特点能够隐匿身份而降低外交敏感性，一些

11、国家开始更加大胆地使用此类装备执行侵入性行动，这使得各国的领空和领海主权变得更加容易被侵蚀.2015年8月，中国渔民在海南三亚市海岸打捞到国外无人潜航器；2016年12月，中国海军在南海海域打捞到一腰美国无人潜航器，随后移交美方；2019年6月，伊朗声称击落了一架入侵领空的美国无人机.加剧了霍尔木兹海峡紧张局势；2019年9月，位于沙特腹地的原油生产设施阿布凯克（Abqaiq）油田遭到18架无人机突袭，使该国原油产量受到重大损失.对此美国宣称无人机归属伊朗，但联合国的调直报告表示无法确认攻击者的身份.2020年，印度和巴基斯坦分别宣称击落了对方入侵本国领空的无人机.上述案例表明，在和平或危机时

12、期，一些国家越来越倾向于使用无人系统执行越境军事行动，这对各国维护领土主权（主要是领空、领海）构成了威胁.目前，对于军用空中无人系统进入他国领空的问题，已有明确的国际法规范.国际民用航空公约第1部分第3条规定：用于军事、海关和警察部门的航空器,应认为是国家肮空器。一缔约国的国家航空器,未经特别协定或其他方式的许可并遵照其中的规定，不得在另一缔约国领土上空飞行或在此领土上降落该条约第8条针对无人驾驶航空器也做出了规定：任何无人驾驶而能飞行的航空器，未经一缔约国特许并遵照此项特许的条件，不得无人驾驶而在该国领土上空飞行。“这两条明确禁止了军用空中无人系统在未经许可的情况下进入他国领空.但是，关于军

13、用无人舰艇的航行问题却出现了一些法律争议。首先，目前的国际法对于军用无人舰艇的属性未做出明确规定.联合国海洋法公约第29条规定：军舰是指属于一国武装部队、具备辨别军舰国籍的外部标志、由该国政府正式委任并名列相应的现役名册或类似名册的军官指挥和配备有服从正规武装部队纪律的船员的船舶.由于军用无人舰艇不配备军官与船员，且常常为了隐蔽身份而清除标识，其既不能被定义为军舰，也不能被视为政府船船,这种性质使其无法拥有上述两种船只在公海不受其他国家管辖的豁免权.在2016年南海无人潜航器事件中，美国声称其潜航器是一麴享有主权豁免的船只，井与日本公开质疑中国海军打捞活动的合法性.但是根据联合国海洋法公约的上

14、述规定，中国学者认为其并不享有主权豁免.其次，联合国海洋法公约规定军舰在他国领海的“无害通过权不适用于军用无人潜肮器。联合国海洋法公约第19条明确了违反“无害通过”的12种情形，包括任何目的在于搜集情报使沿海国的防务或安全受损害的行为和进行研究或测量活动，这两种活动正是目前军用无人潜航器的主要任务.另外，第20条规定.在领海内，潜水艇和其他潜水器，须在海面上航行并展示其旗帜.”这一点是无人潜航器在侦察任务中难以做到的，更不用说一些国家为了避免承担责任而故意隐蕊其标识.因此，尽管美国军舰常常以“无害通过权”为理由进入其他国家领海实施自由航行计划，但使用军用无人潜航器执行这一任务无疑是违反现行国际

15、法的.这些问题需要得到国际社会进一步的明确与重视.2.3 对国际武器贸易规范的挑战随着人工智能技术的发展，其研发成本将不断降低，这有利于相关技术及产品的扩散.从现实情况来看,无人机、智能弹药已经成为了国际军贸市场的热点产品，阿塞拜疆和亚美尼亚的武装冲突进一步证明了这种武器的军事价值.由于人工智能武器能够高效杀伤敌人并能够大幅减少本国人员伤亡，它可能会降低战争成本，从而降低战争门槛，促使国家更倾向于使用武力解决争端；而这又可能会反过来促进人工智能武器系统的扩散，加剧各国军备竞赛，并破坏地区安全与稳定.目前，国际社会已经形成了对核、生物、化学、导弹等大规模杀伤性武器扩散的管控机制，由于禁止扩散大规

16、模杀伤性武器已经成为各国接受的规范，人工智能武器系统将主要以常规武器为平台进行扩散，这对规范常规武器贸易的武器贸易条约将构成新的挑战.武器贸易条约作为首个联合国框架下规范常规武器贸易活动的国际条约，为增强国际武器贸易透明度、打击非法武器转让提供了具有法律效力的国际标准,该条约主要依靠各缔约国完善国家管制制度，对武器出口的最终用户和最终用途进行审直,以防止出口的武器被用于违反国际法的目的。武器贸易条约要求各国禁止批准出口可能用于战争罪行、恐怖主义、有组织犯罪的8类武器装备，包括坦克、装甲战车、大口径大炮、战斗机、攻击直升机、战舰、导弹与导弹发射器、轻小武器等，而这8类武器都可以作为人工智能武器系

17、统的平台.但是，由于人工智能技术的军民两用性质，可以作为插件存在的人工智能模块尚未受到条约的重视，某些人工智能技术甚至能券作为民用品出,完全规避武器贸易条约对最终用途的约束，这有可能迸一步强化相关武器的交易与滥用，导致此类武器或技术向恐怖主义或犯罪组织非法犷散.因此，如何规范武装无人机、战斗机器人等自主武器系统的转让，限制其扩散对地区安全稳定与人道主义的负面影响，为现有常规武器贸易管控机制提出了新的问题。O3规低人工智能军事应用的四际法途径当前，对人工智能军事应用帚来的国际法挑战较多的讨论聚焦于人道主义问题，尤其是对致命性自主武器（1.AWS）违反国际人道法对非作战人员进行杀伤的问题.然而，人

18、工智能作为一种变革性技术，其对国际法的挑战本身具有更深层次的含义。如前文所提，人工智能技术对国际法的挑战主要体现于两个方面：一是变革技术的出现降低违反国际法的成本；二是核心议题涉及当前国际法所未能覆盖的领域。因此，本文拟从这两个层面讨论完善相关国际法的途径，讨论如何提高相应国际法门槛、确立新的国际法规则.具体而言,1.AWS的应用以及战略武器自主指挥控制系统的发展主要降低了国家违反国际法的成本，通过模糊责任主体、对国际法概念进行特定解释可以让部分国家在使用武力、侵犯他国主权等问题上拥有一定的“灵活性，对此，本文认为应当在特定常规武器公约框架下规范1.AWS的应用并禁止战略武器自主指挥控制系统的

19、应用，形成类似核禁忌”的国际共识；而人工智能武器的贸易问迦涉及的是国际法上的灰色地带或者空白地带如果作为军用品，无疑，其可以受到武器贸易条约的约束。但是，因为该技术军民两用之间界限的模糊（部分民用人工智能技术完全可以应用于军事领域），完善武器贸易条约，重新对人工智能技术的军事性质进行界定，进而限制作为武器模块的人工智能技术的扩散成为当下国际法亟待解决之事。3.1 提高国际法管辖门槛，增加国家违反国际法的成本3.1.1 推动管控1.AWS的特定常规武器公约新议定书对于1.AWS而言，当前的发展仍然处于初步阶段，且不存在完全脱离人控制的全自主武器，各国不具有紧迫的动力和意愿来限制1.AWS.因此，

20、想要马上实现一份有约束力的法律文书是较为困难的.但是自2014年起，各国开始在特定常规武器公约框架下对1.AWS问题进行讨论，并已举行了8次专家组会议.2018年，政府专家组在关于管控1.AWS的指导原则中建议：应确保根据适用的国际法在特定常规武器公约的框架内对发展、部署和使用任何新武器系统问责，包括使这类系统在人类指挥和控制的责任链中运作。中国政府表示“支持在特定常规武器公约框架下，继续深入讨论致命性自主武器系统问题，并谈判达成国际法律文书从现存特定常规武器公约的框架和实施效果来看，将1.AWS纳入管辖存在一定积极意义并具有高度可行性,就公约本身而言，其设立之目标是制定新规则保护平民免受武装

21、冲突中武器使用的伤害（尤其是不断迭代的新式武器），并且保护战斗人员免受不必要的伤害.因此，公约现存的议定书中涵盖了产生不可检测碎片的武器、地备饵备、燃烧武器、激光致盲武器，这些武器的共同点在于反人道主义与过分杀伤，这点与限制1.AWS的初衷是高度相似的.1.AWS可能将杀伤范围扩大至平民，同时，如果缺少人的干预，滥用火力”现象将会成为常态。通过新议定书的形式将1.AWS纳入特定常规武器公约，不但符合公约保护人道主义的目的，也便于直接借助现有框架凝聚国际社会共识.而从特定常规武器公约实施的经蛉来看，尽管履约基本依靠成员国的自我约束，但各项议定书对特定武器的限制在普遍程度上受到了国际社会认可，并形

22、成了一定程度的国际规范，使得大部分国家在研发、部署和使用相关武器时都采取了较为谨慎的态度.因此，若能在特定常规武器公约下达成关于1.AWS的新议定书，将有利于在法律层面上对1.AWS的滥用进行约束.3.1.2 严格禁止战略武器自主指挥与控制系统的研发与使用与1.AWS相比，将人工智能技术应用于战略武器的指挥与控制系统所带来的是各国都难以承担的“相互摧毁”的风险。苏联的死手系统可以看成是战略武器自主指挥与控制系统的某种前身，但这类系统本质上是冷战核军备竞赛高峰期的产物。在全球化的今天不应具有任何存在的价值。在这一问题上，美国军方已有相关考虑，现任美国参谋长联席会议副主席曾表示，一旦使用人工智能的

23、计算机系统能够全面运转，五角大楼应考虑采取安全防范措施，确保人类而非机器掌控使用核武器的决策.但是，即使是人类参与决策，人工干预也并不能完全避免类似系统出现事故性发射，而且难以防范外部网络攻击引发的系统失灵，因此应全面禁止研发和部署战略武器自主指挥与控制系统。目前，还没有国际条约对这种系统进行限制，相对可以借鉴的是不扩散核武器条约禁止生物武器公约和禁止化学武器公约。这三个条约所限制的都是国际社会公认应避免使用的武器，并具有严格的法律约束力和道德禁忌规范.由于后果的不可预测性以及意外事故的灾难性，战略武器的自主化性质较核武器扩散或持有、化学武器与生物武器的使用等行为可能更为恶劣.因此，在严格禁止

24、相关系统的开发、部署和使用方面，大多数国家拥有共同的利益,所以有必要从国际法的层面对此进行讨论并形成有约束力的规则。在此基础上，还需要将其从法律层面犷展到道德禁忌层面，在国际社会形成拒绝使用此类武器的共识与规范，禁止照予人工智能系统对战略武器的指挥决策权限。禁忌是促进军备控制发展的重要因素，尽管在某些时候，禁忌可能并没有马上形成国际规约，但是其仍能通过无形压力对国家与非国家行为体的行为作出限制。而禁忌的形成部分依赖于宣传的作用，因此，在明确国际法对相关系统发展的限制的同时，国际社会也应当注意对其可能带来的灾难性后果进行充分的讨论.3.2 填补国际法空白领域，确立国际法新规则相较于人工智能武器的

25、使用，其扩散问题是当前国际法上的灰色地带，这并不是说当前国际法没有对武器贸易进行约束，只是人工智能武器的贸易与常规武器的贸易具有较大的差异，且这种差异暂时还未引起国际法层次的重视.武器贸易条约目前的监管对象是国际主流的八大类常规武甥。从这个角度而言.人工智能武器的贸易本也应在该条约的限制之下，但人工智能技术的军民两用性质为其监管带来了障碍。其实，在武器贸易条约形成的过程之中，各国已就军用技术转让问题进行过激烈的辩论，即贸易的限制是否应当仅仅局限于武器本身，军品弹药、零部件和技术是否也应当一并被纳入条约的保障范围之内.但是当时的主要反对意见认为弹药的数目巨大、技术难以被监测或是界定，因此最终条约

26、并没有涵盖这些部分.而人工智能技术的出现可以说成为国际法相关领域的盲区。人工智能技术可以作为民用技术进行转让，但在实际运用中被用于军事目的.针对这一问题，应当确立新的关于人工智能军用技术转让的国际法规范.对于智能武器而言,算法和用于训练算法的数据集才是本体，而且其数据集在一定程度上能够区分军用和民用两种用途。因此，鼓励各国增强对智能武器贸易的透明度迫在眉睫.为了有效打击智能武器的非法扩散，应在武器贸易条约框架下探索规范军用级算法与数据集的标准，并借助条约的年度报告与信息交流机制提升缔约国相关贸易活动的透明度，三而形成类似塔林手册圣雷莫国际海上武装冲突法手册具有“软法”性质的国际文件或准则，逐渐

27、扩大国际共识，推动将智能武器纳入武器贸易条约的管控范围.这些工作应该成为各国推动武器贸易条约进程努力的下一步重点方向.综合而言，规范人工智能的军事应用一方面需要各国进行观念上的革新，认识到人工智能武器与传统武器的区别，同时，这也需要各国进一步加强合作，为相关算法与训练数据制定标准，形成广泛的国际共识。O4结论国际法是否能塑造国家的行为？对于很多现实主义国际关系学者而言，类似的问题似乎是伪命题.诚然，在无政府体系下，大部分国际法因缺乏强制约束似乎不过是一纸空文.但是，国际法的作用往往是长期而潜移默化的.规范的形成本身并不需要强制执行.当前，技术发展往往先于观念的革新.人工智能已被认为是变革性的国家安全技术，可以与核武器、计算机等相提并论。这种新技术的出现以及军事应用既对现行的国际法带来了多方面的冲击，也使当前国际法出现了更多的空白与模糊地带。针对这些问题，本文认为，可以从提高国际法门槛、确立新的国际法规范两个层次进一步完善该领域的国际法规则，并通过限制1.AWS使用、禁止战略武器自主使用以及加强对人工智能武器扩散的管控三种具体措施缓解人工智能军事应用对国际法带来的新挑战.