AI武器未来战:「无人机」的新世界大战?
2020-08-12

AI武器未来战:「无人机」的新世界大战? 军用无人机,预料会是列强国家争夺的下个军事战场。图为美军开发第一款专门用作猎杀用途的军事无人机——MQ-9死神侦察机(MQ-9 "Reaper")。

▌前篇:〈AI武器未来战(上):「杀手机器人」的禁令谬误?〉

过去在CCW专家会议上,反对LAWS者曾经举以色列的哈比无人机(IAI Harpy),做为自主武器的案例讨论。Harpy开发于上世纪九零年代,目的在于摧毁敌方雷达系统,后来以色列出售给中国,中国又疑似以此为原型山寨产生了ASN-301无人机。


若照LAWS反对者的逻辑,凡是设计用来攻击的无人机都属违法。反对LAWS者认为,无人机应用在军事上的複杂性让人类难以处理。例如有报告指出,在巴基斯坦,美军以无人机猎杀恐怖份子及其帮手,他们宣称準确度超过99.99%,被错误归类为恐怖分子的机率仅有0.008%。机率看起来极低,但换算成人口数却是约上万人。

AI武器未来战:「无人机」的新世界大战? 有报告指出,美军在巴基斯坦以无人机猎杀恐怖份子,虽然宣称準确度超过99.99%,被错误归类的机率仅有0.008%。机率看起来极低,但换算成人口数却是约上万人。图为反战NGO团体「Codepink」在2013年在美国的「无人机展览会」场外抗议。

这就牵涉到责任议题。如果战争时发生违反国际法规则或道德规範的错误,谁应该负责任?是操作的士兵、下令的指挥官、编程LAWS的设计者,亦或是授权的官僚体系呢?

目前还可从涉及其中的人类究责,但未来如果AI真能完全自主,那幺它必然是从经验和环境中学习,做出反映学习成果的决定。如此发展下去,设计者也无法预测与控制,更难以抓出特定人士为后果负责。

此外,反对者也认为军队多是利用黑箱算法处理数据,算法恐有偏见与谬误。现在的AI对于固定的物体,像是家俱或动植物,拥有较为可靠的标记和分类能力。但如果谈到训练AI去理解複杂现象,基于数据与技术有限,可能会导致完全错误的结果。

反对LAWS者特别举例自动脸部识别,在应用上存在很多问题。麻省理工的研究指出,IBM、微软等科技巨头所设计的脸部识别算法,根据性别与种族会有不同的结果。例如研究发现,在侦测时,比较浅肤色的男性与深肤色的女性,错误率高达35%。

AI武器未来战:「无人机」的新世界大战? 自动脸部识别科技在应用上存在很多问题。麻省理工的研究指出,IBM、微软等科技巨头所设计的脸部识别算法,在侦测时,肤色较浅的男性与深肤色的女性,错误率高达35%。

也有其他研究支持AI辨识存有偏见的结论,特别是在兵荒马乱间,涉及编程的参数不可能包罗万象,更具流动性和动态性。因此AI建议的行动方案多基于认知基础,而基础本身常常早已具有偏见。试想若应用于战场上,一些被错误认定的族裔遭受LAW攻击,会是多幺严重的后果。

支持LAWS者则反驳,目前没有国家实际使用这类AI,无人机攻击仍须透过人类一定程度的控制。重点在于LAWS真正投入战场前要确保準确度,这里说的準确度并非百分百完美,只要能比人类更能减少伤亡,就是值得发展的方向。且人类很难透过战争学习,也不易传承,但AI没有此类问题,可以不断累积经验、纠正错误。

他们更强调,反对者把AI描绘成邪恶嗜杀的机器人绝对错误,他们认为技术本身没有问题,有问题的是使用者。未来的LAWS必须强调机器伦理,也就是设计者得在机器内输入和处理国际法等相关规範数据,并让AI深度学习,学到何种程度能上战场才是问题重点。

假设人类与完全自主的AI机器士兵交战,那幺AI能预先编程,在达到某种确认度前不会以致命武力攻击。由于AI没有生命,可以装备足够承受火力的机甲;也没有恐惧与愤怒,不似人类会为自卫或情绪而先下手为强,可设定直到满足所有必要的条件才发动,这就是人类无法达到的地步。

电影《银翼杀手》经典片段

然而,不可讳言的是,LAWS确实可能具备强大的武装,使得反对者主张,其同属于潜在的大规模杀伤性武器(WMD),应该与核生化武器、或是常规武器及其附加议定书等量齐观,以国际法约束。他们担心如果LAWS落入恐怖组织手中,会带来极大伤亡,而国与国之间,也可能兴起一波AI军备竞赛,危害既有的和平。

像是无人机成本不高,非常适合当作攻击武器。饱受美国与以色列无人机威胁的巴基斯坦和巴勒斯坦,都疾声高呼要停止这种AI带来的人道灾难。前几个月,以色列刚公布一份报告就指出,2014年军队因为悲剧性失误,以无人机杀伤了四名孩童。

恐怖份子似乎也纷纷展开行动。今年7月在美国墨西哥州,一名负责公安的官员住家发现有携带炸弹的无人机坠落,所幸没有构成伤害,此事被怀疑与取缔毒品有关;8月在委内瑞拉,也发生针对总统的无人机攻击,有数人因此受伤,反对政府的民兵组织也已出面承认攻击。

随着商用无人机的普及,可能会出现更多自杀性爆炸,或是以其他恐怖主义模式威胁平民。曾经盛极一时的伊斯兰国,就使用过无人机侦测与袭击,甚至被用来吸引招募对战斗有兴趣的人们。据报导指出,伊斯兰国使用的无人机成本大多在1,000美元左右,坐实了反对LAWS者把无人机称为是「穷人的智能炸弹」。

AI武器未来战:「无人机」的新世界大战? 无人机成本不高,非常适合当作攻击武器。饱受美国与以色列无人机威胁的巴基斯坦和巴勒斯坦,都疾声高呼要停止这种AI带来的人道灾难。图为2006年以色列无人机发动空袭,造成加萨走廊地区多人死伤。

AI武器未来战:「无人机」的新世界大战? 无人机是将沦为「穷人的智能炸弹」?随着商用无人机的普及,可能会出现更多自杀性爆炸,或是以其他恐怖主义模式威胁平民。图为巴勒斯坦激进武装组织「哈玛斯」(Ḥamas)手持无人机。

对此,支持LAWS者反驳自主武器是WMD的说法,认为攻击用途的无人机并不违反国际法。绝大多数的国家也不会禁止无人机,因为其商用价值无可限量,且阻挠人类开发技术的障碍太低,真正有意义的作法是採取管理约束行为。换言之,这属于国内执法的範畴,无须联合国公约。

目前各国多少都有关于无人机的法规,如美国联邦航空管理局(FAA)去年制定新法,要求购买者登记重量在0.55磅到55磅之间的无人机,若未依法登记将受到民事或刑事处罚;中国同样也要求重量在250公克以上的无人机实名登记,近来更规定部分特殊区域无人机操作者,必须拥有执照许可。

另一方面,军事无人机的使用并非如想像中的简单顺遂。2011年CIA的无人机在伊朗进行任务时坠毁,现在大多认为是伊朗利用骇客入侵GPS使其降落,也就是模仿发送到GPS的信号,欺骗机载接收器遵循命令。最近以色列也在领土上击落来自伊朗的无人机,并宣称伊朗透过逆向工程、複製美国的无人机。

迄今,美国仍在开发新技术,像是使用带有模式识别软体的摄影机辅助GPS导航,以确保无人机的控制。若想远程操纵,需要先进的通信系统、指挥和控制基础设施以及技术人员。以伊拉克为例,它向中国购买了不须卫星导航、价格便宜许多的无人机CH-4,只须相对短程的无线电波引导,制约了打击範围。

AI武器未来战:「无人机」的新世界大战? 绝大多数的国家也不会禁止无人机,因为其商用价值无可限量,且阻挠人类开发技术的障碍太低,真正有意义的作法是採取管理约束行为。图为2017年中国国际航空航太博览会上,展示其自产的「彩虹」、「翼龙」、「云影」等无人机。

儘管如此,支持LAWS者也承认,无人机被滥用的威胁性越来越大。在叶门内战就发现,伊朗向叛乱份子提供无人机等武器支援。这些无人机目前多用于对付地对空导弹系统和雷达阵列,以数百美元的无人机换数百万美元的防御导弹再划算不过,但未来则有可能会用在摧毁车辆、船只或是军队人员。

若发生此类情形,较为经济可行的方案,是以无人机对抗无人机,这也是支持者大力疾呼的主因之一。支持者LAWS相信,即使缔结国际法禁止自主武器,对手未必会遵守规则,特别是无人机已确定是未来数十年的武器主轴,此时如果不抢佔技术领导地位,必将受制于人。

值得注意的是,军用无人机有逐渐扩散的趋势。过去欧巴马政府时代,一些中东国家,如沙乌地阿拉伯、约旦等,向美国购买军用无人机遭拒,因而转向中国。这不仅助长了中国的武器出口,更可能因为数据的导入,有利于中国LAWS技术的进步。

美国则由于飞弹科技管制建制(MTCR)限制,仅被批准出售给英国、法国等盟国,明显落后。今年川普政府则推出新政策,以便出口更多无人机与中国竞争,不难想见,未来军用无人机市场将出现美中两方激烈竞争,全球离有效管制LAWS恐怕也将越来越远。

AI武器未来战:「无人机」的新世界大战? 一些中东国家因向美国购买军用无人机遭拒,而转向中国。这不仅助长了中国的武器出口,更可能因为数据的导入,有利于中国LAWS技术的进步。图为中国第十七届中国西部国际博览会上,展示的翼龙系列无人机模型。


为了鼓励作者持续创作更好的内容,会员可以使用「赞助」功能实质回馈给喜爱的作者。可将您认为适合的点数赠送给作者,一旦使用赞助点数即不得撤销,单笔赞助最低点数为{{min}}点,最高点数没有上限。 U利点数 1 点 = NTD 1 元。