负义务军事人工智能管理的（不）可能性

　　2024年，应对军事人工智能管理问题的相关工做势头强劲；然而同年，我们也目睹了武拆冲突中利用人工智能决策支撑系统的环境日益添加，且愈发显而易见的是，此类系统可能对和平取不变形成严沉挑和。这些成长激发了对当前军事人工智能管理方式的质疑。正在本篇博文中，伦敦玛丽女王大学理论传授埃尔克·施瓦茨指出，针对管理的勤奋因现代人工智能系统正在方针选定决策中所固有的若干要素而复杂化，并出格强调了以下三点：（1）成立于迭代和无常性的当前人工智能系统的特征；（2）人工智能范畴私谋生产商的从导地位以及由此发生的逐利；以及（3）人工智能系统本身，出格是方针选定决策中预测性人工智能系统所暗含的扩张性驱动力量。这些人工智能的现实环境表白其所带来的风险可能比人们凡是认为的更为严沉。军事人工智能管理工做势头日增。一些近期勾当供给了开展高级别对话和构和的空间，专为切磋若何应对人工智能正在军事范畴的利用以及若何规制兵器系统向更高自从性改变的问题。例如，“军事范畴负义务人工智能”（REAIM）峰会等勾当就表现了这一势头，并做为此类会议的发布了多份文件，此中包罗2023年REAIM《关于负义务地军事利用人工智能和自从手艺的宣言》以及支撑一项步履蓝图的2024年REAIM峰会文件。本年，我们也看到，虽然人工智能系统（包罗人工智能决策支撑系统）呈现出诸多“风险和低效”问题，但正在冲突中的摆设和利用仍正在不竭添加。同时，我们愈发强烈地感遭到，这些系统可能并不会像军事人工智能的支撑者所常常声称的，无望削减布衣者、让交和方敏捷获胜或实现和平。现实环境恰好相反。新型人工智能决策支撑系统备受推崇的潜正在好处（包罗“布衣及平易近用物体”的可能性）以及利用人工智能能够速和速决这一频频的许诺均未实现。正正在激增；儿童的灭亡率高得惊人；严重场面地步正正在加剧而非缓解。这此中必然存正在问题。除非我们愈加细心地审视为何正在军事事务中利用人工智能决策支撑系统及其他人工智能使用可能带来的风险远超好处，不然和政策制定将一直陷于劣势，另一方面又不得不该对一线严峻的现实情况。换言之，对军事人工智能的猜测性预期取冲突中利用人工智能的现实环境之间存正在矛盾，而管理工做似乎正正在两者的罅隙间开展。做为一种统计数据处置手艺的支流人工智能，和做为其底层逻辑的机械进修，正在底子上是迭代性的。就像任何其他贸易软件系同一样，人工智能系统需要屡次升级以连结相关性和功能性，正在疆场这一充满匹敌的中就更是如斯。例如，一般无人机系统需要每6-12周进行升级以维持无效运转。而人工智能系统的复杂性远高于此，以顺应动态性、匹敌性的冲突形势。然而，每次严沉升级都有可能影响系统的环节层面，所以持续性的查抄和评估是摆设军事人工智能系统最低限度的要求。这需要时间，而且需要成心愿优先放置这些时间——而外行动速度至关主要的和平中，时间恰好常稀缺的。此外，还需设立极其严酷的伦理审查法式，确保任何未经恰当测试和评估的系统不会被投入利用。取此同时，人工智能范畴还正正在敏捷成长，至多正在规模上正正在敏捷扩张，但人工智能每一次迭代城市带来新的问题。大型言语模子（LLM）即是一个典型案例。大大都“保守”人工智能系统存正在系统现性误差和人类从动化误差等家喻户晓的问题，而大型言语模子则带来了新的问题，如“”（hallucinations）以及对人工智能系统的极端拟人化。大型言语模子只是人工智能范畴的最新立异——很多新的小型和大型变体还可能会不竭出现，每一种变体都有其本身的预期用处，同时伴跟着新的问题。向市场投放更多人工智能产物可能发生新问题的速度远远快于利用这种手艺处理已有问题的速度。每一次人工智能的迭代及其后续实施使用城市激发值得伦理考量的新挑和和新问题。仅对最新的人工智能能力做出被动反映无法成为规制人工智能系统或制定恰当规范的可行之道。人工智能固有的无常性意味着，只要当这些系统曾经投入利用后，我们才能实正识别出某个系统的“红线”事实该当正在哪里。届时，核心就会变为风险办理，而非义务本身。军事人工智能市场利润颇丰，近年来吸引了浩繁非保守国防参取方的插手，而这些参取方起头对该范畴影响，使其投合硅谷财产及其产物的逻辑。这一趋向进一步获得了风险投资者的鞭策，他们发觉国防备畴市场具有庞大潜力——自2021年以来，已有约1300亿美元的风险投资资金注入了军事手艺草创公司。风险投资者期望从承担的风险中获得高额报答，而这些风险并非微不脚道。近90%的草创公司最终城市倒闭，而取得成功的企业凡是能实现超高报答。然而，取国防备畴的保守投资比拟，风险投资的运做逻辑是分歧的。其周期更短，对草创公司将来需求、适用性及估值的许诺往往是强调的。为使风险投资正在承担高风险后可以或许实现预期的高报答，国防备畴大体上必需进一步向硅谷的运做模式挨近。更快的合同周期、对硅谷流行的“失败-迭代”的推崇、接管变化并押注高风险项目——这些都是使贸易人工智能产物获得庞大报答的基石，而这些产物正在很大程度上不受监管或伦理鸿沟的束缚。这种正日益被为国防备畴甚至更普遍的军事文化的指点方针。笔者正在其他文章中曾更深切地切磋过这一动态以及风险投资好处对美国国防文化所的庞大影响。目前，由风险投资赞帮的军事草创公司正在整个国防市场中的占比仍然相对较小，但这些公司正正在通过塑制本公司产物日渐不成或缺的市场来争取更大的市场份额。为实现这一方针，既得好处参取方有时会采用性叙事，并且这些叙事取旨正在推进武力利用时连结胁制而非扩大利用武力的既有规范取法令的方针和要义是相冲突的。风险投资公司投入了大量资金进行逛说，并激励前军方和政策人员插手，以帮帮构成对军事人工智能系统有益的政策立场。除非我们认可对军事人工智能范畴进行投资的分歧好处相关方之间存正在好处冲突，不然坦率而言，无效管理是不太可能实现的。这是一个典型的问题，由于它关乎。正在更普遍的人工智能管理取义务框架中，这些草创公司及其赞帮方的思惟和伦理根本具有主要影响。若是要将义务置于主要，就理应对这些要素进行严酷审视。人工智能就其手艺根本而言具有扩张性，为按照预期一般运转，需要大量相关数据以及分歧人工智能系统之间的无效互联。例如，（正在理论上）若是所有行人和物体都能配备可取从动驾驶汽车人工智能系统相适配的传感器，则这种汽车就可完满运转。由此，人工智能正在哲学意义上也同样具有扩张性。1988年，哲学家金特·安德斯（Günther Anders）曾有如下阐述：“每一台机械都具有扩张性，也就是帝国从义的性质。每台机械城市打制出本人的办事系统——和殖平易近帝国，并且要求这个殖平易近帝国随时以机械本身同样的尺度来运做……机械对堆集的渴求是无尽头的。”换言之，人工智能需要更多的人工智能才能实现优良运转。而这会导致一切都将卷入其海潮之中，曲至最终，人类的所有事务都于其逻辑。同时，人类越是以复杂的体例嵌入到人工智能系统及其多层系统架构中，系统的逻辑就越有可能决定现实的步履标的目的。俗话说：“若是你手握锤子，你往往就会把每个问题都看做钉子。”换言之，一旦某个系统正在任何中都充实普及、无处不正在，问题就会从“我能否该当利用这个系统”变成“我若何能更普遍地利用这个系统”——这就雷同于军事范畴所说的使命蠕变。例如，人工智能决策支撑系统就可能具有令人担心的吸引力。此类系统不只可以或许更快速、更大规模地找到潜正在方针并对其采纳步履，并且还具有“发觉”方针的模式，而方针即全球地舆区域中被标识表记标帜为“可疑”并因而或可对其采纳步履的。当然，这种做法并不目生；正在 2010 年代初期全球反恐和平的布景下，就有通过所谓的“措置矩阵”（Disposition Matrix）来生成方针的做法。这类基于机械进修的预测性人工智能系统正在军事组织中惹起了日渐稠密的乐趣。跟着跨地区、多范畴互联的人工智能决策支撑系统的成长，正在方针选定过程中将沉心更多放正在方针发觉而非方针识别上，将是人工智能更普遍使用轨迹中高度可能的成长标的目的。此举将加剧猜忌和，并使关系愈加严重，而非予以缓和。我们当前面对的处境恰是全球严重场面地步不竭扩张和升级。结合国秘书长安东尼奥·古特雷斯指出，针对自从兵器系统采纳步履的机会就是现正在，“必需不吝一切价格保留人类的能动性”，这完全准确——但要确保实现这一点却面对庞大挑和。并且这一挑和不只关乎兵器系统的完全自从性，还涉及军事方针选定对人工智能决策支撑系统日益增加的依赖性。我赞扬所有旨正在汇聚多好处相关方以配合应对这一新手艺的。由于若是我们对其掉臂，它确实将改变我们本身，以及我们相互之间和取世界的关系。这些会商是我们火急需要的，具有至关主要的意义。然而，正在风险跨越现实好处的环境下，正在投资好处相关方的好处取国际社会更普遍方针相悖的环境下，正在利用人工智能系统所导致的动态场合排场取正在和平中的旨和各走各路的环境下，不然所谓的“军事范畴负义务人工智能”将只能是想入非非。换句话说，若是人工智能的现实取负义务人工智能的无法相容，那么我们就必需愈加关心何时以及若何避免正在军事步履中利用人工智能系统。