以俄罗斯入侵乌克兰为背景，联合国最近举行了一次会议，讨论自主武器系统的使用，通常被称为杀人机器人。这些本质上是武器，其程序设定为寻找一类目标，然后在该类别中选择和攻击特定的人或物体，而对所做决定的控制权很少。
俄罗斯成为本次讨论的中心，部分原因是其在该领域的潜在能力，同时也因为其外交官阻挠了讨论这些武器的努力，称制裁使其无法适当参与。对于迄今为止进展过于缓慢的讨论，俄罗斯的破坏使其进一步放缓。
七年多来，我一直在跟踪自主武器的开发，并参加联合国关于该问题的讨论，俄罗斯的侵略正在成为人工智能（AI）驱动的战争如何以及可能如何进行的令人遗憾的测试案例。
支持科学新闻报道
如果您喜欢这篇文章，请考虑支持我们屡获殊荣的新闻报道，方式是 订阅。通过购买订阅，您正在帮助确保未来能够继续讲述关于发现和塑造我们当今世界的想法的具有影响力的故事。
这些武器系统中某些技术尚不成熟且容易出错，并且关于系统如何运行和做出决策的信息很少清晰。其中一些武器将不可避免地击中错误目标，而竞争压力可能会导致部署更多尚未准备好用于战场的系统。
为了避免在乌克兰及其他地区无辜生命的丧失和关键基础设施的破坏，我们需要至少付出最强有力的外交努力，在某些情况下禁止，在另一些情况下监管这些武器及其背后技术的使用，包括人工智能和机器学习。这至关重要，因为当军事行动进展不顺利时，各国可能会试图使用新技术来获得优势。俄罗斯的KUB-BLA 巡飞弹药就是一个例子，它有能力使用人工智能识别目标。
输入到基于人工智能的系统中的数据可以教会远程武器目标的外观，以及到达目标后该怎么做。虽然与面部识别工具类似，但用于军事用途的人工智能技术具有不同的影响，特别是当它们的目的是摧毁和杀戮时，因此，专家们对将它们引入动态战争环境表示担忧。虽然俄罗斯可能成功地阻止了对这些武器的实时讨论，但它并非孤立无援。美国、印度和以色列都在反对对这些危险系统的监管。
人工智能在其在网络战中的应用可能更成熟和广为人知，包括为恶意软件攻击提供动力，或更好地冒充受信任的用户以访问关键基础设施，例如电网。但是，主要大国正在使用它来开发具有物理破坏性的武器。俄罗斯已经在自主坦克方面取得了重要进展，这些机器可以在没有人工操作员的情况下运行，理论上操作员可以Override错误，而美国已经展示了多项能力，包括可以使用弹药摧毁水面舰艇的无人机群。人工智能被用于开发集群技术和巡飞弹药，也称为神风特攻队无人机。这些系统使用的不是科幻电影中看到的未来机器人，而是利用人工智能技术的现有军事平台。简而言之，几行代码和新的传感器就可以改变军事系统是自主运行还是在人工控制下运行。至关重要的是，将人工智能引入军队的决策可能会导致对技术的过度依赖，从而影响军事决策并可能升级冲突。
基于人工智能的战争可能看起来像电子游戏，但据空军部长弗兰克·肯德尔称，去年 9 月，美国空军首次使用人工智能来帮助识别“实时作战杀伤链”中的一个或多个目标。据推测，这意味着人工智能被用于识别和杀死人类目标。
关于该任务的信息很少，包括发生的伤亡是否是预定目标。使用哪些输入来识别这些人？识别中是否可能存在错误？人工智能技术已被证明存在偏见，特别是针对妇女和少数族裔群体。错误识别对已经边缘化和种族化的群体造成了不成比例的影响。
如果最近社交媒体上人工智能社区的讨论可以作为任何迹象，那么主要来自私营部门的开发人员正在创造一些军队已经部署的新技术，但他们大多没有意识到其影响。《财富》杂志的科技记者杰里米·卡恩在文章中认为，开发人员与包括美国和俄罗斯在内的主要军队之间存在危险的脱节，这些军队正在决策和数据分析中使用人工智能。开发人员似乎没有意识到他们正在构建的某些工具的通用性，以及军队如何在战争中使用它们，包括针对平民。
毫无疑问，当前入侵的教训也将影响军队追求的技术项目。目前，美国处于领先地位，但俄罗斯和中国在 2 月初发表的联合声明指出，他们的目标是“共同构建新型国际关系”，并特别指出他们旨在塑造包括我认为将是人工智能军事用途在内的新技术治理。
美国及其盟友正在独立制定负责任地使用人工智能于军事用途的规范，但总体上没有与潜在的对手对话。总的来说，技术更先进的军队不愿意接受对人工智能技术发展的任何限制。这就是国际外交至关重要的地方：必须对这些类型的武器进行限制，并且每个人都必须同意使用这些技术的共同标准和透明度。
乌克兰战争应该成为关于战争中技术使用的警钟，以及规范人工智能技术以确保平民保护的必要性。不受约束且可能仓促开发的军事人工智能应用将继续破坏国际人道主义法和关于平民保护的规范。尽管国际秩序一片混乱，但当前和未来危机的解决方案是外交而非军事，联合国或另一个集团的下一次聚会需要迅速解决这场新的战争时代。