朱荣生：清华大学战略与安全研究中心特约专家
肖茜：清华大学战略与安全研究中心副主任
当前，人工智能技术的快速发展和现实应用越来越吸引国际社会的广泛关注。2023年3月，openai发布的chatgpt—4.0因其强大的对话功能迅速在全球“爆火”， 引发企业和实验室搭建大模型的激烈竞争。2024年2月，openai公布了旗下视频生成模型sora的演示视频，其逼真的视频效果令科技界惊叹。伴随着人工智能技术展露出的惊人效果，如何应对这项新兴技术带来的潜在风险成为国际舆论的讨论焦点。科技和产业界发出多封公开信并呼吁高度重视“人类文明被机器终结”的可怕后果以及“灭绝性风险”。荷兰、英国、新加坡、中国等国家以及不同国际组织在2023年举办了各种形式和范围的论坛与峰会，探索人工智能全球治理的合作路径。
中美作为两个人工智能大国开启了人工智能治理沟通的大门。2023年11月15日，习主席在美国旧金山斐洛里庄园同美国总统拜登会晤，两国领导人达成建立中美人工智能政府间对话机制的共识。2024年1月27日，王毅在曼谷同美国总统国家安全事务助理沙利文会晤，为落实两国元首旧金山会晤共识，双方同意在今年春天举行中美人工智能政府间对话机制首次会议。
中美如何在有限的大国合作空间里务实寻求共识，恐怕是一项艰巨的政策研究课题。人工智能是应用场景广泛的军民两用技术，在当前两国互信程度较低且美国加大对华科技制裁的背景下，中美在较为宽泛的社会治理领域开展政策沟通进而形成某种共识的可能性要强于更为敏感的军事安全领域。尽管如此，如何防范人工智能武器化应用冲击中美战略稳定关系依然是一个极为重要的话题。因此，我们希望通过回顾清华大学战略与安全研究中心与美国布鲁金斯学会举行的“中美人工智能与国际安全”二轨对话，为中美之间人工智能领域的二轨对话和即将开启的中美人工智能政府间对话提供参考。
“中美人工智能与国际安全二轨对话 ”的诞生与发展
（一）对话背景与缘起
自2016年谷歌ai系统alphago战胜世界围棋冠军李世石以来，人工智能技术的快速发展开始引发政策研究界思考ai与国际安全的关系。2017年7月，哈佛大学肯尼迪学院贝尔福科学与国际事务中心发布《人工智能与国家安全》报告，认为未来人工智能有可能成为与核武器、飞机、计算机、生物技术不相上下的变革性国家安全技术。2018年5月，布鲁金斯学会在《人工智能改变世界》报告中提出“极速战”（hyper war）概念，指出战争是一个与时间赛跑的过程，决策最快和执行最快的一方通常会占上风。彼时，政策研究界存在的一种预测是在人工智能辅助下的指挥和控制系统，其决策速度会超越传统战争模式，能够自主决定发射致命武器的自动武器系统将加速战争进程。
2018年，清华大学战略与安全研究中心（以下简称战略中心）在时任主任傅莹大使的指导下启动人工智能与安全项目小组，重点探讨人工智能技术的发展对国家安全和国际关系的影响以及构建共同准则的可能性。2018年7月，清华大学第七届世界和平论坛举办“人工智能与安全”分论坛，邀请来自美、英、法、德、澳、日、印等多国研究人工智能技术与治理的专家60余人进行深入讨论。专家们提出，虽然目前大致可以判断出机器学习、工业机器人、材料科学等技术的未来发展趋势，但这些技术结合起来给未来战争造成的具体影响尚无法准确预估。在讨论中，有专家认为，无论“算法战”还是“蜂群”战术，战略界的热议都还是从单项技术出发分析其对作战的影响，如果不能从整体上认识人工智能技术的军事运用，设想出来的应对措施有可能成为昂贵而无用的新“马奇诺防线”。2019年7月，在清华大学第八届世界和平论坛“人工智能：技术与治理”分论坛上，人工智能与军事结合的问题继续得到广泛的关注。不少专家认为，人工智能的军事化运用是一把“双刃剑”，它拥有的“机器学习”和“自主能力”既可以增加预警、防御、侦查、模拟能力，增强战略稳定性，也可能改善非战略核武器和导弹系统，推动军备竞赛，加剧不对称性，从而带来战略不稳定性。
同年11月，在彭博创新经济发展论坛的ai分论坛上，傅莹在与基辛格博士和时任谷歌公司首席执行官斯密特（eric schmidt）先生同台讨论时提出一系列发人深省的问题：“我们在谈论未来和如何面对技术进步之前，首先需要想明白，中美是要协调合作还是彼此对抗？当前两国之间日益恶化的紧张关系必然会影响到我们如何应对未来的挑战。未来我们是要共同努力，让技术与人类共生，让世界避免技术风险，并确保技术的进步能够促进文明的繁荣，还是要分道扬镳，各自挟持技术削弱甚至伤害对方？”
2019年10月，清华大学战略中心与美国布鲁金斯学会正式启动“人工智能与国际安全”联合研究项目。从2019年至2024年，双方的学术讨论在过去近五年时间里顿挫推进。其间，中美战略分歧上升、相互信任下降，但是，参加项目的双方学者都认为，对ai赋能的武器，尤其自主性武器的治理事关重大。这个项目的进程从一个侧面反映了大国博弈中前沿学术合作研讨的艰难，但其成果令人鼓舞。
（二）艰难的对话议题探索
自2018年3月特朗普对华启动所谓的“301调查”之后，中美关系因“贸易战”“科技战”“舆论战”等诸多摩擦而迅速恶化，政策研究界一度用“断崖式下跌”“新冷战”来描述彼时的情景。在这种激烈的大国竞争背景下，中美之间的不少官方对话被迫中断，人工智能治理合作等尚未进入政策辩论核心的议题更奢谈提上日程。
新冠疫情期间，政策研究界围绕人工智能军事化的安全风险展开讨论，尤其是人工智能融入军事体系后对战略稳定性的冲击效应几何是一个重要的研究议题。对于人工智能武器化所产生的国际安全不确定性，大体上有三类观点。变革派认为，技术优势国家的军事实力将迎来“质”的突破，令技术弱势方只能处于被动挨打的状态。特别是在战略领域，人工智能强大的精确打击、精准识别以及快速决策的赋能效果将削弱二次核打击国家的核报复能力，这或将降低危机稳定性。演进派则认为，人工智能只会起武力“放大器”的作用，依赖二次核打击的国家可以通过提高报复力量的生存能力抵消技术劣势。谨慎派强调，人工智能的赋能好处还不明确，其固有的不足可能限制军事部门的快速部署。
在人工智能军事化的安全风险和治理手段尚不清晰的前提下，项目专家围绕相关议题进行了艰难的议题探索。项目最初的焦点是如何围绕ai赋能武器建立一定的治理共识和规则。在2020年—2021年的第二轮至第四轮对话会上，双方专家围绕人工智能军事化应用的目标识别范围、符合比例原则等国际法准则、训练数据和系统安全以及中美治理合作等议题各自提交论文，并在会议上就相关问题开展交流。在这些讨论中，两国的专家认识到彼此关于人工智能军事应用给国际法、国际安全带来的新挑战以及两国的潜在关切，探讨了在军事人工智能研发、部署和应用各个环节采取不同程度预防性措施的可行性。例如，双方专家都认同不将民用设施作为智能武器的攻击目标，不对民用机场、大坝等基础设施进行攻击。
这一对话平台为推动中美人工智能治理的政策研究提供了重要的交流渠道。一方面，对话所涉及的议题和概念更加清晰，为中美开展危机预防和危机管控的探索性研究提供了不同视角。例如，一国武器的自主化程度和进攻性效果越强就越有可能加剧安全困境，而要缓解安全困境所要采取的预防性措施之一则是在加强技术安全和稳定性的同时对攻防予以区分，从而降低意外和维持攻防平衡。另一方面，专家层面的政策沟通增进了对彼此国家政策的理解。例如，对官方文件中核心概念的直接沟通更有利于减少因语言和文化差异所产生的误解。
（三）聚焦中美建立人工智能信任措施
在前期的对话中，两国专家除了要克服疫情对人员国际流动所造成的技术困难之外，还面临三方面的研究难题。一是因中美关系恶化，很难找到具有可操作性的两国合作方案。二是人工智能军事化应用的案例相对较少，难以评估其对国际安全和稳定所产生的冲击效果，更难以根据现实情景深入讨论相应的预防措施。三是对涉及人工智能军事化的相关术语存在不同的理解，这不免降低了双方专家的沟通效率。
虽然对话面临上述理论和现实的种种困难，但是双方团队从维护两国战略稳定关系的角度出发对如何建立信任措施做了不少探索性工作。在2023年2月的第七轮对话会上，中方专家提交了基于对八位中国专家和七位美国专家就中美人工智能建立信任措施进行访谈的报告。中美专家总体认同，政治互信下降、军事对抗趋紧、科技竞争激烈等因素增加了两国建立人工智能信任措施的不确定性。而从建立信任措施的角度出发，两国自愿增加政策透明度、开展政策沟通的可操作性相对较高，而开展核查检验则面临不小的技术难题和缺乏政治互信的挑战。
▲2023年2月18日，中共中央政治局委员、中央外事工作委员会办公室主任王毅在德国出席慕尼黑安全会议并发表主旨讲话。美国国务卿布林肯也于同一天出席慕尼黑安全会议。
为了克服人工智能军事化现实应用案例相对不足的挑战，双方团队设计了不同的讨论场景。场景小组付出巨大努力，设计了包括致命性/非致命性自主武器的应用、自主/智能技术在太空和深海的使用、大模型为战场提供决策支持以及人工智能干预选举造成双方军事冲突等多样化场景。值得注意的是，在场景推演的过程中，中美专家都强调了人类在危机管控中所发挥的重要作用。其中潜藏的政策含义是两国建立信任措施有可能缓解人工智能军事化应用所产生的国际安全不确定性，大国开展负责任的沟通对话能够起到应对当前国际舆论所谓的人工智能“灭绝性风险”的作用。
为解决中美专家组对人工智能军事化的相关术语存在不同理解的问题，双方团队成立术语工作组，并于2023年8月10日就人工智能术语表的框架和词条目录举行了第一轮交流会。在此后的交流中，中方专家组提出相关术语64条，美方专家组提出42条，双方作出共同解释的术语共25条。2024年2月，在慕尼黑举行的第九轮对话中，双方重点探讨了六条核心术语，包括武器系统、无人系统、自主武器系统、致命性、自主与自动化、人机交互。中美专家围绕自主与智能的区别、人机互动的相关术语依然存在部分分歧，这不仅反映出人工智能这项技术的复杂性，也在某种程度上映射了实施相关军控措施的艰难程度。
中美“人工智能与国际安全二轨对话 ”经验总结
“轨”（track）这个术语最早是由前美国外交官约瑟夫·蒙特维利（joseph montville）在1987年提出，用来指非国家行为者参与的非官方外交领域的谈判活动。他同时指出，二轨外交是指在有冲突或争端的组织或者国家之间进行的一种非官方的、非正式的接触和互动，其目的是通过寻找战略方法，影响舆论并组织人力、物力资源以解决冲突。中国学者朱旭峰则认为，二轨外交是指社会知识精英层的国际合作与对话，尤其是指那些政策研究专家。他同时引用美国东西方中心主任莫里森（morrison）的观点，将二轨外交的作用归纳成：支持一轨政策、提供并试验新思想、提供思想资源的储备等。
清华大学战略中心与布鲁金斯学会的“人工智能与国际安全”联合研究项目也被双方项目团队冠以二轨对话之名。项目之初，中方牵头人为中国外交部前副部长、时任清华大学战略与安全研究中心主任傅莹，美方牵头人为时任布鲁金斯学会主席、退役海军上将约翰·艾伦（john allen）。在团队成员方面，由于讨论的议题跨越多个学科，需要技术人员和政策研究者一起探讨，双方分别邀请了研究中美关系、人工智能技术、治理和军事应用以及军控领域的学者与专家参与。
项目自2019年底启动，2020年2月在慕尼黑举行第二轮对话后即遭遇新冠疫情。此后三年间，双方团队克服种种挑战，以线上视频会议的方式完成了数轮对话。2020年12月，傅莹和约翰·艾伦在美国noema杂志分别发表文章，公布联合研究成果，介绍双方专家的讨论和主要观点，旨在提高国际社会和两国各界对人工智能武器化风险的认知和警惕，并提出治理建议。在对话的地点、主题、形式以及参加人员方面，双方始终保持以友好协商的方式做出安排，即使在中美关系陷入低谷，官方沟通渠道一度中断之时，中美项目组仍保持每年两次的对话节奏，并挑选第三国作为面对面对话地点。为更好地为一轨政策提供支持，双方智库以邀请官方人员作为观察员旁听会议、适时向政府部门提交会议总结、汇报项目进展等方式，持续保持与各自政府机构的互动和沟通。2024年4月，中美项目组在各自机构网站上发布阶段性项目总结，对过去五年九次对话取得的共识与进展进行了梳理，并对下阶段工作进行展望。
在与美方对话过程中，战略中心逐渐形成以项目为牵引的稳定的跨学科研究团队。项目组定期召开研讨会，围绕人工智能技术与治理以及军用人工智能的伦理、法律、技术、军事和治理机制等问题邀请嘉宾分享或进行讨论，逐步形成人工智能军事应用领域的学术共同体。项目组在与美方进行交流的同时，也在逐步开展与欧洲、东南亚国家智库的对话与交流。
▲2023年11月，全球第一届人工智能安全峰会在英国伦敦召开。
中美人工智能二轨对话的作用探讨
通常而言，在国家间外交沟通不畅的时候，民间对话可以起到维持沟通渠道、为官方政策制定提供信息和智力支撑的服务作用。而在中美就人工智能治理的官方接触将要启动的当下，民间对话对外交沟通将起到重要的支撑作用。
自两国领导人达成建立中美人工智能政府间对话机制的共识以来，中美之间在人工智能领域的二轨对话纷纷出现，在中美各种二轨对话平台上，人工智能也成为越来越热门的议题。此外，在各类人工智能相关的国际论坛上，中美不仅发挥着议题设置、嘉宾邀请的引领性作用，同时两国在人工智能治理问题上的互动也备受各方关注。
为实现二轨外交更好为一轨外交提供支撑的功能，一方面，二轨对话可就中美政府间对话可能长期关注的议题进行研究。例如，梳理人工智能技术和应用的关键术语，进一步探索中美开展治理合作的法律和政策基础，挖掘两国维护战略稳定关系的共有规范和规则。对今年春季将举行的中美人工智能政府间对话而言，宽泛的人工智能治理议题可能比敏感度较高的军用人工智能更容易被提上日程。2024年美国即将举行总统大选，新政府对华战略尚不明确，未来中美人工智能政府间对话是否能继续开展仍存在不确定性，更遑论就人工智能军事议题进行沟通。因此，聚焦于军事领域的中美人工智能二轨对话依然需要发挥维持沟通管道和开展探索性研究的作用。
另一方面，二轨对话可开展人工智能“风险识别”研究。例如，评估人工智能大模型的现实应用引发的全球安全风险，研判人工智能军事化应用可能在哪些方面增加两国战略关系不稳定性。就识别人工智能武器化风险而言，一个方向是，探索建立划分武器装备的自主/智能水平的框架，并且基于开源情报对相应的武器装备进行归类。另一个方向是，以纳卡冲突、巴以冲突、乌克兰危机等等近年来的武装冲突为重点，梳理可能不利于维护国际安全稳定和违反国际道义的现实案例。例如，某些武器装备在使用中出现意外的案例，违反国际法相关武力使用原则的案例，等等。
在提供并试验新思想以及提供思想资源的储备方面，中美二轨对话似可突破官方障碍，更多在民间层面探讨中美在人工智能领域进行合作的空间和方式。作为人工智能技术和应用发展最快的两个国家，中美在此领域开展对话与合作至关重要，一方面可降低这一领域影响中美双边关系和国际安全的潜在风险，另一方面可探讨如何推动构建国际层面的规范和制度，为全球人工智能治理合作贡献智慧。
本文2024年4月15日首发于“中美聚焦”
