美国人工智能国家安全备忘录核心解读（上）

前言

10月24日，拜登政府发布了首份人工智能的《国家安全备忘录》（以下简称备忘录），包含一份未公开的应对竞争对手威胁的机密附件，旨在巩固和推进美国在人工智能领域的全球领导地位，利用人工智能实现国家安全目标，以及促进人工智能的安全性、可靠性和可信性。同时，白宫还发布了《国家安全领域推进人工智能治理和风险管理框架》（以下简称框架），提供进一步实施备忘录的细节和指导，包括要求建立风险管理、评估、问责和透明度机制。

此备忘录延续了2023年10月30日第14110号行政命令第4.8条中的指令（安全、可靠和可信的人工智能开发与使用），补充了此前白宫管理和预算办公室针对非国家安全任务发布的指南。

一、背景及目的

白宫国家安全顾问沙利文指出，美国必须比竞争对手更快地在AI技术和国家安全领域进行部署，“他们正不断寻求超越我们的军事情报能力”。这是美国为了促进国家安全，首次针对如何运用AI的能力和管理其风险所制定的策略。该备忘录首度要求国防部和情报机关加快运用AI强化国家安全，以减少来自中国等对手的“战略突袭”风险。

指导备忘录工作的原则，一是引领世界发展安全、可靠和可信的人工智能，并建立一个稳定和负责任的框架来推进AI全球治理。二是是利用最先进的AI系统和适当的保障措施来实现国家安全目标。

备忘录和框架建立在过去一年AI治理的重大国际进展之上。如本备忘录中关于AI安全（Safety）和可靠（Security）的定义与G7《广岛进程组织开发先进人工智能系统的国际行为准则》一致。以及框架实际上引用了美政府于荷兰海牙“军事领域负责任使用AI峰会”发布的、目前56国签署的《关于负责任地军事使用人工智能和自主技术的政治宣言》。

二、三大核心目标

1.巩固和推进美国在人工智能领域的全球领导地位

备忘录强调，美国必须在全球范围内巩固和推进其在人工智能技术研发和应用的全球领导地位。一是促进国内人工智能研发的进步、创新与竞争，不断推进世界最先进的半导体开发和AI专用算力基础设施建设。并根据该目标要求白宫办公厅、能源部及相关机构协调简化相关基础设施建设流程，如清洁能源发电、输电线路和高容量光纤网络。二是保护美国工业、民间社会以及学术界的人工智能知识产权和相关基础设施免受外国情报威胁。三是加倍投入国家人工智能研究资源（已在试点中），加强与高校、企业和研究机构的合作，推动人工智能技术的创新和应用。四是通过国内人才培养和国际顶尖人才引进等措施，进一步加强美国在人工智能领域的领导力和竞争力。五是构建稳定且负责任的国际人工智能治理体系，积极参与制定和引导全球AI规范及相关机构的发展。备忘录表示竞争对手正在加紧追赶，并已将人工智能视为首要战略优先事项，失去美国的技术领先地位不仅会严重损害美国的国家安全，还会削弱美国的外交政策目标。

2.利用人工智能实现国家安全目标

备忘录通篇83处提及国家安全，强调应加速美国政府在人工智能相关国家安全政策上的必要变革。备忘录安全相关部分主要侧重于商务部下人工智能安全研究所（AISI）的工作，提供了目前最清晰的对AI安全与美国国家安全利益之间关系的阐述。该备忘录可作为AISI的正式章程，确立了AISI作为美国政府与私营部门AI开发者的主要联系点的角色。

（1）保护美国人工智能免受外国情报威胁。

一加强对美国AI生态系统及其关键支撑行业（如半导体设计和生产）的外国情报威胁的识别和评估。二识别AI供应链中的关键节点，并制定最有可能被外国行为主体破坏或危及的节点和途径清单。三防范AI知识产权竞争风险，以确保技术优势不被侵蚀。

（2）确保对AI在军事上的应用。

首先确保AI的使用符合总统作为三军总司令决定何时下令进行国家防御军事行动的权限；其次确保对AI军事能力的使用有责任追查，包括在军事行动中通过负责任的人类指挥与控制链加以执行加快AI技术在军事领域的研发和应用，提高美军战斗力。

（3）利用AI技术加强网络安全防护。

一相关机构应根据NSS（国家安全系统）的National Manager发布的与AI系统相关的网络安全指导或指令，实施网络安全措施，以应对恶意行为者利用新技术的风险，并确保AI系统在各机构之间的互操作性。二定期进行针对用于NSS组件的AI发布最低网络安全要求和/或指示。三应当发布非涉密指南，内容涉及已知的AI网络安全漏洞和威胁，并就规避、检测和缓解模型开发与部署中出现的此类问题提供最佳实践。

3.促进人工智能的安全性、可靠性和可信性

备忘录强调，人工智能技术的快速发展带来了诸多安全、可靠和可信性挑战。为应对人工智能技术的潜在风险和挑战，备忘录提出将采取系列措施，加强对人工智能技术的监管与管理。一是探索新的技术和政策工具，并要求美国政府的AI治理与风险管理政策必须与技术发展保持同步，以应对人工智能带来的潜在挑战。二是前沿AI模型在公开部署前后的自主安全性、可靠性及可信度测试，非机密自主应用前安全测试，包括与网络安全、生物安全、化学武器、系统自主性等相关的风险评估，以及其他适宜的风险评估。自主的非机密安全测试还应适当应对与人权、公民权利和公民自由相关的风险，如隐私、歧视和偏见、言论自由以及个人和群体的安全等风险。