Anthropic 向美国国家安全局派驻工程师,国防 AI 法律博弈加剧

Anthropic
Anthropic Embeds Engineers at the NSA as Legal Warfare Over Defense AI Deepens
Anthropic 将持有安全许可的技术人员派驻至情报机构以开发进攻性网络工具,同时对五角大楼限制 Claude 使用的采购政策提出异议。

这一双重发展标志着人工智能在经济与治理层面出现了一个深刻的结构性转折点。多年来,前沿人工智能开发商一直维持着严格的可接受使用政策(AUP),明确禁止将其模型武器化、开发恶意代码,或将其软件直接集成到动态和进攻性的军事工作流程中。然而,企业软件经济的运营现实,加上来自国家国防当局日益增加的压力——这些部门将高级推理模型视为非对称的主权资产——已经迅速瓦解了这些话语界限。Anthropic 不再仅仅是一个观察性的安全实验室;它现在已成为一个综合性的国防基础设施提供商,处于美国情报基础设施的顶端。

推动这种嵌入式合作的工程必要性,直接源于 Claude 在代码生成、漏洞分析和复杂系统理解方面的架构优势。虽然 Claude 3.5 Sonnet 的公开发布版本采用了密集的人类反馈强化学习(RLHF)层以及旨在拒绝恶意负载查询的宪法级约束,但进攻性网络行动恰恰需要相反的行为。情报分析人员不需要通用的聊天回复;他们需要能够解析数十亿行反编译二进制代码、追踪抽象语法树(AST)、执行符号执行模型,并自动构建针对遗留工业控制硬件和加固网络设备的有效漏洞利用链的系统。

在盾牌后运作:SCIF 内 AI 的运行机制

将大型前沿模型集成到高安全性情报节点中,主要是一个机械和架构方面的挑战,而非纯粹的算法挑战。商业软件即服务(SaaS)API 通过商业数据中心的集中式多租户集群路由查询,这对于敏感隔离信息设施(SCIF)来说是完全不可行的。情报界不能允许提示词、专有的反编译二进制数据或目标漏洞图表流出物理隔离的主权边界之外。因此,驻扎在 Fort Meade 的 Anthropic 人员正致力于将 Claude 的独立、硬件原生实例部署到高密度、物理隔离的超级计算环境中。

现场工程师还必须解决围绕上下文处理的严重运营瓶颈。现代进攻性网络行动会产生海量的非结构化机器数据:内存转储、来自 Ghidra 等逆向工程平台的反汇编日志,以及复杂的网络数据包捕获(PCAP)。Claude 巨大的上下文窗口使分析人员能够将整个固件镜像直接转储到活动的提示词缓存中。技术挑战在于如何管理跨本地图形处理集群的键值(KV)缓存内存占用,以确保系统在执行实时模糊测试和漏洞关联分析时不会因内存分配不足而崩溃。

国防部的合同裂痕

尽管 Anthropic 的工程团队深度整合到了信号情报机构中,但其高管层正在对五角大楼的集中采购机构发起激进的法律攻势。该诉讼根据管辖竞争性联邦采购的标准条款在联邦法院提起,挑战了国防采购官员的行政手段,这些手段将 Claude 排除在联合战斗云能力(JWCC)及相关边缘计算合同下的特定作战任务订单之外。

法律冲突的根源在于国防部首席数字与人工智能办公室(CDAO)如何构建其针对影响等级 6(IL6)环境的认证流程。IL6 许可管辖着保密级别高达“机密”(Secret)的国家安全信息处理,包括战术指挥与控制行动。Anthropic 通过与 Palantir 和 Amazon Web Services 等平台中介机构的正式商业合作进入这些环境,试图将 Claude 定位为任务分析、物流优化和战场自动化决策支持的核心认知后端。

然而,国防采购官员系统性地偏袒了竞争性模型架构,并在专有的采购决定中声称 Anthropic 的宪法安全约束构成了运营负债。五角大楼的采购领导层认为,硬编码的软件护栏——旨在防止模型生成生物合成协议、战术弹药制导或致命目标向量——可能导致在积极的军事机动过程中出现未经提示的拒绝服务。在高节奏、致命的交战中,算法拒绝处理指令构成了一种不可接受的系统性故障。Anthropic 的法律挑战声称这些排斥行为是武断、反复无常且技术上存在缺陷的,并论证其定制的政府权重参数既满足了所有严格的战术指标,又在计算保真度上超越了传统的国防承包商替代方案。

算法利用的实用性

争议的核心是一个根本性的技术能力问题:尽管存在流程摩擦,为什么 Claude 对网络作战部队变得不可或缺?答案在于传统确定性漏洞扫描器的局限性。静态和动态代码分析工具(SAST 和 DAST)在历史上产生了巨大的误报率,迫使人类安全分析人员花费数千个人工小时手动验证潜在的软件漏洞。

具有高级推理参数的最先进 Transformer 架构完全改变了这种动态。当推理引擎的嵌入式实例被集成到进攻性网络框架中时,它不仅仅是标记工业监控和数据采集(SCADA)系统中的易受攻击的缓冲区溢出。相反,它会读取汇编指令,识别内存偏移量,考虑地址空间布局随机化(ASLR)和数据执行保护(DEP)等现代操作系统保护措施,并在隔离的虚拟容器内迭代编写、测试和优化定制的负载。

工业规模与商业和平主义的崩塌

Anthropic 的软件运营与联邦情报框架的融合凸显了一个不可回避的经济现实:构建、训练和扩展前沿模型需要前所未有的资本、能源和计算硬件投入。训练下一代模型所需的资本支出——目前单次涉及数十万个专用加速器的训练运行成本高达数十亿美元——仅靠商业订阅收入和消费级企业许可无法长期维持。

随着网络战从人类速度的分析转向模型速度的自动化漏洞发现和负载交付,掌握最复杂模型权重的组织也就掌握了战略威慑的工具。Anthropic 在 Fort Meade 的存在证实了软件工程的前沿领域已不再受商业市场束缚。对高级推理模型最关键的实战测试目前正在地下的物理隔离服务器库中进行,在这里,成功的衡量标准不再是消费者参与度,而是对敌对数字基础设施的系统性破坏。

Noah Brooks

Noah Brooks

Mapping the interface of robotics and human industry.

Georgia Institute of Technology • Atlanta, GA

Readers

Readers Questions Answered

Q 为什么 Anthropic 的工程师直接在国家安全局的设施内工作?
A Anthropic 派遣了具备安全许可的技术人员前往米德堡(Fort Meade),协助将 Claude 的隔离式硬件原生实例集成到安全隔离设施内的气隙超级计算环境中。由于商业云 API 无法用于敏感的情报工作流,这些驻场工程师在本地硬件上优化模型,以分析反编译的二进制文件、对固件进行逆向工程,并支持高级进攻性网络作战,确保数据不会离开主权边界。
Q 为什么美国国防部将 Claude 排除在某些军事合同之外?
A 五角大楼的采购官员和首席数字与人工智能办公室(CDAO)对 Anthropic 的“宪法级”安全护栏可能带来的操作风险表示担忧。在快节奏的战术或战场指挥控制场景中,采购领导层认为,硬编码的软件约束可能会导致模型意外拒绝执行关键命令。因此,国防部门更倾向于在“联合战斗云能力”(JWCC)框架下,为机密的“影响级别 6”(Impact Level 6)环境选择替代架构。
Q Anthropic 针对五角大楼的采购决定提出了哪些法律挑战?
A Anthropic 提起了一项联邦诉讼,旨在反驳那些阻止 Claude 进入主要国防云合同任务订单的行政措施。该公司认为,政府的采购排斥行为是武断、反复无常且在技术上缺乏根据的。Anthropic 坚持认为,其定制化的政府模型权重完全符合战术防御需求,消除了不可接受的拒绝响应风险,并且在分析准确性方面优于竞争对手的传统承包商产品。
Q 大型语言模型有哪些技术优势使其在情报网络作战中非常有用?
A 传统的静态和动态漏洞分析工具会产生大量的误报,需要耗费大量人力进行验证。像 Claude 这样先进的推理模型通过快速解析复杂的二进制代码、追踪抽象语法树以及处理内存转储和网络数据包捕获等海量非结构化数据,显著简化了这一流程。Claude 的大上下文窗口使情报分析人员能够一次性评估整个设备固件镜像,从而实现自动化的漏洞发现。

Have a question about this article?

Questions are reviewed before publishing. We'll answer the best ones!

Comments

No comments yet. Be the first!