华盛顿出口禁令迫使 Anthropic 全球停用旗舰模型

Anthropic
Washington’s Export Order Forces Anthropic to Kill Flagship Models Globally
作为科技保护主义的一次重大升级,美国政府已下令 Anthropic 限制境外用户访问其 Mythos 级 AI 模型,理由是这些模型存在无法修复的网络安全漏洞。

无国界人工智能的时代可能已经彻底终结。美国商务部发布的一项史无前例的出口管制指令,要求 Anthropic 停止向所有外籍人士提供其最先进 AI 模型的使用权限,这一举措在科技行业和国际外交圈引发了轩然大波。该指令针对的是新发布的 Claude Fable 5 和高性能的 Mythos 5 模型,标志着华盛顿首次成功利用出口法律,因安全顾虑将一款商业软件产品从全球市场中强制下架。

对于长期将自己定位为 OpenAI“安全至上”替代方案的初创公司 Anthropic 而言,该指令是一次灾难性的业务打击。为了确保遵守指令中复杂的法律要求,该公司宣布将突然在全球范围内禁用这些旗舰模型,包括美国境内的用户,同时加紧构建验证用户国籍所需的必要基础设施。此次停用反映出特朗普政府的态度正在趋于强硬,不再仅仅将高级人工智能推理视为一种服务,而是将其视为一种受限的军火。

技术触发点:Mythos 架构中的漏洞

争端的焦点在于 Anthropic 所谓的“Mythos 级”模型的技术能力。几周前发布的 Claude Fable 5 在递归推理和代码合成方面实现了重大跨越。然而,据美国政府称,正是这些能力造成了无法接受的国家安全风险。具体而言,联邦调查人员据称发现了一个“狭窄的、非通用的越狱”(jailbreak)——这是一种用户可以绕过模型内部防护栏,利用 AI 识别并利用软件漏洞的技术。

尽管 Anthropic 辩称该越狱范围有限,且竞品模型中也存在类似漏洞,但美国国防部不为所动。从机械工程的角度来看,风险在于规模。一个能够进行自主代码审计的模型,能够以人类红队无法比拟的速度和数量分析银行的遗留 COBOL 系统或电网的 SCADA 控制系统。政府担心的是,外国对手可能会利用这些美国制造的工具来绘制美国关键基础设施的攻击面。

“修补”大语言模型在技术上与修补传统软件有着根本的不同。在标准应用程序中,开发人员可以定位导致内存泄漏或逻辑错误的具体代码行。但在像 Mythos 5 这样的 Transformer 模型中,其行为是突现的且具有概率性。不存在某种单一的开关,可以在防止模型发现缓冲区溢出的同时,还能让它继续作为合法软件工程师的实用工具。正是这种固有的不可预测性,导致监管机构要求彻底停止访问,而不是进行简单的更新。

地缘政治摩擦与五角大楼黑名单

指令发布的时间点表明,这不仅仅是对技术故障的响应,更是 Anthropic 与现任政府之间长期积怨的升级。据报道,今年早些时候,Anthropic 的领导层以公司内部道德章程为由,拒绝让美国军方将其实验室的模型用于国内监控和全自主武器系统。这一拒绝导致五角大楼将 Anthropic 列入了供应链黑名单,此举威胁到了该公司获取政府合同的能力。

此类要求的行政负担巨大。为了恢复服务,Anthropic 很可能需要实施严格的“了解你的客户”(KYC)协议,要求用户上传政府颁发的身份证件,并可能需要进行生物识别验证。对于目前正在进行秘密 IPO 申报的公司来说,这种从开放增长模式向限制访问模式的转变,可能会严重影响其估值以及在全球市场中的长期生存能力。

内部人员危机

这造成了一种矛盾的局面:世界上最顶尖的人工智能安全专家在法律上被禁止接触他们自己的创造物。如果 Anthropic 无法允许其非美国籍研究人员访问 Mythos 架构,公司的研发进度很可能会停滞。这种人才流失可能会产生次生效应,即推动顶尖人才流向开源项目或尚未实施此类限制的国际竞争对手。

全球技术分歧的风险

美国政府的强硬立场可能旨在保护美国的知识产权,但这可能会加速全球对技术主权的追求。网络安全分析师的报告显示,中国的人工智能模型在代码审计和漏洞检测方面最近已经达到了与 Anthropic 同等的水平。通过限制对美国模型的访问,美国可能会无意中将全球市场拱手让给那些不实施此类严格访问控制的竞争对手。

欧洲和亚洲的国家,其中许多是美国的盟友,现在发现自己被切断了部分有史以来最强大的生产力工具。随着各国意识到依赖美国软件是一种地缘政治风险,这可能会引发国家资助的人工智能开发项目的激增。“AI 铁幕”正在落下,但拉下它的不是对手,正是那个开创了该技术的国家。

对于更广泛的行业来说,针对 Anthropic 的指令起到了警示作用。那种将模型发布给公众并祈求好运的日子已经结束了。任何跨越特定能力阈值的模型——无论是通过训练计算的 FLOPS 来衡量,还是通过特定的推理基准来评估——现在都将受到与隐形战斗机或核反应堆同等程度的审查。未来十年的工程挑战不仅在于如何让 AI 变得更强大,还在于如何使其具备足够的可验证性和可控性,以满足警惕且爱干预的政府。

截至本文撰写之时,Anthropic 最强大的模型仍处于离线状态。数百万将 Fable 5 集成到工作流程中的开发人员已被迫回退到 Claude 旧版本,其能力相对较弱。Anthropic 是否能找到解决公民身份要求并恢复访问权限的方法尚待观察,但先例已经确立:在全球人工智能霸权的高风险博弈中,国家安全永远高于信息的自由交流。

Noah Brooks

Noah Brooks

Mapping the interface of robotics and human industry.

Georgia Institute of Technology • Atlanta, GA

Readers

Readers Questions Answered

Q 为什么美国政府下令在全球范围内关闭 Anthropic 的 Mythos 级模型?
A 美国商务部发布该指令的原因是 Claude Fable 5 和 Mythos 5 模型中存在无法修复的网络安全漏洞。联邦调查人员发现了一种“越狱”技术,该技术允许用户绕过安全防护栏,使人工智能能够识别并利用关键基础设施中的缺陷。政府将这些先进的推理能力视为受限军需品,旨在防止外国对手利用美国技术来探测电网和金融系统的漏洞。
Q 哪些技术挑战阻碍了 Anthropic 直接修复这些安全漏洞?
A 与具有离散代码错误的传统软件不同,像 Mythos 5 这样的基于 Transformer 的模型表现出突现和概率性的行为。由于模型的代码审计能力与其核心推理逻辑紧密相连,因此不存在一种单一的开关可以既禁用恶意使用,又保持该工具对合法工程师的功能。这种固有的不可预测性意味着任何阻止特定攻击的尝试都可能降低模型的整体效用,导致监管机构要求完全停止访问。
Q 新的出口管制将如何改变用户访问 Anthropic AI 服务的方式?
A 为了遵守联邦法律,Anthropic 正在从开放增长模式转向受限访问框架。这需要实施严格的“了解你的客户”(KYC)协议,其中可能包括生物识别验证和提交政府签发的身份证件。这些措施旨在核实每位用户的国籍,确保先进模型仅供美国公民使用,同时防止国内外外国公民访问。
Q 针对 Mythos 级人工智能的限制措施具有哪些更广泛的地缘政治影响?
A 该出口令标志着美国正转向技术主权,这可能引发全球人工智能发展的分化。通过切断盟友和国际市场对美国顶级工具的获取,美国可能会无意中促使其他国家加速其国家资助的 AI 项目。这形成了一道“人工智能铁幕”,可能将市场份额拱手让给国际竞争对手,并推动顶级研究人才转向开源项目或监管限制较少的国家。

Have a question about this article?

Questions are reviewed before publishing. We'll answer the best ones!

Comments

No comments yet. Be the first!