无国界人工智能的时代可能已经彻底终结。美国商务部发布的一项史无前例的出口管制指令,要求 Anthropic 停止向所有外籍人士提供其最先进 AI 模型的使用权限,这一举措在科技行业和国际外交圈引发了轩然大波。该指令针对的是新发布的 Claude Fable 5 和高性能的 Mythos 5 模型,标志着华盛顿首次成功利用出口法律,因安全顾虑将一款商业软件产品从全球市场中强制下架。
对于长期将自己定位为 OpenAI“安全至上”替代方案的初创公司 Anthropic 而言,该指令是一次灾难性的业务打击。为了确保遵守指令中复杂的法律要求,该公司宣布将突然在全球范围内禁用这些旗舰模型,包括美国境内的用户,同时加紧构建验证用户国籍所需的必要基础设施。此次停用反映出特朗普政府的态度正在趋于强硬,不再仅仅将高级人工智能推理视为一种服务,而是将其视为一种受限的军火。
技术触发点:Mythos 架构中的漏洞
争端的焦点在于 Anthropic 所谓的“Mythos 级”模型的技术能力。几周前发布的 Claude Fable 5 在递归推理和代码合成方面实现了重大跨越。然而,据美国政府称,正是这些能力造成了无法接受的国家安全风险。具体而言,联邦调查人员据称发现了一个“狭窄的、非通用的越狱”(jailbreak)——这是一种用户可以绕过模型内部防护栏,利用 AI 识别并利用软件漏洞的技术。
尽管 Anthropic 辩称该越狱范围有限,且竞品模型中也存在类似漏洞,但美国国防部不为所动。从机械工程的角度来看,风险在于规模。一个能够进行自主代码审计的模型,能够以人类红队无法比拟的速度和数量分析银行的遗留 COBOL 系统或电网的 SCADA 控制系统。政府担心的是,外国对手可能会利用这些美国制造的工具来绘制美国关键基础设施的攻击面。
“修补”大语言模型在技术上与修补传统软件有着根本的不同。在标准应用程序中,开发人员可以定位导致内存泄漏或逻辑错误的具体代码行。但在像 Mythos 5 这样的 Transformer 模型中,其行为是突现的且具有概率性。不存在某种单一的开关,可以在防止模型发现缓冲区溢出的同时,还能让它继续作为合法软件工程师的实用工具。正是这种固有的不可预测性,导致监管机构要求彻底停止访问,而不是进行简单的更新。
地缘政治摩擦与五角大楼黑名单
指令发布的时间点表明,这不仅仅是对技术故障的响应,更是 Anthropic 与现任政府之间长期积怨的升级。据报道,今年早些时候,Anthropic 的领导层以公司内部道德章程为由,拒绝让美国军方将其实验室的模型用于国内监控和全自主武器系统。这一拒绝导致五角大楼将 Anthropic 列入了供应链黑名单,此举威胁到了该公司获取政府合同的能力。
此类要求的行政负担巨大。为了恢复服务,Anthropic 很可能需要实施严格的“了解你的客户”(KYC)协议,要求用户上传政府颁发的身份证件,并可能需要进行生物识别验证。对于目前正在进行秘密 IPO 申报的公司来说,这种从开放增长模式向限制访问模式的转变,可能会严重影响其估值以及在全球市场中的长期生存能力。
内部人员危机
这造成了一种矛盾的局面:世界上最顶尖的人工智能安全专家在法律上被禁止接触他们自己的创造物。如果 Anthropic 无法允许其非美国籍研究人员访问 Mythos 架构,公司的研发进度很可能会停滞。这种人才流失可能会产生次生效应,即推动顶尖人才流向开源项目或尚未实施此类限制的国际竞争对手。
全球技术分歧的风险
美国政府的强硬立场可能旨在保护美国的知识产权,但这可能会加速全球对技术主权的追求。网络安全分析师的报告显示,中国的人工智能模型在代码审计和漏洞检测方面最近已经达到了与 Anthropic 同等的水平。通过限制对美国模型的访问,美国可能会无意中将全球市场拱手让给那些不实施此类严格访问控制的竞争对手。
欧洲和亚洲的国家,其中许多是美国的盟友,现在发现自己被切断了部分有史以来最强大的生产力工具。随着各国意识到依赖美国软件是一种地缘政治风险,这可能会引发国家资助的人工智能开发项目的激增。“AI 铁幕”正在落下,但拉下它的不是对手,正是那个开创了该技术的国家。
对于更广泛的行业来说,针对 Anthropic 的指令起到了警示作用。那种将模型发布给公众并祈求好运的日子已经结束了。任何跨越特定能力阈值的模型——无论是通过训练计算的 FLOPS 来衡量,还是通过特定的推理基准来评估——现在都将受到与隐形战斗机或核反应堆同等程度的审查。未来十年的工程挑战不仅在于如何让 AI 变得更强大,还在于如何使其具备足够的可验证性和可控性,以满足警惕且爱干预的政府。
截至本文撰写之时,Anthropic 最强大的模型仍处于离线状态。数百万将 Fable 5 集成到工作流程中的开发人员已被迫回退到 Claude 旧版本,其能力相对较弱。Anthropic 是否能找到解决公民身份要求并恢复访问权限的方法尚待观察,但先例已经确立:在全球人工智能霸权的高风险博弈中,国家安全永远高于信息的自由交流。
Comments
No comments yet. Be the first!