在国家安全这个高风险领域,系统漏洞的评估周期通常以周、月甚至年为单位的艰苦侦察来衡量。然而,最近关于 Anthropic 最先进人工智能模型 Mythos 的一项披露,将这一周期压缩到了短短数小时。在与美国情报机构合作进行的一次授权测试演习中,Mythos 模型以惊人的速度识别出了高度敏感的机密政府计算机系统中的关键漏洞,令国防部门猝不及防。这一事件不仅凸显了生成式人工智能在网络战中令人胆寒的效率,还引发了一场立法和监管风暴,甚至可能导致旨在保护这些系统的关键工具的部署陷入停滞。
此次披露是在参议院银行、住房和城市事务委员会的一次听证会上公之于众的,弗吉尼亚州参议员 Mark Warner 在会上详细讲述了该模型令人不寒而栗的表现。Warner 将这一信息归功于国家安全局(NSA)局长兼美国网络司令部司令 Joshua Rudd 上将,并指出该人工智能工具在一下午的时间内就攻破了几乎所有提供给它测试的机密系统。这并非缓慢的反复试验过程,而是对隐藏了几十年、连人类审计员和之前的自动化扫描器都未曾发现的架构弱点进行了快速识别。这种发现速度表明,像 Mythos 这样的大语言模型(LLM)具备一种潜在能力,能够以从根本上改变数字防御格局的方式,绘制复杂的逻辑流并识别非线性故障。
Mythos 的架构与漏洞逻辑
要理解 AI 模型如何实现这样的成果,必须从标准大语言模型与 Anthropic 集成到 Mythos 系列中的专用推理能力之间的机械差异来看。与其前身 Fable(旨在实现更广泛的公共效用和安全对齐)不同,Mythos 的设计重点在于深度逻辑推理和多步骤问题解决。从工程角度来看,在机密系统中发现漏洞本质上是识别庞大且互联的软件供应链中未处理的异常或被忽视的状态。人类团队可能需要几天时间来追踪内存泄漏或配置错误的权限集,而 Mythos 利用其庞大的参数集同时模拟数百万种交互排列。
Mythos 的技术卓越之处在于其对遗留代码的模式识别能力。许多美国机密系统依赖于近四十年来不断修补和叠加的老旧软件架构。这些层在系统内部产生了“易碎性”——即现代安全协议与古老代码库交互不佳所形成的隐形摩擦点。Mythos 似乎已经开发出了这些架构矛盾的高保真内部模型。通过摄取系统的结构逻辑,AI 甚至在发起扫描之前就能预测故障发生的可能性。这种预测能力将数周的工作缩短到了仅仅数小时;AI 不仅仅是在寻找漏洞,它是基于系统固有的设计缺陷在数学上推导出了漏洞的位置。
Project Glasswing 与红队演练的伦理
这些漏洞是通过名为 Project Glasswing 的倡议发现的。该计划旨在建立一个由 Anthropic、其他科技巨头和美国情报机构组成的合作框架,对关键基础设施进行“红队演练”。红队演练是一种通过对手视角审视系统以寻找弱点的实践。Project Glasswing 本意是作为终极安全网,确保如果像 Mythos 这样强大的模型能够攻破系统,政府能够第一时间知晓。然而,该项目的成功带来了一个悖论:AI 在通过发现漏洞来防御系统方面表现得越出色,在监管机构眼中,AI 本身看起来就越危险。
内部消息显示,Project Glasswing 下的测试不仅限于简单的密码破解或网络钓鱼模拟。它还涉及 AI 分析加密数据流,并建议提权的新颖方法——这些技术在现有的网络安全文献中从未被记录过。虽然一位美国官员澄清说,识别漏洞与利用漏洞并不相同,但在数字领域,这种区别往往非常细微。一旦路径被识别,执行过程往往只是一个简单的脚本。这一认识促使 NSA 和其他机构重新考虑将这种强大的工具置于商业环境(即使是像 Anthropic 这样注重安全的商业环境)中所带来的风险。
监管阵痛与外国访问禁令
在这些发现之后,特朗普政府以罕见的速度采取行动限制了该技术。一项行政命令被签署,为所有先进人工智能系统建立了审查框架,要求在任何公开发布之前进行为期一个月的国家安全审查。更重要的是,政府发布了一项具体指令,要求 Anthropic 禁止外国公民访问其最新模型 Mythos 5 和 Fable 5。政府的逻辑植根于传统的遏制策略:如果该工具威力如此之大,就必须将其保留在美国及其最亲密的盟友境内,以防止中国或俄罗斯等对手利用类似的模型在美国的防御体系中找到同样的裂缝。
网络安全禁令是否适得其反?
工业界对政府这一打压举措的反应是强烈的反对。一个由 100 多名网络安全专家以及来自 Adobe 和 Nvidia 等公司的高管组成的联盟最近致信政府,敦促撤销该指令。他们的论点很务实:通过将最先进的 AI 工具从市场上撤下,政府实际上是在解除防御者的武装,却并未能阻止对手开发类似的模型。这些专家认为,Mythos 在发现软件漏洞方面“相当出色”,但这种程度并未“好到独一无二”,不足以证明全面禁令的合理性。其他开源模型和竞争国家的国家资助项目不可避免地会达到同样的水平。
这场辩论的核心在于,我们是否已经进入了一个时代,即抵御 AI 驱动攻击的唯一防线就是 AI 驱动的盾牌。如果美国网络安全公司被拒绝使用像 Mythos 这样的模型,他们将被迫依赖更缓慢、以人为中心的方法,这些方法根本无法跟上自动化的攻击步伐。在工业自动化和供应链管理领域,单一的漏洞就可能阻碍全球航运或导致电网瘫痪,失去先进的诊断工具是一个重大打击。签署信件的人员坚持认为,最好的防御是一个强大、透明的生态系统,在这个生态系统中,最先进的模型被用于不断审计和修补全球的软件。他们认为,政府目前的路径是退回到了“通过隐蔽实现安全”的思维模式,这种模式在生成式智能时代已不再可行。
Comments
No comments yet. Be the first!