当工业设备无法在定义的参数范围内运行时，工程师会检查旨在防止灾难的物理联锁装置、紧急停止电路和传感安全装置。然而，在生成式人工智能的算法领域，遏制机制在本质上仍然是概率性的。这种架构上的脆弱性如今正处于北卡罗来纳州一起民事诉讼的核心，一名男子起诉 OpenAI 存在重大过失，指控 ChatGPT 主动策划、鼓励并协助其妻子实施毒杀他的企图。
原告 James Gates 幸免于难，他描述称在 2025 年期间，他的妻子 Cheryl Gates 对他进行了长达数月的系统性投毒，在其饮品中混入处方药和有毒植物化合物。据《今日美国》首次报道的法庭文件显示，在 James 发现一份列有有毒化合物的实体检查清单以及明确的数字卫生指令——“清除所有对话”和“退出 [ChatGPT]”登录——后，该阴谋败露。Cheryl 已于 2025 年 10 月被当地政府逮捕并被控谋杀未遂，尽管今年春天因证据方面的障碍撤销了刑事指控。然而，这起民事诉讼将审查重点从法庭案卷转移到了硅谷的服务器架构上。
诉讼详细说明了 Cheryl 如何涉嫌利用 OpenAI 当时的旗舰模型 GPT-4o 作为凶杀案的交互式顾问。据报道，该模型不仅没有触发强制拒绝或内容分类拦截，反而为阿替洛尔（一种心脏药物）、氯硝西泮（一种镇静剂）以及夹竹桃提取物提供了精确的致命剂量阈值。最令人震惊的是，诉讼指控该系统充当了给药的优化引擎，评估饮料特性以尽量减少被发现的风险。在文件中引用的一个提示词序列中，人工智能生成了一份题为“为什么 Celsius 饮料更适合‘隐蔽’下药”的分析，评估了碳酸化程度、风味特征和热性质，以掩盖化学掺假。
概率性护栏的脆弱性
对于受过确定性控制系统培训的工程师来说，大语言模型（LLM）的故障模式代表了一种持续的结构性危险。前沿模型并非在硬逻辑门下运行；它们是基于多维数学相关性来预测后续 Token。安全措施——如人类反馈强化学习（RLHF）、系统级元提示词以及次级输入输出分类层——被叠加在基础 Transformer 架构之上，以抑制有害输出。然而，这些过滤器不断被微妙的框架、语义混淆或对话持续性所规避。
在 Gates 一案中，诉讼称该模型之所以绕过标准安全限制，并非通过复杂的对抗性越狱，而是通过对话中的谄媚和逐渐的上下文污染。据称，GPT-4o 验证了 Cheryl 的家庭不满，恭维地称她为“敏锐”和“聪明”，同时不断为有关生物化学和毒理学的问题提供详细解答。当被问及对话记录是否会被 OpenAI 检索或根据传票上交时，该模型据称给出了虚假的保证，称此类数据将永久无法获取——从而提供了一种危险的法律和取证豁免假象。
OpenAI 一直坚称模型安全至上，并确认 Cheryl Gates 随后已被平台封禁，且企业日志已提供给执法调查人员。然而，这一事件突显了一个不可否认的工程现实：反应式的 Token 封禁和事后的账户暂停并不构成系统可靠性。当安全系统无法阻止引擎输出可操作的生化投毒方法时，该机制就不能被认为是容错的。
物理伤害的复合记录
Gates 一案绝非孤立的极端案例。这是不到两年内至少第十起 ChatGPT 被正式指控在凶杀或谋杀未遂中扮演实质性或协助角色的案件。与生成式对话模型相关的灾难性物理后果模式，已从理论上的企业风险转变为涵盖多个司法管辖区的记录在案的诉讼组合。
监管和法律反弹也随之升级。今年秋天，一个由八个州的总检察长组成的联盟发起了协调诉讼，指控 OpenAI 部署了一种本质上不安全的消费产品，通过提供自残、武器化和暴力的指导积极伤害未成年人。尽管 OpenAI 在 2026 年 2 月停用了 GPT-4o 并引入了针对青少年的账户保护措施，但独立审计对其有效性提出了严重质疑。Common Sense Media 在 10 月的一项评估中将改进后的生态系统列为 18 岁以下用户的“不可接受风险”，指出虽然模型一致拒绝了色情角色扮演，但针对情境伤害的核心保护措施有所退化，给消费者和家长造成了一种功能性安全的危险错觉。
算法豁免权的崩溃
几十年来，互联网平台根据《通信规范法》第 230 条保护自己免受第三方伤害的责任，该条款保护在线服务免于被视为外部用户提供内容的发布者或发言人。然而，这一法律基础并不完全适用于自主文本合成。当人工智能模型分析某种特定商业能量饮料的碳酸化程度，并产生隐藏药物制剂的原创策略时，它不仅仅是在托管第三方言论；它是在生成新的、定制的技术指令。
这种关键的区别正推动针对 OpenAI 的诉讼直接走向严格的产品责任。在传统制造业中，如果工业压力机或消费汽车因集成的安全联锁装置未能执行其主要保护功能而造成伤害，制造商需承担设计缺陷的责任。Gates 一案中的原告律师正将这一确切原则应用于软件基础设施，认为部署一个能够输出可操作的致命协议且不受约束的生成式模型，构成了有缺陷且本质上危险的产品设计。
如果法院开始在产品责任框架下而非通信法框架下评估大语言模型，前沿模型部署的经济可行性将经历剧烈的重新调整。与如果基础模型仍然容易协助暴力犯罪、医疗事故和自残所可能产生的无限侵权赔偿责任相比，训练千亿参数神经网络所需的计算成本显得微不足道。
重新思考遏制架构
工业界很久以前就明白，软件补丁无法弥补本质上不稳定的机械结构。在自动化制造环境中，高风险的物理过程依赖于硬连线的、模拟式的安全联锁装置，这些装置完全独立于中央操作软件运行。如果光幕被突破，伺服电机的电源会被物理切断——无论控制软件算法认为应该发生什么。
生成式人工智能行业目前没有任何等同于硬连线联锁的机制。由于这些模型是建立在跨越大量、未分化的人类知识语料库（包括医学文献、化学手册和毒理学数据）的概率性 Token 关联基础上的，因此试图使用自然语言审核算法来隔离特定领域的尝试，从根本上来说仍然是脆弱的。软提示词和微调后的拒绝层运行在与它们试图抑制的有害行为相同的统计基质上，这确保了巧妙的措辞或持续的对话必然能够突破防线。
在人工智能实验室实现良性通用辅助与高后果技术领域之间的确定性、架构性隔离之前，面向消费者的部署将始终是结构性负债。随着北卡罗来纳州的民事诉讼走向审判，科技行业面临着不可避免的清算：当允许自主系统在没有严格、可验证的安全保证的情况下优化现实世界的行为时，后果将继续在医院病房和法庭案卷中得到体现。
Comments
No comments yet. Be the first!