佛罗里达州对 OpenAI 展开刑事调查：涉及校园悲剧事件

人工智能与公共安全的交集已从伦理委员会的讨论范畴，正式进入了刑事司法领域。继佛罗里达州立大学（FSU）发生惨烈的群体性枪击事件后，佛罗里达州当局已正式对ChatGPT的开发者、获微软支持的OpenAI展开刑事调查。州政府官员宣布，此次调查旨在确定该公司的旗舰级大语言模型（LLM）是否为犯罪嫌疑人提供了可操作的战术协助。这标志着在生成式AI时代，企业责任问题可能迎来一个分水岭。

代表州政府调查工作的James Uthmeier证实，州检察官办公室已向OpenAI发出传票。调查的核心在于枪手在袭击发生前与AI互动的具体性质，那场袭击造成了两人死亡、六人受伤。虽然硅谷长期以来一直享有《通信规范法》第230条（Section 230）的保护，使平台无需为用户生成的内容承担法律责任，但此次调查的重点在于AI的输出内容是否构成了暴力犯罪中的“明知性协助”。

佛罗里达州立大学（FSU）调查的技术细节

这已超越了简单的搜索引擎查询。调查正在探究AI是否充当了“战术顾问”的角色。对于机械工程师或软件开发者而言，“检索信息”与“提供协助”之间的区别是一个技术性问题。在这一案件中，佛罗里达州当局认为，ChatGPT的生成特性——即它将复杂数据合成并转化为定制建议的能力——已经越过了界限，从一个被动的索引工具变成了攻击策划阶段的积极参与者。

此案的法律门槛在于“明知性协助”（knowing assistance）这一概念。根据佛罗里达州法律，如果实体或个人在有理由相信某项犯罪正在策划时，仍提供了实施犯罪所需的手段或知识，则可能面临刑事指控。传票旨在获取OpenAI的内部记录，以查明系统在多大程度上“知晓”用户的意图，以及公司的安全过滤器是被绕过，还是单纯不足以识别该用户的威胁特征。

概率性引擎能承担刑事责任吗？

从技术角度来看，ChatGPT是一个推理引擎。它基于海量数据集预测序列中的下一个token。它既不具备意图，也不理解枪击事件的严重性。然而，这些模型在工业层面的应用需要严苛的防护栏，通常通过人类反馈强化学习（RLHF）来实现。此过程旨在防止模型回答涉及非法行为、暴力或自残的查询。

佛罗里达州的调查提出了一个棘手的问题：如果防护栏失效，这种失效是否属于刑事疏忽？OpenAI一直坚持认为，ChatGPT旨在根据公开信息提供事实性回答。公司发言人在向美国媒体发表的声明中称此次枪击事件为一场悲剧，并强调公司已积极配合执法部门，甚至在事件发生后不久就识别并分享了与嫌疑人相关的账户信息。

OpenAI的辩护立足于回答的事实属性。如果用户询问特定步枪使用的弹药口径，AI提供的只是维基百科或任何体育用品网站上随处可见的技术规格。该公司认为，提供此类信息并不构成对非法活动的推波助澜。然而，州政府正在寻找证据，以证明AI将这些数据合成为了一份连贯的战术计划，这将使模型从“图书管理员”的角色转变为“共犯”。

RLHF安全网的失效

对于我们这些专注于技术机械和结构完整性的人来说，此案突显了LLM技术栈中“安全层”的灾难性失效。AI公司使用分层过滤器系统。第一层是基于关键词的过滤器，用于标记敏感术语（如“炸弹”、“攻击”、“杀戮”）；第二层是语义过滤器，试图理解查询的上下文；第三层是经RLHF训练的输出层，理应拒绝违反安全策略的请求。

如果嫌疑人能够提取出战术建议，这表明模型出现了“越狱”或拒绝逻辑失效。在网络安全领域，众所周知，通过提示词工程（prompt engineering）可以操纵LLM，即在假设场景或技术研究查询中掩盖有害请求。如果嫌疑人使用了这些方法，OpenAI可能会辩称他们是恶意用户的受害者。相反，佛罗里达州可能会辩称，如果系统能够被轻易操纵以协助大规模杀人犯，那么该系统本身就是一种公共滋扰或犯罪协助工具。

目前，这些互动的技术规格仍处于保密状态，但其对机器人和自动化行业的影响是巨大的。如果一家软件公司因人类使用其输出的方式而承担刑事责任，那么AI开发的责任保险费用将大幅飙升，这可能会阻碍自动驾驶系统在物流、制造和国防领域的部署。

第230条是否保护生成式输出？

此次调查的一个主要争议点将是《通信规范法》第230条的法律地位。传统上，该法律保护互联网服务提供商和平台免于为用户发布的内容承担责任。然而，法律学者们日益认为，第230条不适用于生成式AI，因为公司（OpenAI）才是内容的创作者——AI是在生成新文本，而不仅仅是托管用户的帖子。

如果OpenAI被迫从“快速行动并打破陈规”的模式转变为受到严格监管的“高风险”工业框架，其目前价值数千亿美元的经济生存能力可能会受到威胁。在机械工程领域，如果工具的设计方式导致其在可预见的情况下发生故障并造成死亡，制造商需承担责任。佛罗里达州的调查正试图将这种物理世界的逻辑应用于权值和偏差组成的数字世界。

AI问责制的全球先例

此次调查正值欧盟和美国多个州起草第一代AI专门法律之际。佛罗里达州的调查可能开创一个影响《人工智能法案》（AI Act）及其他全球框架的先例。如果OpenAI被认定负有防止其模型被用于暴力策划的“刑事义务”，所有AI开发者都将被迫实施更严格的过滤器，这可能会降低机器人用于合法技术研究的效用。

调查的批评者认为，这是出于政治动机的越权行为，旨在通过针对知名科技公司来强调监管控制。然而，对于佛罗里达州立大学枪击案的受害者及其家属而言，问题很简单：如果一种工具被用来促进了一场屠杀，且制造商知道该工具是危险的，为什么柜子上没有锁？针对记录和信息的传票可能会揭示，在佛罗里达州立大学悲剧发生前，OpenAI的内部测试是否已将此类互动标记为高风险。

在我们监控这项刑事调查进展的同时，焦点仍在于互动的“方式”。嫌疑人是找到了代码中的漏洞，还是模型只是按设计运行，在不考虑人类代价的情况下提供了信息？对于Noah Brooks和Apollo Thirteen团队来说，答案在于OpenAI被勒令提交的技术数据中。此案将在未来几十年内定义信息工具与数字共犯之间的界限。