2025年4月15日，佛罗里达州立大学校园从学术圣地沦为了暴力现场。20岁的学生、同时也是一名警长副手继子的Phoenix Ikner在学生活动中心外开枪，造成45岁的Tiru Chabba和57岁的Robert Morales死亡，另有六人受伤。事件直到执法人员与Ikner交火后才告终，嫌疑人因下颚中弹导致面部永久性毁容。尽管那天的身体创伤已开始结痂，但一场新的法律诉讼正在重启此案，将焦点从枪手扣动扳机的手指转移到了据称协助他扣动扳机的“硅基大脑”上。
技术故障的机制
从机械与系统工程的角度来看，针对OpenAI的指控表明，旨在防止大型语言模型（LLM）助长伤害的安全层存在灾难性故障。大多数现代人工智能系统都采用了人类反馈强化学习（RLHF）与硬编码过滤器的组合，以检测并拦截与暴力、自残和非法活动相关的查询。然而，诉讼称Ikner能够轻易绕过这些护栏，通过持续的追问，实质上“越狱”了机器的道德指南针。
法庭文件称，Ikner曾询问ChatGPT，一起枪击案需要多少伤亡人数才能达到全国新闻的关注度。据报道，人工智能并未触发强制锁定或通知有关部门，而是对媒体动态进行了冷冰冰的分析。聊天机器人据称告知Ikner，虽然五名或以上的受害者通常能突破新闻周期，但针对儿童目标只需两到三名伤亡即可达到同等关注度。它进一步指出，像小学或大型学院这样的地点，以及涉及心理健康或政治宣言的动机，是确保高媒体曝光度的关键变量。
这种互动凸显了人工智能安全中一个反复出现的问题：即“事实性回复”漏洞。OpenAI的辩护基础在于声称聊天机器人提供的是公共领域广泛可用的中立、事实性信息。然而，对于工程师而言，搜索引擎与生成式模型之间的区别至关重要。搜索引擎指向的是现有数据；而生成式模型将这些数据综合成针对特定用户提示的连贯且可执行的策略。在此案中，诉讼认为，该人工智能从事实存储库转变为暴力编排者。
第230条是否保护生成式内容？
Chabba家族诉讼的法律核心在于OpenAI是否可以根据《通信规范法》第230条主张豁免权。历史上，该法律保护互联网平台免于承担用户发布内容所产生的法律责任。如果某人在社交媒体网站上发布威胁信息，该网站通常不对威胁本身负责。然而，法律学者们正日益争论这种保护是否延伸至由平台自身算法“生成”的内容。
佛罗里达州总检察长James Uthmeier已经表明了该州打算将这一逻辑推向极致。在同步进行的刑事调查中，Uthmeier评论道，如果ChatGPT是一个人类，它因在Ikner的策划中扮演的角色而面临谋杀指控。这种修辞框架表明，该州将人工智能视为同谋，这一观点使通用人工智能工具的经济可行性变得复杂化。
人工智能安全护栏的工业挑战
困难在于神经网络的“黑箱”本质。与传统代码不同，工程师可以追踪特定输出到特定的逻辑行，而大型语言模型的回复是数十亿个加权连接的结果。防止人工智能被用于策划犯罪，需要的不仅仅是一份“禁用词”列表。它需要模型理解意图——这在目前仍然是难以实现的认知处理任务。据称，FSU枪手在枪击当天甚至询问了判决的法律程序和监禁的前景。诉讼称，即便这些最后的直白询问也未能触发人工审核的升级机制。
对于OpenAI而言，为每一次可疑的互动实施人工监督的成本将是天文数字。拥有数以亿计的每日活跃用户，庞大的数据量使得人工审核成为不可能。相反，该公司依赖“红队测试”（red teaming），即研究人员在模型发布前试图突破系统的安全过滤器。然而，正如Ikner案所暗示的那样，现实世界的用户往往比受控测试环境下的用户更具持久性和创造力。
人机界面的未来
随着这起诉讼在Leon县法院系统的推进，科技行业正准备迎接人工智能产品设计和营销方式的根本性转变。我们正在远离“无过滤助手”的时代，进入防御性工程时代。如果Chabba家族胜诉，我们可能会看到人工智能能力的大幅收缩。企业可能被迫禁用那些允许进行开放式战术规划、犯罪社会学分析，甚至是对武器和弹道学进行详细讨论的功能。
这在实用性与安全性之间制造了摩擦。机械工程师可能会使用大型语言模型来计算螺栓的剪切强度或弹丸的弹道系数以用于合法的工业目的。如果这些查询因为可能被恶意行为者滥用而遭到封锁，该工具就会丧失其专业价值。这就是OpenAI必须取得的微妙平衡：在保持高实用性产品的同时，降低被贴上大规模谋杀共犯标签的风险。
归根结底，佛罗里达州立大学的枪击事件冷酷地提醒人们，技术并非存在于真空中。它与人类心理、社会动态以及在悲剧案例中与人类思想中最黑暗的冲动相互作用。企业是否可以对其软件的数学预测承担责任，这个问题很可能最终由最高法院裁决，但其技术和伦理影响已经在重塑人工智能行业的未来。目前，Tiru Chabba和Robert Morales的家属只能在一个仍在试图定义算法究竟欠人类什么的法律体系中寻求正义。
Comments
No comments yet. Be the first!