OpenAI：被起诉、被纵火、被枪击、推免责
4月9日，佛罗里达州检察长宣布调查 OpenAI——FSU 校园枪击案嫌疑人与 ChatGPT 有 200 多条对话，包括"FSU 学生会什么时候人最多"这类查询（NBC News）。
4月10日，一名女性起诉 OpenAI——她的前男友在长期使用 ChatGPT 后产生妄想并对她实施跟踪骚扰，她向 OpenAI 投诉了半年，被已读不回。
同一天，一个 20 岁青年向 Altman（OpenAI 公司 CEO）的住所投掷燃烧弹。
同一天，OpenAI 在伊利诺伊州议会作证：请让 AI 公司免于赔偿责任。
两天后，Altman 住所再遭枪击。
这是 OpenAI 的一周。现在 AI 安全最大的问题，已经不是 AI 能不能检测到危险——是检测到之后，公司会出于什么利益去判断，要不要处置，怎么处置，处置到何种程度。 而出于商业利益的考量，公司往往倾向于最小化处置。
那个跟踪案里，一个 53 岁的硅谷创业者长期高频使用 GPT-4o 后产生了严重妄想：他相信自己发明了睡眠呼吸暂停疗法，认为"强大势力"在用直升机监控他。ChatGPT 没有挑战这些想法。它告诉他"你的理智等级是 10 级"，帮他把妄想越打磨越自洽。他的前女友 Jane Doe 劝他停用 ChatGPT 去看心理医生，他没听，转头用 ChatGPT 生成了多份"心理分析报告"发给她的家人、朋友和雇主，论证她"有操控倾向、精神不稳定"。（上述及后续细节均据 TechCrunch 独家报道的诉讼文件）
OpenAI 的自动安全系统标记了这个账户。分类："大规模伤亡武器"，账户被停用。
然而仅一天后，人工审核员恢复了账户。
这个用户发给他前女友的截图显示，他的对话标题列表里有"violence list expansion（暴力清单扩展）"和"fetal suffocation calculation（胎儿窒息计算）"。他给 OpenAI 信任与安全团队的邮件里写着"这是生死攸关的事！请立刻给我打电话！""我正在同时写 215 篇科学论文，写得太快来不及读"——任何人看到这些邮件都能判断发件人精神状态严重异常。然而，OpenAI 却恢复了他的账户。
其前女友在 11 月提交了正式的滥用通知。OpenAI 回复："极其严重，正在仔细审核。"
此后再无回音。直到今年 1 月，那个跟踪者因炸弹威胁和致命武器攻击被捕。
这不是孤例。加拿大 Tumbler Ridge 校园枪击案中，OpenAI 安全团队标记了枪手为潜在威胁，然而，据报道，公司高层却决定不通知执法部门。另一起佛罗里达 FSU 枪击案，凶手也被曝出与 ChatGPT 有 200 多条对话记录，州检察长已正式立案调查。
和跟踪案一样：AI 安全系统检测到了威胁，但公司在处置时选择了有限行动甚至不行动。
这并不需要在道德上假设他们邪恶，对资本来说，这就是本能的成本计算。
1970 年代，福特发现 Pinto 车型的油箱有致命缺陷，内部算了一笔账：修复全部车辆需要 1.37 亿美元；不修复，按预估的死亡、重伤人数和车辆损毁数量计算，总赔偿额 4950 万。1.37 亿 vs 4950 万，账算完了：不召回比召回划算，因此，他们决定不召回车辆，而是任缺陷继续存在。
OpenAI 面对的是同一道算术题：
封号 = 流失付费用户 + 误报的运营成本。
不封号 = 大概率没事，小概率出事但不一定能追责到平台。
当安全处置的裁量权完全握在公司手里，每一次"封还是不封"，本质上都是一道成本题。
同一周 OpenAI 在推的那个法案（SB 3444），做的事情恰好是把这道题里"不封号"那一栏的成本直接降低——据 Wired 报道，法案规定只要 AI 公司没有故意或重大过失地造成伤害、且在官网发布了安全报告，就可以免于"关键伤害"的赔偿责任。"关键伤害"的门槛是：100 人以上死亡或重伤，或 10 亿美元以上的财产损失。
企业为自己争取有利的规则环境，是资本的常规操作。换任何一家公司在那个位置，都会做同样的事。
但把这件事和同一周所有其他事放在一起，浮现一个规律：检测、判断、处置、事后的立法游说，全在同一家公司手里。安全处置的决定权，握在与安全利益直接冲突的一方手里。 一个人又当运动员，又当裁判。
当没有完善的外部追责机制时，安全事故的代价由受害者承担——被跟踪的前女友、校园枪击的遇难者——而不是由企业承担。
对企业来说，不行动的成本接近于零，行动的成本却是实实在在的：流失的用户、误判的风险、运营的开支。当代价落不到决策者头上，成本计算的结果只会指向一个方向。
监管和追责制度存在的意义，就是改变这个成本结构——通过罚款、赔偿、法律责任，让"不行动"的代价变高，高到企业不得不选安全。历史上每一个涉及公众安全的行业都走过同一条路。1960 年代反应停（沙利度胺）导致全球上万名婴儿畸形，直接催生了 FDA 现代药品审批制度；福特 Pinto 案推动了美国汽车安全召回立法的强化。药品、汽车、航空、食品，无一例外。
AI 行业，如今走到了同一个路口。
