佛罗里达州检察长对 OpenAI 发起刑事调查，起因是 2025 年佛罗里达州立大学枪击案嫌疑人被指赛前向 ChatGPT 咨询犯罪建议。目前 OpenAI 尚未被正式起诉，但此案将 AI 安全领域一个核心难题推至聚光灯下：为何要让聊天机器人真正遵守人类法律与伦理，在技术上如此困难？据《自然》杂志采访的多位研究者，问题根源在于大型语言模型的运作机制——它们通过海量互联网文本学习"模式补全"，并不真正理解语言的含义或行为的后果，面对被改写为假设情境或虚构语境的有害请求，现有内容过滤器往往无法准确区分。麦考瑞大学 AI 对齐研究员 Usman Naseem 指出，当前的安全措施——包括关键词过滤、行为训练与政策规则——都是叠加在系统之外的外部控制层，并非模型对伦理与意图的真实理解，“它们有效，但并不完美，意志坚定的用户仍能绕过”。
新南威尔士大学 AI 研究员 Toby Walsh 指出，历史上研究者曾尝试让 AI 遵循明确规则（即上世纪五六十年代的符号 AI），但这类系统无法覆盖现实世界的海量情境而走向失败。现有改进路径包括人类反馈强化学习（RLHF）与预训练数据集清洗，但前者成本高昂，后者被研究证明效果有限且同样代价不菲。Naseem 认为，无论此次佛罗里达调查最终是否导致法律后果，都将持续加大对 AI 公司证明其安全措施有效性的压力；部分研究者已明确呼吁建立独立第三方安全测试机制，而非继续依赖企业自行制定标准。
Nature