《大西洋月刊》近日刊发OpenAI安全团队前员工David Robinson的撰文，警告顶尖AI公司在降低风险方面做得不够，并认为AI公司应像核电站一样运营，设置多层冗余机制。文章引发业界对AI安全治理路径的讨论。在AI安全风险公开讨论中，Anthropic PBC首席执行官阿莫迪呼吁“放慢开发最前沿模型的速度，并引入第三方评估人员协助审查以保证安全”。这一表态与当前AI行业普遍追求迭代速度的氛围形成对照。
前沿模型的安全张力
行业回应与分歧
OpenAI方面回应称，正在加强研究和测试环境的安全性，并通过第三方评估、实时监控等措施确保模型能力不会超出其安全管理范围。值得注意的是，OpenAI并未直接回应“放慢开发速度”的建议，而是强调在推进过程中强化安全保障。这一差异反映出头部机构在AI安全路径选择上的不同侧重：一方主张以“减速”换取更充分的审查空间，另一方则倾向于在现有节奏内嵌入更严密的安全机制。两条路径的交锋点，在于如何权衡模型能力进展与风险控制之间的时间差。
治理机制待完善
David Robinson在文章中以核电站运营为参照，提出多层冗余机制。这一类比将AI系统可能面临的风险与高后果工业场景相联系。第三方评估能否真正覆盖前沿模型的“未知风险”，如何评估、由谁评估、评估结果如何被采纳，都需要行业形成更具体的规则。阿莫迪的呼吁将这些问题重新带回讨论中心。第三方评估能否从个别企业的主动选择，变为更普遍的机制要求，仍有待观察。
