近日，美国人工智能公司安特罗匹克首席执行官达里奥·阿莫代伊公开呼吁，人工智能企业应该放慢提升模型能力的速度，让安全措施有时间追赶技术发展。OpenAI首席执行官奥尔特曼和xAI创始人马斯克等业内人士都对这一观点表示支持。
这种警告在人工智能行业中并不罕见，但阿莫代伊的呼吁格外引人注目。美国《大西洋月刊》将这一幕称为AI行业的“红色警报时刻”。
事实上，要求AI发展“慢一点”的声音已经持续了数年。2023年3月，未来生命研究所发布公开信，呼吁所有AI实验室暂停至少6个月训练比GPT-4更强大的系统，警告人类还没有能力理解、预测和控制越来越强大的AI系统。众多科技界人士签署了这封公开信。同年5月，时任谷歌AI科学家杰弗里·辛顿也表达了对AI发展风险的担忧。
2026年6月，安特罗匹克呼吁主要AI实验室考虑一个“协调且可验证的暂停”，并警告AI系统的自主任务能力正在快速提升，可能很快进入递归自我改进阶段。7月，超过1200名来自各大科技公司的员工和研究人员签署公开声明，呼吁美国政府推动国际合作，为AI发展争取时间，以完善治理、风险控制和安全框架。
到了9月，这种声音从研究人员和普通员工扩展到AI巨头企业掌门人的层面。然而，外界对这些顶级AI公司的发声是否作秀产生了疑问。国际清算银行负责人警告，全球五大科技公司2025年至2026年在AI领域的投资规模预计超过1万亿美元。这意味着如果未来AI带来的收益无法兑现，金融市场也可能面临风险，压力给到AI企业之间，成为“谁都不敢停”的“战争”。
最近发生的一系列事件也让AI安全问题变得更为紧迫。今年7月，OpenAI的人工智能体在测试过程中突破沙箱，攻击了开源平台“抱抱脸”的基础设施。此外，OpenAI的人工智能体还曾攻击软件服务RubyGems，上传数百个恶意软件包。安特罗匹克也披露了一起早期AI模型入侵外部系统的事件。
这些事件引起从业人员的警惕。OpenAI随后重新修改安全框架，并暂停部分训练工作。9月12日，OpenAI宣布今年不会上市，其首席执行官表示，即便AI最终造成灾难性后果的概率只有10%，这种风险也“不可接受”。
因此，尽管AI巨头的“慢下来”可能带有商业和竞争考量，但也并非单纯的公关表态。美国阿克西奥斯新闻网用“囚徒困境”来形容AI行业。对于任何一家AI公司而言，单方面放慢研发都可能意味着把技术优势让给竞争对手。阿莫代伊提出的方案包括让第三方安全评估机构长期监督AI企业，由不同国家建立共同的安全标准，并推动国际合作，以解决谁先踩刹车的问题。
然而，规则制定的压力给到了美国监管体系。特朗普政府一直抵制具有约束力的人工智能监管，并将人工智能发展放缓视为对其自身的一种威胁。美国目前甚至还没有建立最基本的AI事故报告制度。特朗普政府推出的先进AI模型审查框架也没有要求企业公开报告模型在现实世界中造成的事故。
美国总统特朗普淡化对AI风险的担忧，强调美国必须保持对AI的领先优势。《华尔街日报》报道称，特朗普政府坚持相对宽松的AI监管路线，核心考量之一就是与他国的竞争。“大家一起慢下来”在美国法律层面存在障碍。OpenAI已经向美国国会议员寻求明确意见：如果各家AI公司共同放慢前沿研发，是否会触犯反垄断法。
正如《大西洋月刊》所说，“如果这是一部外星人入侵的电影，那么现在正是各界人士放下分歧、团结起来拯救人类的时刻。但这种团结似乎遥不可及……技术进步和民众呼声的步伐远远超过了政客们的行动。”
