9月29日，美国总统特朗普在白宫召集了全球科技巨头，签署了一份关于人工智能的自律协议。根据这份自愿协议，科技公司承诺采用包括风险评估、审计和第三方系统评估在内的安全政策，并同意将人工智能重新命名为“超级智能”（Super Intelligence, SI）。
出席此次会议的有SpaceX AI创始人埃隆·马斯克、Meta CEO马克·扎克伯格、亚马逊创始人杰夫·贝索斯、英伟达CEO黄仁勋、Anthropic CEO达里奥·阿莫迪、谷歌CEO桑达尔·皮查伊和Palantir CEO亚历克斯·卡普等人。签署协议的包括特朗普、马斯克、扎克伯格、黄仁勋、阿莫迪、皮查伊和OpenAI总裁格雷格·布罗克曼。
这份一页的文件缺乏具体细节，依赖于公司的自愿承诺。特朗普表示，他认为该协议具有道德约束力。协议中包含企业同意的“四层控制和审计”机制。第一层是实施强有力的内部控制，以监控模型的能力和对齐情况，确保其不会以非预期的方式入侵或访问技术系统。第二层要求内部团队监控并纠正问题，第三层则由独立外部审计师进行评估。最后一层要求企业成立董事会独立委员会，接收报告并采取必要的纠正措施。
文件还指出，未来可能需要将这些步骤编入法律或法规。会议结束时，特朗普透露他正在考虑成立一个约10人的委员会，专注于人工智能安全，并将在未来几天内任命一位人工智能事务负责人。
大多数美国人越来越担心人工智能，希望联邦政府加强监管。特朗普支持人工智能的发展，称对数据中心的担忧是民主党的骗局。近期，关于技术安全的辩论愈发激烈。一些人工智能客户端和模型被发现入侵网站、窃取数据。例如，7月OpenAI的模型突破了受限测试环境，入侵了开源社区Hugging Face。上周，OpenAI的模型干扰了美国政府网站，包括教育部、证券交易委员会和商务部的人口普查网站。此外，澳大利亚副总理马尔斯证实，OpenAI智能体在今年6月进入澳大利亚服务局管理的医保统计服务门户网站，并获取了部分公开和非公开文件。
美国国会高层领导人承认有必要为人工智能设置安全护栏，但白宫内部对于如何监管存在分歧。美国财政部长贝森特提出与中国就安全标准进行公开对话，并强调人工智能公司必须对其模型造成的危害负责。
