有一点我不明白，为什么小小的AI安全问题，会成为中美经贸磋商的重点议题。
直到看了犯罪分子操控AI才懂，这玩意早失控了，我们普通人终究没有黑帮，军阀，毒贩想得多。
我们对AI的担忧，方向上也错了。什么科幻片《终结者》，什么失业，生产力。都错了！
真正的隐患，不是AI突然暴走，奴役人类，而是出在犯罪集团身上。
我们对ai的利用不足1%。
很多用途，连开发者自己都没想到。
现在拿ai干啥的都有。
什么网络攻击、非法监控、诈骗、造枪做炸弹。
只有你想不到，没有他们干不了。
而这些，都还只是后台检测到的众多恶意操作中的冰山一角。
胡塞武装用ai研发导弹都不算啥，真正可怕的是，已经有人在问ai一些关于病原体的骇人知识了。
美国ai龙头企业Anthropic揭露，某些带有国家背景的团队，疑似利用大模型辅助开展高风险生物学研究。
研究内容存在被用于开发病原体的潜在威胁。
虽然不知道这些账号真实意图是啥，但官方还是把他们封禁了。
现在科学家担心，ai是否会降低不法分子研究生物武器的门槛。
过去，你研究这玩意，得有专业背景，高低也得是博士硕士学历 。
一般情况下，只有科技发达的国家，才供得起这样的人才，而发达国家一般不会明目张胆的对外使用生物武器，因为这容易招来同等报应，说出去也不好听。但ai的发展，打破了这层技术门槛。使一些不正常的国家，搭建的草台班子，也能通过跟聊天机器人的多轮对话，掌握病原体基础知识。
再根据目标病原体，生成候选基因序列，利用算法，筛选出最具感染性和耐药性的组合。或对现有的病毒进行改造，强化逃避免疫系统的能力。这一过程，以前需要专业团队忙活好几个月，如今呢，不需要。
信息时代，技术开源，论文随便找，资料随便查，ai的出现，更是省去很多时间。
只不过，大规模的生产和投放，需要费点钱。AI 只能提供信息参考，单独靠大模型无法直接制造生物武器，还需要专业实验室、样本、设备。一般的团队，肯定承受不了。但如果背后有一国政府支持，情况则大为不同。
而且别把他国的道德底线，想得太高，这年头总统带头贩毒的都有。几年前就曾发生过，某国培养黑客，利用比特币勒索病毒“赚外快”的事情。以及“官方黑客”偷转别人家银行的钱啥的。对于这种“国家犯罪行为”，即便知道是谁干的，也抓不了他。国际上最普遍的报复手段，是制裁，谁支持就制裁谁。但有些国家早就被制裁麻了，光脚不怕穿鞋的。就算真这么干，也不能拿他怎么办。
而且虽然说，生物武器，早就不是什么秘密，美苏当年军备竞赛的时候，私底下多多少少肯定也搞过一些。是一种“可以不用，但必须要有”的东西。落在大国手里倒不算啥，毕竟可以相互制衡，你有我有，就等于没有。但落到小国手里呢，逼急眼了，拿出来用怎么办？
就算不用，以他们的廉洁水平，塞几个红包下去，流落民间又该如何。那就是全人类的威胁。人工智能的风险，不会停留在一国国界，也没法靠单个国家解决。任何一个国家出了问题，风险都有可能外溢全世界。
再举个例子，虽然AI造生物武器这件事，目前还只是未雨绸缪。但AI赋能的网络攻击，以及批量生成的网络虚假信息，早已造成了真实伤害，甚至形成了专门的黑色产业链。
先说AI赋能的网络攻击，以前黑客这行，没点技术玩不过来。现在AI直接把技术门槛砍到鞋底，2025年8月，就已经有不法分子，在暗网公开售卖商用AI攻击智能体。原本人工2周的渗透任务，用它3天就能完成，攻击周期直接缩短85%，平均一条攻击链只需2.8天走完。更要命的是，干这行的早就不是零散小黑客，不少拥有国家背景的“官方黑客”和跨国犯罪集团，也参与其中，目的也从单纯的捞钱，变成了战略破坏和地缘博弈。袭击遍布世界各地。
2025年12月，黑客在暗网宣称，偷走了欧洲航天局700GB敏感数据。2025年底到2026年初，攻击者用破解版的大模型，一口气攻破墨西哥9个政府部门，卷走150GB数据，其中包含上亿条纳税人个人信息。整个攻击过程，不少步骤是靠AI自主完成的，人类只在少数关键节点做决策。
再说说批量生成的互联网虚假信息，很多人觉得只是网上的谣言，但凡读过点书都上当不了。
其实没那么简单。
它真正的杀招，是从底层污染大模型的训练数据库，也就是业内常说的“数据投毒”。
现在大模型之所以懂那么多，全靠海量爬取互联网语料训练。只要有人批量生成足够多的虚假内容，铺到网页、论坛、自媒体上，就会被大模型的爬虫当成“真实知识”捕获抓进训练库里。
一旦投毒成功，就会形成一种恶性循环，把谎言学进去，再生成更多的谎言。混在海量数据中，很难彻底清干净。
国内已有专门的团伙，靠给AI喂假数据牟利。比如2025年闹得很大的黑公关事件，有人专门批量生成几百篇抹黑特定车型的文章，精准对着搜索引擎和AI问答渠道投放，那段时间你去问任何一个大模型这款车怎么样，出来的全是质量差、续航虚标、售后垃圾这类说法，没一句是真实车主的反馈。今年4月打掉一个团伙，2个人、操控着4000多个自媒体账号，发布70万篇不实车评，把好几个知名品牌黑了个遍，光靠流量分成就赚了数万元。
纽约大学研究团队曾做过实验，生成5万篇虚假的医学论文嵌套到普通网页里，就能成功让大模型吸收错误的医学知识。
也有人篡改金融专业解读、伪造文物考证结论，甚至编出不存在的学术文献和作者。这些内容一旦被大模型学进去，以后用户问问题，得到的都将是完全错误的答案，普通人根本分辨不出来。
而干这事的门槛又低到离谱，市面上这类投毒工具低至9.9元就能买个试用版，只要持续投喂内容，真的能影响到主流大模型的回答结果。很多企业怕被对手“投毒”，甚至不得不主动花钱做所谓的“AI舆情优化”，反过来又助长了这个黑色产业。
而在所有AI虚假信息的滥用里，最恶劣、最不能容忍的，莫过于篡改历史、洗白日本的侵略罪行。
《朝日新闻》披露，日本右翼势力在众包平台上明码标价，雇人用AI批量生成篡改历史的内容。
一条30秒篡改侵华历史的AI虚假视频，报价5000日元，涉华负面内容每千次再生，奖励1000日元，再生数达标另有奖金。接单的人根本不需要懂历史，给AI输几个关键词，几分钟就能造出诸如“南京大屠杀是谎言”“日军善待中国平民”这种颠倒黑白的东西。更过分的是日本官方也在推波助澜。日本政府砸44亿日元搞了个名为“源内”的政务AI系统，夹带大量错误历史观，接入美国的闭源大模型里。
首先它会污染全球的AI语料库，批量造出来的伪史，会被全世界的大模型爬虫抓取，最终变成“AI知识”的一部分。以后不管是中国人还是其他国家的人，用AI查二战历史、查南京大屠杀，答案里都可能夹带日本右翼的私货。尤其是历史知识还不扎实的青少年，天天接触这种内容，历史记忆很容易就在潜移默化中被扭曲了。
其次在日本国内，这些内容会持续稀释社会对侵略罪行的反思，给右翼扩军修宪铺路。往大了说，这根本就是认知战，当年是用武力侵略别国，现在是用AI篡改集体记忆，冲击战后秩序，复辟军国主义。
风险一旦外溢，即便美国，也不能独善其身。
所以，别看过去几年，中美关系整体紧张，但两国专家依旧不忘推进安全对话。
而美国科技大佬们想到的方法，却十分的抽象。
最近，美国科技圈流传着这样一个声音，叫做“AI减速论”。
大概意思是，这些问题，都是AI升级太快，安全措施跟不上造成的，是时候该给AI技术踩踩刹车键了。
多少带点无语的意思。
这一声音，得到了马斯克的赞成。
中美在ai领域大家也知道。
现在好不容易追平，他们却放话说，哎呀，AI有风险，发展需谨慎。
大家都歇歇、都歇歇，别发展太快了，步子迈太大，容易扯着蛋。
然后又转过头跟自己人说，美国ai，必须保持绝对领先，失去AI优势，等于满盘皆输。
技术是中美的核心，而ai又是重中之重。
当对手劝你停手的时候，你就该怀疑，他是不是有别的目的了。
到底是为全人类着想，还只是鸿门宴一场？
我们虽然没有直接针对“AI减速论”发表过专门的公开表态，但从已发布的一系列顶层政策和产业导向来看，是不认同“为了安全主动给技术踩刹车”的思路的。
你想啊，技术高地你不去占领，就会被别人占领。
更何况问题的根子不出在技术本身，而在拿技术干坏事的人。就算你把大模型迭代速度砍半，那些一肚子坏水的，照样会挖空心思找空子，防不胜防。
反倒是你自己技术落后了，连对方用 AI 搞了什么鬼都看不出来，那才是真的把安全主动权交出去了。
这就跟当年核武器一个道理，自美国造出核武器之后，苏英法中也接二连三的有了，印度有了之后，巴基斯坦也不甘示弱。全世界再也退不回无核时代，没人能把核技术从地球上抹除。真正的解决办法不是停掉所有研究，而是让拥核国家坐下来谈一谈，商量对策，避免有人开第一枪。
提到管控风险，冷战时期美苏的 “红色热线”，就是最好的参考样板。当年古巴导弹危机，差一点引发全球核战争。
事后双方复盘，发现问题出在“猜忌链”上。
首先美苏当时肯定是不想开战的。
但不保证对方也不想。
都攥着核按钮，不肯撒手。
之所以意图全靠猜，是因为两边都缺乏有效的沟通渠道。
美国总统可不敢打电话给赫鲁晓夫。
按当时的情况，分分钟给你扣个通敌的罪名。
只能让大使馆传话，绕好几个弯，等消息送到，黄花菜都凉了。
所以危机解除的第二年，美苏开通了一条直达对方领导人办公室的电话，叫 “红色热线”。
真出了事，第一时间找到正主，把情况问清楚，别因为误会和信息滞后，造成不可挽回的后果。
放在今天，同样适用。
AI带来的风险，比当年的核威胁快了不知道多少倍。一条深度伪造的视频、一次自动化的网络攻击，几个小时就能传遍全球，等按传统外交流程层层上报、商量怎么应对，损失早已成为既定事实。尤其是如今AI在军事领域，把决策时间压缩到极短，人还没完全想明白，算法就已经给出了行动方案；而算法本身又是黑盒子，一旦输入的数据出错，就很容易产生误判。更别说拿AI批量做假视频、假情报打认知战，在本就互相提防的大环境下，一点点虚假信息都能搅浑局势。
好在双方已有共识，美国那边规定，军事AI的最终决定权必须掌握在人手里；我们也公开表明立场，军事AI要服从人的管控，反对盲目军备竞赛。核武器绝对不能交给机器做主，这就是能坐下来聊的基础。
当然合作不是说要消除所有竞争，也不是一下子把所有问题全部摆平，都是做些接地气的实事。例如搭建一套AI突发事件的沟通渠道。一出现可疑的AI网络攻击，或是一段足以激化矛盾的深度伪造内容，先互相打个招呼核实情况，别看到点风声就直接定性、对抗升级。
智库之间的民间对话也得继续。很多不方便开口的想法，学者专家可以放开聊，把AI失控、网络渗透、认知作战这些风险摊开来讨论。还可以到联合国这种多边平台，拉上更多国家一起琢磨通用规则，不能只由少数几家科技巨头说了算。
我们也没必要幻想对方会全盘改变自家舆论环境，这不现实。可以先谈技术层面的小事：比如给AI生成的内容打上溯源标记，不管这个假视频假文章是哪边产出的，跨国传播之后，能查到是谁生成、改过哪些地方；再把各国官方权威资料整理成机器可以读取的格式公开到网上，让大模型回答问题的时候有靠谱素材可以调用，少点凭空编出来的谎言。
竞争会一直存在，出口管制、技术博弈这些现实不会凭空消失。但AI的风险是不分国界的，生物武器的设计方案、自动化攻击脚本、批量伪造的历史谎言，不会乖乖停在国境线以内。
作为全球AI实力最强的两个大国，怎么平衡好竞争和风险管控，不单单是两国自己的事，也决定着这项技术最后是造福普通人，还是到处埋雷。
