AI竞赛最危险的地方，不是中国赢还是美国赢，而是谁都不敢先停下来
人工智能发展到今天，真正令人不安的已经不是“AI会不会超过人类”这样一个听起来很科幻的问题，而是一个非常现实的问题：如果所有人都知道高速冲刺存在危险，却没有任何一个参与者敢先踩刹车，会发生什么？
这恰恰是今天中美AI竞争最值得警惕的地方。
据法广报道，Anthropic CEO达里奥·阿莫迪近日提出，应该放慢前沿AI模型能力提升的速度。更有意思的是，他的竞争对手OpenAI CEO萨姆·奥尔特曼和马斯克也公开表示认同。但美国总统特朗普却拒绝放慢脚步，理由非常直接：美国现在领先中国，而“谁赢得AI竞赛，谁就是最终的赢家”。中国方面则对美国AI企业提出的放缓倡议保持高度警惕，并将其与遏制中国技术发展的意图联系起来。
于是，一个非常荒诞的局面出现了。
美国企业担心AI发展太快，美国政府担心中国追上来；中国担心美国借安全监管限制中国，中国又不能因为担心风险而主动放慢自己的技术发展。
每个人都在说风险。
但每个人都害怕自己成为第一个停下来的人。
这就是所谓“囚徒困境”最现实的一面。
问题在于，AI不是普通的商业竞争。
两家公司抢市场，输了最多是一家公司倒闭；两个国家争夺芯片市场，输了可能是产业份额下降。但如果未来某些AI系统真的拥有越来越强的自主执行能力，风险就不再只是“谁的公司赚得更多”，而可能涉及军事系统、网络攻击、关键基础设施、信息操纵乃至普通人的生命安全。
更麻烦的是，这一次真正参与竞赛的并不只是政府。
OpenAI、Anthropic、Google、Meta以及其他公司，都有巨大的商业激励继续扩大模型能力。它们当然可以讨论AI安全，也可以公开提醒社会AI可能存在风险，但它们同时又必须不断推出更强的模型，否则就可能被竞争对手甩在身后。
这不是简单的“科技公司虚伪”。
这是商业竞争本身产生的结构性矛盾。
一个企业如果主动放慢，而竞争对手没有放慢，那么它承担的不是道德上的损失，而可能是真实的市场损失、人才流失和资本压力。
所以，不能把解决AI风险的希望寄托在企业家的个人良心上。
同样，也不能把希望寄托在总统的个人智慧上。
特朗普提出AI需要的“护栏”可以是一个强大而聪明的总统，这句话恰恰暴露了问题的核心。美国政府今年确实一方面推动AI创新和美国领先，另一方面也在国家安全领域强调可靠性、可控性、问责以及宪法权利保护。美国政府的正式文件甚至明确提出，国家安全体系中的AI不得用于审查言论或实施违法监控。
这些制度安排本身并没有错。
真正值得警惕的是：如果最终把AI安全寄托在“总统足够聪明”上，那么制度就已经退到了个人之后。
一个民主社会真正可靠的护栏，从来不应该是“今天坐在总统办公室的人是个好人”。
应该是即使换了一个人，权力仍然受到法律约束。
这才是法治和个人统治之间最基本的区别。
而中国面临的问题其实也一样，只不过表现形式不同。
中国官方近年来并没有否认AI风险，相反，官方文件明确讨论了AI幻觉、算法偏见、系统漏洞、网络攻击、深度伪造等风险，也强调人工智能治理和安全。
问题在于，当AI风险被放进国家安全框架以后，安全的边界究竟在哪里？
如果AI可能被用于制造谣言、网络攻击、认知战，这些当然可以成为监管理由。但如果“有害信息”“政治谣言”“意识形态安全”这些概念不断扩大，那么最后被监管的究竟是危险的AI能力，还是人们使用AI表达、获取和传播信息的自由？
这才是一个自由社会必须追问的问题。
AI安全当然重要。
但“安全”不能成为一个无限扩张的口袋。
因为一旦任何东西都可以被定义为安全问题，那么几乎任何限制都可以找到一个理由。
美国也必须面对同样的考验。
“因为中国不会停，所以美国不能停”在战略竞争上听起来很有说服力，但它并不能自动回答另一个问题：
如果某项技术真的存在严重风险，美国是否仍然应该为了保持领先而继续加速？
如果答案永远是“只要中国还在发展，我们就不能停”，那么美国实际上已经把自己的技术政策交给了中国的行为。
中国也可以用完全一样的逻辑回答。
“美国不会停，所以中国不能停。”
于是两边互相证明对方的强硬是自己强硬的理由。
这就是最危险的地方。
双方甚至不需要真的希望风险发生，只需要不信任对方，就足以让竞赛继续。
而普通人恰恰是这场竞赛里最没有话语权的人。
普通人没有能力决定一个模型什么时候发布，没有能力决定数据中心建在哪里，也没有能力决定AI是否进入军事系统。
可是模型失控、就业结构改变、深度伪造泛滥、隐私泄露、自动化决策错误，最后承担后果的却可能是普通人。
所以真正需要建立的，不是一个由中美任何一方单方面制定的“AI世界秩序”，而是一套能够约束所有参与者的规则。
美国不能因为自己领先，就要求别人接受美国制定的规则。
中国也不能因为担心被美国遏制，就把所有外部安全监管都理解成技术封锁。
AI安全需要国际合作，但国际合作不能只是几个大国坐下来谈“谁拥有更多AI能力”。
真正重要的是：哪些能力应该受到限制？谁来监督？出了事故谁负责？普通人受到损害以后能不能获得赔偿？政府使用AI的时候，个人能不能知道？企业的模型造成重大损害以后，谁承担责任？
这些问题，比“中美谁先实现AGI”更加现实。
还有一个更容易被忽视的问题。
我们不能因为AI公司今天开始谈安全，就忘记它们同时也是AI竞赛的参与者。
一家企业既是赛车手，又告诉我们赛车太快很危险，我们当然应该听，但不能因此把方向盘交给它。
企业需要参与制定规则，却不能成为规则本身。
政府也一样。
政府可以监管AI，但不能因为拥有监管权，就顺便获得控制信息、限制表达或者扩大行政裁量的无限授权。
这才是我认为这场AI竞赛真正需要建立的底线。
不是美国必须赢，中国必须输。
也不是中国必须追上美国，美国必须停下来。
而是无论最后谁领先，技术都不能脱离人的控制；无论哪一个国家拥有最强大的模型，政府权力都不能因此无限扩大；无论哪一家企业掌握最先进的AI，都不能因为“国家竞争”四个字而免于问责。
技术竞赛可以继续。
创新也不应该被恐惧冻结。
但“谁先停下来谁就输”的逻辑必须被打破。
因为AI竞赛不是一场普通的百米赛跑。
如果终点线后面是一堵墙，那么真正聪明的选手，不是那个跑得最快的人。
而是那个知道什么时候必须减速，并且能够让所有人一起减速的人。
这也是为什么今天最需要建立的，不是一个“更强的AI”，而是一套比AI更强的规则。
AI最终能走多远，当然取决于技术。
但人类能不能安全地走到那里，取决于我们有没有能力约束掌握技术的人。