各位朋友,大家好。

今天是九一八纪念日,在此我怀着沉痛的心情纪念这个日子,愿我们永不忘国耻。

大家知道,在刚结束的香山论坛上,日本政府方面没有收到参会邀请,就连日本驻华武官也被排除在外。这恰恰体现出中方对日本右翼军国主义死灰复燃的深切警惕。

言归正传,本期节目探讨两个关联性极强的话题:一是中美关系;二是人工智能。

很多人可能会疑惑,地缘政治和科技领域怎么会联系紧密?但实际上,二者其实存在很深的内在逻辑。

我先用一句话点明核心,也就是之前我多次提到的:中美之间国力和军力的竞争,核心就是科技竞争,而未来十年科技竞争的重中之重就是人工智能。

现阶段的人工智能,可以类比九十年代末的互联网,仍处在相对初级的阶段。但这一趋势已经不可逆转,尤其是能够自我迭代、自我增强的AI,乃至未来可能出现的超级智能,其发展势能远非三十年前的互联网可比。

因此,从这个角度来看,未来谁能够在人工智能领域拔得头筹,谁就能在中美两国乃至全球的地缘博弈中占据上风。

某种程度上,人工智能议题在中美博弈中的分量,不亚于甚至远超冷战时期美苏之间的核裁军与核不扩散谈判。核武器至少仍处于人类可控范围,但人工智能若持续演化,有可能会成为脱离人类掌控的脱缰野马。

作为两个大国,中美一方面要应对传统的地缘战略竞争,另一方面也需要将人工智能给全人类带来的共同挑战纳入双边议程。这既有助于强化双方的人类命运共同体责任意识,也能在一定程度上缓解双边矛盾。

相反,如果把人工智能竞争完全套入传统的地缘战略竞争框架中,问题则会变得愈发错综复杂。

近期,美国国内掀起了一场关于AI的大讨论。导火索是9月8日,AI企业Anthropic一名27岁的离职工程师在社交平台公开表示,两家头部AI 企业在推进技术迭代时几乎没有责任感。并且,AI 已经出现了自我迭代、由AI 生成下一代 AI 系统的趋势。

而企业内部很多从业者表面一套背后一套,表面上声称一切都很安全,私下却满心忧虑,存在明显的人格分裂与道德缺失。

这篇公开文章发布后,短时间内获得数亿次浏览,点赞数也很高,在美国AI行业内部引发了大规模讨论。

这名工程师的前东家Anthropic的CEO阿莫迪,也在9月12日发布长文,表示认同这名离职员工提出的风险担忧,但他给出的解决方案,在我看来存在很大问题。

他提出三点设想:前沿 AI 企业接受第三方评估、民主国家之间开展协调、推进全球合作。

第三方评估和全球合作本身没有问题,但“民主国家协调”这一条,本质上是希望西方国家先抱团,以此防范他们口中所谓的“非民主国家”。

而就在前几天,特朗普也就人工智能问题公开发表了看法,明确表示坚决反对对人工智能实施全球监管。

他声称一旦开展监管,美国就会把人工智能领域的主导权拱手让给中国,美国绝不能在 AI 竞赛中落后于中国,甚至他认为科学界对 AI 风险的警示都只是一场骗局。

至此,事态变得盘根错节。传统的中美地缘战略冲突与新一轮科技革命的挑战交织在一起,需要我们跳出旧有框架,不能“眉毛胡子一把抓”,而要用全新的思维去看待。

坦率来讲,这是人类有史以来最严峻的一场科技革命挑战。它完全不同于以前的机械化、电气化、互联网,它是对人类生命的一种挑战。

未来的超级人工智能一旦成型,将具备远超人类千百倍的思考能力,并可能产生独立的情感与意志。届时,就连研发它的科学家也无法理解其运行逻辑,它或将彻底变成一个黑箱,这是人类将要面对的巨大风险。

目前,全球对人工智能的认知大致分为三大阵营。

第一类是末日论。一部分早期AI科学家曾提出警告,如果放任AI自我迭代,人类有可能在三十年内被人工智能毁灭。后来,他们又将预警时间缩短到十年。

他们认为,应当在潘多拉魔盒被彻底打开之前加以限制。Anthropic离职工程师、CEO阿莫迪,以及马斯克都持有类似的担忧。

顺带一提,马斯克的立场曾出现前后摇摆。七八年前,他曾联合霍金以及全球近150位顶尖科学家、企业家,联名呼吁全面叫停人工智能研发。

彼时连大语言模型都尚未普及,而如今人工智能已发展至行动模型,下一步将是超级人工智能,再之后是通用型人工智能。

而在这七八年间,马斯克自己却如同脱缰的野马般在人工智能领域狂奔。

第二类是怀疑论。他们对当下的人工智能,既不全盘拒绝,也不一味地全盘看好,而是保持高度审慎。乐观的一面他们会接纳,同时也会想办法阻挡风险隐患,这就是怀疑论者。

第三类是乌托邦主义者,对人工智能抱有无比美好的想象,认为人工智能只不过是过去250年人类历次科技革命的简单复刻。

放眼整个西方乃至全世界,现在大致分化成这三大阵营,尤其是9月8日那一轮舆论发酵之后,把原本埋藏在大众心底的种种情绪全部给激发了出来。

从科技层面来说,这场讨论本身非常有价值。

我一直在强调,人类现在十分缺少伟大的哲学家,我们需要站在哲学的维度,去思考科技革命带来的积极和消极影响。

还是那句话,早知今日,何必当初,对于人工智能如果一开始就全盘封锁,或许不会衍生出这么多麻烦,但问题就是面对科技革命,人类永远是抱着接纳的态度。

事到如今,人工智能已经能相当程度地帮我们降本增效,重塑工作流程,甚至重构企业、社会乃至政治运行流程。那么下一步,我们要不要继续发展自我驱动式的人工智能?

对于这个问题,我想现阶段人类确实需要用哲学家的思维,来切入科学与经济社会的门槛,这一步是无法绕开的。

另一方面,政治领域,我们看到特朗普是反对监管的。

过去一周,马斯克等美国科技界巨头率先掀起了对人工智能的反思,这是一个非常好的现象,尤其他们本就是人工智能的原始推动者。

从我个人而言,我认为这是有用,且非常可贵的,但特朗普的逻辑却是不能监管AI,否则就是把机会拱手送给中国。

这套思路,和他动不动就拿关税解决一切贸易问题如出一辙,是一种来自18、19世纪十分陈旧、保守甚至落后的思维,不仅对世界没有益处,对中美关系也是有害的。

另外,在这一轮反思当中,Anthropic首席执行官提出了的几个解决方案,其中“民主国家协调”这一点,其实非常具有蛊惑性,是错误的,或者至少在舆论层面具有巨大争议。

试想一下,世界上本就不存在绝对意义上的民主与非民主国家,这套话语本身就是西方构建的。

更何况西方那些所谓的民主体制国家,他们真的能从哲学层面约束自我驱动式人工智能的发展吗?

要知道AI技术的诸多原创突破,恰恰就诞生在这些所谓西方民主国家。而这些国家里面,有哪一套舆论思潮、哪一种哲学思想站出来叫停过?又有哪一届政府出手制止过?

反倒是一些在西方标准视角下的“非民主”国家,有可能依托政府力量实施监管,做出一定的管控。

大家知道,在危机来临的时候,国家控制力量是非常重要的,不管是战争、灾难、疫情爆发时都是如此。现在,如果把人工智能比作一只科技猛兽,它的风险只有强势政府才有能力去约束。

可恰恰是西方所谓的民主国家,因为所谓的自由经济、自由原创,让所有的科技原创一发不可收拾。

人类历史上很多技术发明,如果缺少哲学层面的约束,完全有可能演变为灾难。

举个例子,换头术,如果把张三的头移植到李四身上,那人类还能称之为人类吗?

这种事在技术层面完全可行,但是会催生海量伦理问题,彻底搅乱人类伦理秩序,也正是因此克隆技术被叫停了。

此外,核武器问世之后,世界又建立起了核不扩散体系,否则人类连生存都会受到威胁。

如今人工智能时代来了,而AI巨头提出的所谓依靠西方民主国家协调治理,本身就存在巨大盲点。但特朗普却如获至宝,拿这套有缺陷的理论,配合自己陈旧的思路用来遏制中国,这也难怪中国政府要予以反对。

中国主张开展全球AI合作、构建全球AI治理框架,这才是正道,而不是拿意识形态、价值观划线,搞阵营对抗。

老实说,特朗普的做法就是打着现代科技的幌子,行传统遏制打压之实。而AI科技巨头的这套“民主国家协调”方案,恰恰暴露了科技精英在政治层面的巨大盲点与幼稚。

AI当然需要监管,但中方主张全球AI合作、全球共同治理,大家一起共同研判风险,而不是搞阵营对抗,分高低贵贱。

第二,中美关系,最近有好有坏。

先说好消息,昨天(9月17日)中国外长与美国国务卿鲁比奥通了电话。同时,美国财长贝森特单方面宣布,在即将到来的这个周末,中美经济高层将会再度举行会谈。

但还有一个值得留意的状况,目前为止,原定于九月中旬举行的中美人工智能对话依然没有落地。这是否与前文提到的舆论争辩有关,目前尚未可知,但间接关系一定存在。

我相信,这种情况很大概率是因为中美在人工智能合作、全球治理的问题上有了重大分歧。

结合近期美国科技巨头抛出的带有盲点的方案,再加上特朗普这种借监管之名行遏制中国之实的态度,中美AI对话难以推进也就不难理解,毕竟双方底层原则已经出现巨大裂痕。

这件事拖下去,既是对中美两国的不负责,也是对全人类的不负责。

虽然我人微言轻,起不到决定性作用,但我愿意把这些事实摆在一起抽丝剥茧地拆解,帮大家梳理逻辑,看清问题的本质,看看能不能运用第一性原理,在最底层寻找可以对接的共识空间和破局出路。

希望我今天这番粗浅分析,能够启发各位朋友进一步思考、讨论,催生更多有价值的观点。

关注我,下一篇盘面速读不错过。