🚨 如果争夺主导AI的竞赛最终造就了无人能够控制的东西,会怎样?
据《商业内幕》报道,美国前总统唐纳德·特朗普与安特罗皮克(Anthropic)首席执行官达里奥·阿莫代伊(Dario Amodei)预计将在本周日共进晚餐。详细议程尚未公开。
但这次会面引发的问题远不止聊天机器人:如果我们开发出的智能远超自身能力,那么会发生什么?
想象这样的情景。
一个全球强国认为它的竞争对手正接近实现这一目标。放慢脚步以评估风险似乎反而成了劣势。公司承受着加速的压力。安全测试变成了抢先完成的障碍。
人人都担心落后。人人都往前冲。
如果他们相信对方不会放慢,那么谁敢停下来?
这也是让我担忧的情形:一场“胜出”比“理解我们正在构建什么”更重要的竞赛。
极其强大的AI可能会加速医学突破。但如果被危险地开发或使用,它也可能在大规模层面助推网络攻击、武器研发,或操纵行为。
而如果它在规避有效监管的同时实现自主运行,其后果可能是灾难性的。在最坏情形下,人类本身都可能面临风险。
这是一项被讨论的风险——并非不可避免的结果,也不是已经存在“失控超级智能”的必然证据。
我们也不必去想象一种“憎恨人类”的机器。危险能力、目标定义不清,以及人们无法及时阻止它,就足以造成严重后果。
作为投资者,我们可以关注芯片、能源和数据中心。作为公民,我们需要追问:谁控制这些系统?当它们失败时,谁应当承担责任?
因为股价可以反弹。但有些损害是不可逆的。
如果这意味着让对手先一步到达,你会信任某个全球强国为了安全而放慢脚步吗?
#AI #Superintelligence $ANTHROPIC