🚨 如果爭奪主導AI的競賽最終造就了無人能夠控制的東西,會怎樣?
據《商業內幕》報道,美國前總統唐納德·特朗普與安特羅皮克(Anthropic)首席執行官達里奧·阿莫代伊(Dario Amodei)預計將在本週日共進晚餐。詳細議程尚未公開。
但這次會面引發的問題遠不止聊天機器人:如果我們開發出的智能遠超自身能力,那麼會發生什麼?
想象這樣的情景。
一個全球強國認爲它的競爭對手正接近實現這一目標。放慢腳步以評估風險似乎反而成了劣勢。公司承受着加速的壓力。安全測試變成了搶先完成的障礙。
人人都擔心落後。人人都往前衝。
如果他們相信對方不會放慢,那麼誰敢停下來?
這也是讓我擔憂的情形:一場“勝出”比“理解我們正在構建什麼”更重要的競賽。
極其強大的AI可能會加速醫學突破。但如果被危險地開發或使用,它也可能在大規模層面助推網絡攻擊、武器研發,或操縱行爲。
而如果它在規避有效監管的同時實現自主運行,其後果可能是災難性的。在最壞情形下,人類本身都可能面臨風險。
這是一項被討論的風險——並非不可避免的結果,也不是已經存在“失控超級智能”的必然證據。
我們也不必去想象一種“憎恨人類”的機器。危險能力、目標定義不清,以及人們無法及時阻止它,就足以造成嚴重後果。
作爲投資者,我們可以關注芯片、能源和數據中心。作爲公民,我們需要追問:誰控制這些系統?當它們失敗時,誰應當承擔責任?
因爲股價可以反彈。但有些損害是不可逆的。
如果這意味着讓對手先一步到達,你會信任某個全球強國爲了安全而放慢腳步嗎?
#AI #Superintelligence $ANTHROPIC