引發多位CEO和頂尖AI研究人員辭職的兩個主要因素是:AI帶來的企業運營快速轉型,以及缺乏可控約束的AI發展所帶來的風險。
CEO與AI研究人員辭職的原因
長期AI轉型:一些大型公司已經在經歷由AI驅動的變革,包括具備代理能力的商務(agentic commerce)以及自動化零售模式。部分離任CEO表示,這些長期變化可能需要具備更強AI導向專業能力的領導者。
失控的超級智能:一些頂級研究者(包括Anthropic的Jacob Coxon,以及前Google AI研究員Geoffrey Hinton)擔憂,AI實驗室可能在安全措施不足的情況下,朝着能夠自我改進的超級智能方向發展。
重速度而非重安全:部分離任的技術人員認爲,大型科技公司將競爭和利潤置於更優先的位置,而安全性與可控AI開發可能沒有得到足夠關注。
高管層自動化:未來,AI模型或許能夠更高效地處理部分企業決策與高管層任務,這可能會改變傳統C-suite管理層的角色與需求。
AI的“黑暗面” 隱藏風險
生存性與對齊威脅:一個主要擔憂是,如果具備自我學習能力的AI系統超出人類控制,或無法與人類價值觀保持對齊,那麼控制或關閉它們可能會變得極其困難。
大規模工作崗位被替代:自動化不再僅限於體力或入門級崗位。管理、編碼、研究以及部分決策類崗位等白領工作同樣可能受到影響。
企業壟斷與中心化:少數幾家大型科技公司掌握了大量數據與AI基礎設施,引發了對權力與決策集中化的擔憂。
深度僞造與合成操縱:AI也可能被濫用於製作逼真的假視頻、克隆聲音以及自動化的網絡釣魚網絡,從而破壞金融體系並損害公衆信任。
#artificalintelligence $BR