#opg $OPG AI對話通常集中在模型上。
更大的模型。更快的模型。更智能的模型。
但我認爲其中一個最有趣的問題在於:
AI的智能究竟來自哪裏?
每個AI系統都是從某些東西中學習的。文章、論壇、研究論文、代碼、圖像、公共討論,以及人們多年分享的數十億條信息。從某種意義上說,現代AI建立在巨大的集體人類知識層之上。
奇怪的是,一旦模型訓練完成,許多貢獻就變得不可見。
系統可以生成答案、創建內容和產生價值,但追蹤這些價值所來源的人和信息幾乎是不可能的。我們得到智能,但對其來源的可見性卻很少。
這爲AI的未來創造了一個重要挑戰。
隨着這些系統變得越來越強大,透明度可能變得與能力同樣重要。一個AI模型僅僅有用是不夠的。人們會越來越多地問,它的輸出是否可以驗證,來源是否可以理解,以及貢獻者是否可以以某種有意義的方式被認可。
當然,歸屬並不是一個簡單的問題。人類知識是分層和相互連接的。一個想法建立在另一個想法上,然後又是另一個。沒有任何系統能夠完美地測量每一個貢獻。
儘管如此,朝着更加開放和負責任的智能方向發展,感覺是正確的方向。
AI的下一個階段可能不僅僅由誰構建最大模型來定義。
它可能由誰在其周圍構建最可信的生態系統來定義。
因爲從長遠來看,缺乏透明度的智能會引發問題。
而具有透明度的智能則會創造信心。
而這種差異可能最終比人們今天意識到的更爲重要。
#AI #OpenIntelligence #TransparencyMatters #OPG