微軟首席執行官薩提亞·納德拉表示,隨着超級智能系統能力日益增強,業界需要重建人工智能信任框架,而且不應將人工智能行動的責任推給模型提供商。據 PANews 報道,納德拉表示,企業正讓複雜的人工智能代理訪問敏感數據並執行關鍵任務,因此不應將超級智能系統視爲不透明的黑箱,只能選擇接受或拒絕。

他說,這類系統需要外部控制和審計機制,以便隨時觀察其行爲、測試邊界並限制行動。納德拉闡述了幾項治理原則,包括模型多樣性、全面可觀測性、持續驗證、獨立控制與審計、風險隔離以及事件披露。他還表示,思維鏈透明度是人工智能治理的重要基礎,但僅靠這一點還不夠,因爲模型的輸出仍無法始終得到可靠解釋。