人工智能 (AI) 最近引起了轟動，因爲它有可能徹底改變人們處理和解決不同任務和複雜問題的方式。從醫療保健到金融，人工智能及其相關的機器學習模型已經展示了其簡化複雜流程、增強決策模式和發現有價值見解的潛力。
然而，儘管該技術潛力巨大，但揮之不去的“黑匣子”問題仍然對其應用構成重大挑戰，引發了人們對這些複雜系統的透明度和可解釋性的質疑。
簡而言之，黑箱問題源於難以理解人工智能系統和機器學習模型如何處理數據並生成預測或決策。這些模型通常依賴於人類難以理解的複雜算法，導致缺乏責任感和信任。
因此，隨着人工智能越來越多地融入我們生活的各個方面，解決這個問題對於確保負責任且合乎道德地使用這項強大的技術至關重要。
黑匣子：概述
“黑匣子”這個比喻源於這樣一種觀點，即人工智能系統和機器學習模型的運作方式對人類來說是隱藏的，就像一個密封的、不透明的盒子裏的東西一樣。這些系統建立在複雜的數學模型和高維數據集之上，這些模型和數據集形成了複雜的關係和模式，指導着它們的決策過程。然而，這些內部運作方式對於人類來說並不容易接近或理解。
從實際角度來看，人工智能黑箱問題是指難以解讀人工智能系統預測或決策背後的原因。這一問題在深度學習模型（如神經網絡）中尤爲普遍，因爲神經網絡中多層互連節點以分層方式處理和轉換數據。這些模型的複雜性及其執行的非線性轉換使得追蹤其輸出背後的原因變得極具挑戰性。
BR Group（一家基於人工智能的營銷分析儀表板）首席執行官 Nikita Brudnov 告訴 Cointelegraph，人工智能模型如何得出某些決策和預測缺乏透明度，這可能會在許多情況下帶來問題，例如醫療診斷、財務決策和法律訴訟，從而嚴重影響人工智能的持續採用。
雜誌：Joe Lubin：ETH 創始人分裂和‘加密谷歌’的真相
“近年來，人們對解釋和闡釋人工智能模型決策的技術開發給予了極大關注，例如生成特徵重要性分數、可視化決策邊界和識別反事實的假設解釋，”他補充道：
“然而，這些技術仍處於起步階段，不能保證它們在所有情況下都有效。”
Brudnov 進一步認爲，隨着進一步去中心化，監管機構可能會要求人工智能系統做出的決策更加透明和負責，以確保其道德有效性和整體公平性。他還表示，如果消費者不瞭解人工智能產品和服務的工作原理和決策過程，他們可能會猶豫是否使用人工智能產品和服務。
黑匣子。資料來源：Investopedia
積極投資 AI 相關技術的投資公司 DFG 的創始人 James Wo 認爲，黑匣子問題在可預見的未來不會影響 AI 的採用。Wo 認爲，大多數用戶不一定關心現有的 AI 模型如何運行，他們只是樂於從中獲得實用性，至少目前如此。
“從中期來看，一旦這些平臺的新鮮感消退，人們肯定會對黑箱方法產生更多懷疑。隨着人工智能進入加密貨幣和 Web3，問題也會越來越多，因爲這些領域存在財務風險和後果需要考慮，”他承認。
對信任和透明度的影響
缺乏透明度會嚴重影響信任的一個領域是人工智能驅動的醫療診斷。例如，人工智能模型可以分析醫療保健中的複雜醫療數據以生成診斷或治療建議。然而，當臨牀醫生和患者無法理解這些建議背後的理由時，他們可能會質疑這些見解的可靠性和有效性。這種懷疑態度可能進一步導致人們不願採用人工智能解決方案，從而可能阻礙患者護理和個性化醫療的發展。
在金融領域，人工智能系統可用於信用評分、欺詐檢測和風險評估。然而，黑箱問題可能會使這些信用評分的公平性和準確性以及欺詐警報背後的原因產生不確定性，從而限制了該技術實現行業數字化的能力。
加密行業也面臨着黑箱問題的影響。例如，數字資產和區塊鏈技術植根於去中心化、開放性和可驗證性。缺乏透明度和可解釋性的人工智能系統會導致用戶期望與該領域人工智能驅動解決方案的現實脫節。
監管問題
從監管角度來看，人工智能黑箱問題帶來了獨特的挑戰。首先，人工智能流程的不透明性使得監管機構越來越難以評估這些系統是否符合現有規則和準則。此外，缺乏透明度可能會使監管機構難以制定新的框架來應對人工智能應用帶來的風險和挑戰。
立法者可能難以評估人工智能系統的公平性、偏見和數據隱私實踐，以及它們對消費者權利和市場穩定的潛在影響。此外，如果不清楚人工智能系統的決策過程，監管機構可能難以識別潛在的漏洞，也無法確保採取適當的保護措施來降低風險。
關於這項技術的一項值得注意的監管發展是歐盟的《人工智能法案》，該法案在 4 月 27 日達成臨時政治協議後，即將成爲歐盟法規的一部分。
《人工智能法案》的核心目的是在歐盟內爲人工智能發展創造一個值得信賴和負責任的環境。立法者採用了一種分類系統，根據風險將不同類型的人工智能分爲：不可接受、高風險、有限和最小風險。該框架旨在解決與人工智能黑箱問題相關的各種問題，包括透明度和問責制問題。
無法有效監控和管理人工智能系統已經導致不同行業和監管機構之間的關係變得緊張。
上個月初，流行的人工智能聊天機器人 ChatGPT 在意大利被禁 29 天，主要是因爲該國數據保護機構對其涉嫌違反歐盟《通用數據保護條例》（GDPR）提出了隱私問題。不過，在首席執行官 Sam Altman 宣佈他和他的團隊已採取具體措施遵守監管機構的要求（包括披露其數據處理實踐和實施年齡限制措施）後，該平臺於 4 月 29 日獲准恢復服務。
由於用戶越來越擔心固有的偏見、不準確性和道德影響，人工智能系統監管不力可能會削弱公衆對人工智能應用的信任。
解決黑盒問題
爲了有效解決人工智能黑箱問題，採用多種方法促進透明度、可解釋性和可問責性至關重要。可解釋人工智能 (XAI) 和開源模型就是兩種互補策略。
XAI 是一個研究領域，致力於彌合 AI 系統的複雜性與人類可解釋性需求之間的差距。XAI 專注於開發能夠爲 AI 驅動的決策提供人類可理解的解釋的技術和算法，從而深入瞭解這些選擇背後的原因。
XAI 中經常使用的方法包括替代模型、特徵重要性分析、敏感性分析和本地可解釋的模型無關解釋。跨行業實施 XAI 可以幫助利益相關者更好地理解 AI 驅動的流程，增強對該技術的信任並促進遵守監管要求。
與 XAI 相結合，推動採用開源 AI 模型可能是解決黑箱問題的有效策略。開源模型授予對驅動 AI 系統的算法和數據的完全訪問權限，使用戶和開發人員能夠仔細研究和了解底層流程。
透明度的提高有助於建立信任並促進開發人員、研究人員和用戶之間的合作。此外，開源方法可以創建更強大、更可靠、更有效的人工智能系統。
加密領域的黑盒問題
黑箱問題對加密領域的各個方面都有重大影響，包括交易策略、市場預測、安全措施、代幣化和智能合約。
在交易策略和市場預測領域，隨着投資者尋求利用算法交易，人工智能驅動的模型越來越受歡迎。然而，黑箱問題阻礙了用戶對這些模型如何運作的理解，使得評估其有效性和潛在風險變得具有挑戰性。因此，這種不透明性也可能導致對人工智能驅動的投資決策產生不必要的信任，或使投資者過度依賴自動化系統。
通過檢測欺詐交易和可疑活動，人工智能在增強區塊鏈生態系統的安全措施方面發揮着至關重要的作用。然而，黑匣子問題使這些人工智能驅動的安全解決方案的驗證過程變得複雜。決策缺乏透明度可能會削弱人們對安全系統的信任，引發人們對其保護用戶資產和信息的能力的擔憂。
最近：2023 年共識：儘管面臨美國監管挑戰，但企業仍對 Web3 表現出興趣
代幣化和智能合約是區塊鏈生態系統的兩個重要組成部分，它們也正在見證人工智能的日益融合。然而，黑箱問題可能會掩蓋人工智能生成的代幣或智能合約執行背後的邏輯。
隨着人工智能徹底改變各個行業，解決黑箱問題變得越來越緊迫。通過促進研究人員、開發人員、政策制定者和行業利益相關者之間的合作，可以開發解決方案來促進人工智能系統的透明度、問責制和信任。因此，觀察這種新穎的技術範式如何繼續發展將會很有趣。