人工智能中日益嚴重的可靠性問題
在過去的幾年裏，我注意到了一些關於人工智能的有趣事情。這項技術變得非常強大，但與此同時，有一個安靜的問題是大多數人並沒有足夠討論。即使在錯誤的情況下，人工智能聽起來也很自信。任何使用過現代人工智能工具的人都可能經歷過這種情況。你問一個問題，系統給出一個明確的答案，有時甚至帶有解釋和參考。但後來你意識到答案的某部分是不正確的。
這發生是因爲大多數人工智能系統是通過預測下一個最可能的詞而不是證明事實來工作的。它們在生成看起來正確的語言方面非常出色，但這並不意味着信息總是準確的。這個問題通常被稱爲“人工智能幻覺”。即使是高級模型，有時也會產生錯誤或偏見的信息，這使它們在金融、教育、醫療或法律等重要領域難以信任。
爲什麼驗證可能比智能更重要
一旦考慮人類如何確認信息，Mira 的概念變得更加易懂。在科學中，幾乎沒人能相信個人所作的斷言。其他研究人員會對該聲明進行測試，重現實驗並驗證證據。直到該聲明一次又一次地被證明，這才變成公認的知識。
Mira 嘗試將可比的價值轉移到人工智能上。單個模型的輸出在網絡中並不自動被信任。相反，它將人工智能的回答分解爲可以驗證的更小的聲明。這些聲明隨後被提交給多個獨立模型或驗證節點，逐個進行檢查。
這個設計的有趣之處在於，它將真理視爲來自於不同態度之間共識的東西，而不是被中央解釋的東西。
系統去中心化的目的。
在我看來，使 Mira 脫穎而出的另一個方面是其驗證的安排方式。該網絡並不依賴於一家公司或集中服務器來進行驗證，而是依賴於大量獨立參與者。這些參與者運行各種人工智能模型和提交給網絡的聲明。
這種去中心化的組織很重要，因爲它消除了偏袒或操控的機會。當驗證由單一組織進行時，可能會對哪些答案被視爲可接受存在偏見。然而，一旦獨立驗證者的數量增多，結果將會更加平衡。
簡單地說，Mira 正在嘗試建立一個人工智能的信任層。
使系統誠實的動機。
在研究加密項目時，激勵是我從不忽視的事情。技術很難足夠。這些系統往往能夠運作，因爲那些不誠實的人會受到懲罰。
Mira 提出了一個激勵代幣系統，旨在激勵驗證者提交正確的驗證。利益相關者可以進行投注以加入網絡，並在他們正確執行驗證時獲得獎勵。如果他們提供疏忽或不真實的驗證，他們的一部分股份可能會損失。
另一種思考人工智能基礎設施的方法。
我越少考慮 Mira，它就越顯得像一個基礎設施項目，而不是另一個加密代幣。它並不旨在創建一個更優秀的聊天機器人或更智能的模型。相反，它關注的是更深層次的東西：確保人工智能輸出是可信的。
Mira 正在探索這樣一個概念：不僅僅是智能足夠。我們所需要的是可以依賴的智能。