我最近一直在想的一件事，和人工智能變得多聰明這件事其實關係不大。它關乎一些更安靜的東西。隨着這些系統越來越多地代表我們做決定，我們變得更擅長看到它們做了什麼，但卻更不擅長理解它們爲什麼這麼做。今天看來，這種差別似乎很小，但我懷疑它會隨着自動化的擴散而變得大得多。這也是爲什麼牛頓協議引起了我的注意。它並不是因爲它承諾更多的自動化，而是因爲它提出了一個更深層的問題：未來的市場是否會像在意決定本身一樣在意這些決定背後的歷史。
加密系統一直擅長證明結果。發生了一筆交易。完成了一次結算。資金髮生了移動。這些事情相對容易覈驗。但 AI 引入了另一層。決策不再直接來自人。它來自於能夠根據不斷變化的信息、轉移的激勵以及既有的行動來響應的系統。在那個過程中，某種上下文開始逐漸消失。機器在行動，但推理幾乎立刻就淡出了。我覺得我們對這一點談得還不夠。
這裏有一種奇怪的矛盾。我們不斷構建 AI 來消除人力付出，但每一層自動化也同樣讓人更難追蹤其底層發生了什麼。萬事都變得更高效了，但也變得更不可見。也許這種權衡是可以接受的。也許不是。我坦誠地說，我不太確定。它只是讓我感覺：這是一類只有在我們已經適應之後，纔會變得明顯的“安靜變化”。
這使得覈驗變得比最初看起來更有意思。在像牛頓協議（Newton Protocol）這樣的項目中，覈驗不僅僅是確認某件事是否發生得正確。更重要的是，讓未來的參與者獲得足夠的信心，理解自動化系統是如何在關鍵時刻作出決策的。當然，這也有其上限。密碼學可以保存證據。它無法證明智慧。完美覈驗的錯誤，依然是錯誤。
我也在想，我們是否正在慢慢改變“聲譽”意味着什麼。對人類而言，聲譽通常是通過一段時間內反覆的行爲建立起來的。AI 也許並不太不一樣。一項單獨成功的決策說明不了太多。重要的是，在數百次或數千次互動中，行爲能否保持可理解。也許機器信任並不會單靠“智能”本身而來。也許它來自於某種一致性——其他人可以在不依賴盲目信仰的前提下審視它。
這會製造一個協調問題，而且它的規模看起來要比任何單一模型都更大。AI 系統不再彼此隔離運行。一個智能體的決策會改變另一個智能體所處的環境。彼此獨立的策略會開始以沒人完全預料的方式相互影響。挑戰一下子就不再是生成更好的輸出，而是讓數千個彼此獨立的系統共存，同時又不引發意外的不穩定性。這是一個完全不同的基礎設施問題。
市場通常不會立刻獎勵這種工作。他們往往慶祝可見的產品，而不是看不見的安全防護。如果基礎設施悄悄地阻止了問題，人們常常會假設那原本就不需要。加密領域裏，我見過這種模式反覆出現。可靠性在缺失的那天之前，往往都不會變得令人興奮。
治理也會變得更復雜。隨着 AI 開始更直接地參與經濟系統，治理可能會花更少時間來決定具體的行動，而花更多時間去定義可接受的邊界。聽起來合理，但它帶來了另一種張力。開發者自然希望擁有靈活性。機構通常更希望可預測性。這些激勵並不總是指向同一方向。我懷疑像 NEWT 這樣的生態最終將不得不在這種平衡中周旋，但卻永遠無法徹底解決它。
還有一件事總讓我不安。我們經常以爲，更好的核驗會自動帶來更多信任。我不覺得事情這麼簡單。覈驗告訴我們發生了什麼。信任仍然是人類的判斷。兩個人可以看着完全相同的證據，卻得出完全不同的結論。技術會降低事實層面的不確定性，但它並不能消除人們對意義的分歧。
看着加密領域經歷了那麼多不同的敘事之後，每當有人說信任可以完全消失時，我都會變得謹慎。通常不會。它只是轉移到了別處。也許這就是讓我對牛頓協議感興趣的原因。它並不是因爲它能證明某個特定的未來，而是因爲它會悄悄追問：一旦機器開始做出越來越多塑造我們市場的決策，信任會去往哪裏。我沒有一個令人篤定的答案。我只知道，這個問題正在變得越來越難以忽視。@NewtonProtocol #Newt #newt $NEWT 
