@NewtonProtocol $NEWT #Newt

ニュートン・プロトコルについて読むほど、AIについて考えたことが薄れていった

私は、ニュートン・プロトコルについて読むにあたり、AIとブロックチェーンに関するよくあるお決まりの話をまた見つけるつもりでいました。ですが、気づけば私はもっと静かなことを考えていました。つまり、実際に重大な結果を伴う意思決定を行うソフトウェアを「信頼する」とは、いったいどういうことなのか、という点です。

数時間そのドキュメントを読み込んだあと、ニュートンは主にAIをより能力の高いものにすることを目指しているわけではない、と感じました。むしろ、オートメーションに対して説明責任を持たせることに関心があるように思えます。このプロトコルは、取引が行われる前に、ある自動化されたシステムが何を実行してよいのかを定義する「プログラマブルなポリシー」を中心に構築されており、すべての判断を単に信頼すべきだと前提するのではなく、そうした枠組みで扱っているのです。

それは、いつもの会話とは違う感覚でした。多くのプロジェクトは「AIが何をできるか」に焦点を当てます。ニュートンはそれよりも、「AIに何をしてはいけないか」を問う時間が多いのです。私は、その考え方のほうが健全だと思います。たとえ、その構想が実際に使われる中でまだ実証が必要だとしても。

心に残ったのは、テクノロジーそのものではなく、それを支えるマインドセットです。ソフトウェアがより大きな金融上の責任を担うようになると、知性だけでは十分ではなくなるでしょう。明確な境界線が、能力を設計することと同じくらい重要になるかもしれません。

もちろん、疑問も残ります。開発者は、これらのポリシーを軸に意味のあるアプリケーションを作れるのでしょうか？人々は、大きな資産をともなう自動化システムを本当に信頼できるのでしょうか。そして、導入が広がっていく中で、これらのセーフガードは有効性を保ち続けられるのでしょうか？それらの答えは、時間とともにしか分かりません。

私は、次のブレークスルーを見つけたと確信できたわけではありませんでした。しかし読み終えたあとに残ったのは、もっと価値のある感覚でした。つまり、限界を設計することが、能力を設計することと同じくらい重要になりうる、ということです。