最近、自分のことについてあることに気づいています。AIや自動化されたシステムについて読むたびに、私が考えるのは、それらが何をできるのかという点よりも、私たちの中でそれらがゆっくりと何を変えていくのかという点になっているのです。この変化は一晩で起きたわけではありません。同じような約束を読み続けるうちに、技術そのものが面白いという状態ではなくなり、技術を使う人のほうがずっと興味深くなっていったのです。
信頼は一瞬で到来するものではないと思います。十分に多くのことがうまくいくことで、静かに落ち着いてくるものです。成功した結果が一つあれば、それが十に、さらに百になっていき、やがて私たちは以前ほど慎重に確認しなくなります。私は自分がいつもこれをしているのを、しばしば見つけてしまいます。不注意だからではなく、おそらく人はそういうふうにできているからです。私たちは、何かが馴染んでくると自然に気を緩めてしまいます。
不思議なのは、自動化は責任を消し去らないということです。責任を、あまり目立たない場所へ移すだけです。判断は、システムが動いているときにいつも発生するわけではありません。あるルールを従うべきものとして誰かが選んだのが、数日前、あるいは数か月前だったりするのです。そうした決定が現実世界に姿を現すころには、もう背景の一部になっていて、ほとんど見えないようになっています。
たぶんそれが、ニュートン・プロトコルが私の注意を引いた理由でしょう。別の追いかけるべきプロジェクトを探していたからではありません。むしろ、人間の判断と自動化された実行のあいだにある、居心地の悪い領域について考えさせられたからです。もちろん技術は重要です。でも私は、そこにいる人々のことをつい思い返してしまいます。誰かが「何が起きるべきか」を決める。誰かが「許容できるリスクの種類」を決める。誰かが「システムが何を優先すべきか」を決める。そういう選択は、ソフトウェアがそれを先へ運んだとしても、消え去ったりはしません。
私もまた、市場は人々について何か正直なものを示していると思います。人は、自信、確信のなさ、希望、恐れ、そして時には単純な焦りに反応します。私たちは、AIがそうした環境をより合理的にするのだと想像しがちですが、私はそれが話のすべてだとは確信できません。感情は消えません。プロセスの別の段階へと移るだけです。個々の判断そのものではなく、指示の組み立て方に影響を与えます。
だからこそ、私は大胆な予測に対して完全には安心できないのかもしれません。現実の生活は、きれいな物語どおりに進むことはめったにありません。実際の人々がそれに頼れ始めると、システムは別の挙動をします。思いがけない癖が現れます。小さな前提が重要になります。最初は取るに足らないように見えたことが、後に起きるすべてに、ひそかに形を与えていくのです。
読むほどに、私は確実性に対して興味が薄れていきます。むしろ、「そもそもなぜ人々が、より多くの決定を手放す気になっているのか」を理解したいのです。システムが賢くなっているからでしょうか、それとも、あらゆる手順に自分が関わらなくてもいいことに、私たちが慣れてきているからでしょうか。まだ分かりません。
ひとまず、私は注意を払い続けているだけです。最終的な答えが見つかると期待しているからではありませんが、信頼や振る舞いがほんの少しずつ動くその変化のほうが、見出しよりも重要に思えるのです。そうした変化は静かに起きて、ほとんど気づかれないまま進み、そして不思議なことに、最も長く続くのはたいていこういう変化です。