最近はAIについて読むたびに、自分が動きを遅くしてしまっていることに気づいては驚きます。1年前は、現れてくる新しいプロジェクトをすべて理解したいと思っていました。でも今は、そのプレッシャーをもう感じていません。読んで、ページを閉じて、それから残った感情としばらく一緒に座っているんです。たいてい、それは興奮ではありません。これは、こうしたものが静かに私たちに何をしているのか、という好奇心です。
テクノロジーは人を一夜にして変えることはめったにないと気づきました。まずは小さな習慣が変わります。私たちは、別の何かがそれを代わりにやってくれるから、あることをやめてしまう。次に、そのこと自体について考えるのをやめてしまう。数か月後にはそれが当たり前に感じられて、私たちがプロセスにもっと関わっていたときがいつだったか、ほとんど思い出せなくなるのです。
その考えは、私がニュートン・プロトコルについて読んでいる間、ずっと頭に残っていました。
私は取引やAIの戦略について、というよりも「信頼」について考えていました。話題にするような種類ではなく、気づかないうちにゆっくり手渡していく種類の信頼です。ボタンを押すとシステムが引き継ぎ、十分な回数それを繰り返すと、いったい何がその下で起きているのかを自分に問い直すことがなくなっていきます。たぶんそれは自然なことです。あるいは、インフラのあらゆる部品が、日常生活の一部になるその仕組みそのものなのかもしれません。
それでも、私たちの注意の届かないところまで意思決定が遠くへ運ばれていくと、私たちは何を失うのだろうと考えます。
よく「自動化は感情を取り除く」と言われます。でも私はそれを信じていいのか自信がありません。誰かが、やはりルールを選びます。誰かが、何が重要か、何がリスクに当たるか、いつ待ち、いつ行動するかを決めます。そうした選択は消えません。すべてが始まる前に、もっと早い段階で起こるだけです。感情はなくなっていません。設計の中に隠されているだけです。
だからこそ私は、大げさな約束を探す時間を減らし、静かな細部を観察する時間を増やしているのだと思います。細部はたいてい、より率直な物語を語ってくれます。人々がシステムに何を期待しているのか、どこまでなら信頼してもいいと思っているのか、便利さの代わりに何を手放しても平気なのか——それを明らかにしてくれます。
不思議なのは、今この瞬間には、それがドラマチックに感じられないことです。いつも通りに思える。だからこそ、こうした変化に気づきにくいのだと思います。ある日目を覚まして、私たちが以前は細心の注意を払うべきだと思っていたことについて、もう疑問を持つのをやめてしまっていると気づくのです。
私はニュートン・プロトコルのようなプロジェクトを、すべての問いに答えてくれることを期待して読んでいるわけではありません。むしろ、もっとたくさんの問いを私に残します。ソフトウェアが、私たちがその場を離れた後も動き続けるようになったとき、責任はどこに宿るのか考えさせてくれます。規律は、コードに書き込まれることでより強くなるのか、それとも私たち自身がそれを実践しなくなったときに大切な何かが消えてしまうのか、そう疑わせます。
明確な答えはありませんし、今はそれを必要ともしていない気がしています。
当面は、注意を向けることに安心しています。人々がゆっくりと適応していくのを見ること。信頼が個人からシステムへと移っていくのを見ること。便利さが、誰もそれ以前に何があったのか思い出せないまま、静かに日常のものになっていくのを見ること。
大事なのは、その機械が賢くなるかどうかではなく、私たちがそれを日常生活の中に組み込む過程で、私たちが作っている目に見えない選択に、これからも気づき続けられるかどうか——たぶんそこにあります。