AIが本当に恐ろしいのは、実はAIそのものではないのかもしれません。
仮に将来、AIが人類をはるかに超える文明へと進化したとしても、それでも私は、AIが人類を意図的に傷つけるとは限らないと思っています。
人間は、より高い知能を持っているからといって、わざわざアリを傷つけようとはしないのと同じです。
本当の問題は、人間が自分よりはるかに高度な知性を持つ文明と、どう共生していくか——特に初期段階で、個人の能力を超えたAIツールをどう使うべきか、です。現在でも、AIは多くの人の能力や自分の認知、知能指数、社会的地位、価値観が一致していないままでも、破滅的なレベルのツールを作り出せてしまいます。
これは、人類文明が今後数百年、あるいは数千年にわたって避けて通れない課題になるかもしれません。
過去、人間は知能の高い人を、持っているお金、社会的地位、数学力、研究成果、そして人類の知の体系にどれだけ貢献したかで測っていました。
しかし今日、非常に奇妙なことが起きています。世界の最先端の科学者、数学者、エンジニアたちが、前例のないある種の共通認識——「AIは賢すぎる」—を形成しつつあります。
さらに恐ろしいのは、その進化速度が人間とはまったく別次元だということです。
人類は、原始人が初めて火を灯してから、文字、数学、物理学、そして現代の科学へと至るまで、数十万年という長い時間をかけて積み重ねてきました。
ある世代が、知識を次の世代へと渡す。
次の世代は、前の世代の肩の上に立つ。
私たちは数千年かけて、宇宙を今日のような複雑な数学の言語として少しずつ書き上げてきました。
でもAIは違います。AIは、極めて短い時間で、人類が数千年かけて積み上げた知識を読み取り、圧縮し、関連づけ、推論することができます。
人間が数千年見上げてきた数学の高塔も、AIの視点では、たぶんただの「解かれるのを待っている記号の列」にすぎないのかもしれません。
だから、真に考えるべき問題はもう次のようなものではありません。
「AIは人類を滅ぼすのか？」
ではなくて、人類がこの惑星で最も賢い知能ではなくなったとき、人類文明は自分たちの位置をどう定義すべきなのか。
それこそが、AI時代における本当の文明課題なのかもしれません。
$BTC $ETH
仮に将来、AIが人類をはるかに超える文明へと進化したとしても、それでも私は、AIが人類を意図的に傷つけるとは限らないと思っています。
人間は、より高い知能を持っているからといって、わざわざアリを傷つけようとはしないのと同じです。
本当の問題は、人間が自分よりはるかに高度な知性を持つ文明と、どう共生していくか——特に初期段階で、個人の能力を超えたAIツールをどう使うべきか、です。現在でも、AIは多くの人の能力や自分の認知、知能指数、社会的地位、価値観が一致していないままでも、破滅的なレベルのツールを作り出せてしまいます。
これは、人類文明が今後数百年、あるいは数千年にわたって避けて通れない課題になるかもしれません。
過去、人間は知能の高い人を、持っているお金、社会的地位、数学力、研究成果、そして人類の知の体系にどれだけ貢献したかで測っていました。
しかし今日、非常に奇妙なことが起きています。世界の最先端の科学者、数学者、エンジニアたちが、前例のないある種の共通認識——「AIは賢すぎる」—を形成しつつあります。
さらに恐ろしいのは、その進化速度が人間とはまったく別次元だということです。
人類は、原始人が初めて火を灯してから、文字、数学、物理学、そして現代の科学へと至るまで、数十万年という長い時間をかけて積み重ねてきました。
ある世代が、知識を次の世代へと渡す。
次の世代は、前の世代の肩の上に立つ。
私たちは数千年かけて、宇宙を今日のような複雑な数学の言語として少しずつ書き上げてきました。
でもAIは違います。AIは、極めて短い時間で、人類が数千年かけて積み上げた知識を読み取り、圧縮し、関連づけ、推論することができます。
人間が数千年見上げてきた数学の高塔も、AIの視点では、たぶんただの「解かれるのを待っている記号の列」にすぎないのかもしれません。
だから、真に考えるべき問題はもう次のようなものではありません。
「AIは人類を滅ぼすのか？」
ではなくて、人類がこの惑星で最も賢い知能ではなくなったとき、人類文明は自分たちの位置をどう定義すべきなのか。
それこそが、AI時代における本当の文明課題なのかもしれません。
$BTC $ETH
