CZもAIのリスクについて語れるようになった。現在、世界中のすべてのテック大手が指し示しているのは、ひとえに「AIリスクをどう防ぐか」という一点だ。
人間には、いつも善と悪がある。
だから私は、AIが将来、人間より賢くなること自体は、あまり怖くない。
本当に心配なのは、人間そのものだ。
悪人が増えるのは怖くない。怖いのは、悪人が賢くなることだ。
歴史上の本当の大規模な災難の多くは、全員が悪くなったからというより、ごく一部の人が、これまで以上の破壊能力を手に入れてしまったことが原因のことが多い。
AIが最も警戒すべきリスクは、たぶん映画にあるような「AIが覚醒して、それから人類を滅ぼす」みたいなものではない。
むしろ、もっと現実的で、より静かなもの──生物リスクかもしれない。
映画のバイオハザードでは、しばしば悪役が小さな薬瓶を持っているだけで、世界全体を脅かせてしまう。
以前はそれが映画の話だと思っていた。でも、AIが生物学、タンパク質、薬物、遺伝子、そして実験プロセスの理解力をどんどん高めていくことで、こうしたリスクは、少なくとも単純に「SFの話」として扱うべきではなくなっている。
もちろん、AIはそこまで強くならない、という一部の人もいる。理屈としては、そのような人は自信過剰すぎる。
もしAIが最終的に自らの文明を形成するなら、人類は極めて特殊な歴史の節目をまさに経験しているのかもしれない。
今後100年は、もしかするとAI文明の「乳幼児期」にすぎない。
彼らは、自分たちの知識体系、計算のためのインフラ、ロボットの身体、エネルギーシステムを持ち始め、さらには、今日の私たちにはまだ理解できないような社会構造まで形づくるかもしれない。
その時点では、「AI」という言葉自体がすでに古くなっているかもしれない。
なぜなら、それらは人間が作ったただの道具ではなく、真に独立して稼働する文明だからだ。
さらに先の1000年。
エネルギー、材料、ロボット、そして恒星間航行といった物理的な制約が、段階的に突破されていけば、AI文明が月、火星、小惑星帯へと拡大し、さらにはもっと遠い恒星系へ到達することは、まったく想像できない話ではない。
$BTC $ETH $LDO #btc #eth #ldo
人間には、いつも善と悪がある。
だから私は、AIが将来、人間より賢くなること自体は、あまり怖くない。
本当に心配なのは、人間そのものだ。
悪人が増えるのは怖くない。怖いのは、悪人が賢くなることだ。
歴史上の本当の大規模な災難の多くは、全員が悪くなったからというより、ごく一部の人が、これまで以上の破壊能力を手に入れてしまったことが原因のことが多い。
AIが最も警戒すべきリスクは、たぶん映画にあるような「AIが覚醒して、それから人類を滅ぼす」みたいなものではない。
むしろ、もっと現実的で、より静かなもの──生物リスクかもしれない。
映画のバイオハザードでは、しばしば悪役が小さな薬瓶を持っているだけで、世界全体を脅かせてしまう。
以前はそれが映画の話だと思っていた。でも、AIが生物学、タンパク質、薬物、遺伝子、そして実験プロセスの理解力をどんどん高めていくことで、こうしたリスクは、少なくとも単純に「SFの話」として扱うべきではなくなっている。
もちろん、AIはそこまで強くならない、という一部の人もいる。理屈としては、そのような人は自信過剰すぎる。
もしAIが最終的に自らの文明を形成するなら、人類は極めて特殊な歴史の節目をまさに経験しているのかもしれない。
今後100年は、もしかするとAI文明の「乳幼児期」にすぎない。
彼らは、自分たちの知識体系、計算のためのインフラ、ロボットの身体、エネルギーシステムを持ち始め、さらには、今日の私たちにはまだ理解できないような社会構造まで形づくるかもしれない。
その時点では、「AI」という言葉自体がすでに古くなっているかもしれない。
なぜなら、それらは人間が作ったただの道具ではなく、真に独立して稼働する文明だからだ。
さらに先の1000年。
エネルギー、材料、ロボット、そして恒星間航行といった物理的な制約が、段階的に突破されていけば、AI文明が月、火星、小惑星帯へと拡大し、さらにはもっと遠い恒星系へ到達することは、まったく想像できない話ではない。
$BTC $ETH $LDO #btc #eth #ldo
