CZ также вышел обсудить риски ИИ: сейчас по всему миру все технологические гиганты указывают на одну вещь — как защититься от «AI-рисков».
У человечества всегда есть добро и зло.
Поэтому я на самом деле не слишком боюсь того, что в будущем ИИ станет умнее людей.
Меня действительно беспокоит другое — сам человек.
Не страшно, что плохих людей станет больше, страшно, что плохие люди станут умнее.
В истории по-настоящему масштабные катастрофы во многих случаях происходили не потому, что все стали плохими, а потому, что очень немногие получили разрушительные возможности, намного превосходящие всё прежнее.
Самый заслуживающий настороженности риск ИИ, возможно, не тот, что в кино — «ИИ пробуждается, а затем уничтожает человечество».
Вместо этого это может быть более реалистичная и куда более тихая вещь — биологические риски.
Биохимический кризис в фильмах обычно выглядит так: у злодея в руках один маленький флакон — и он способен угрожать всему миру.
Раньше мы считали это кино. Но по мере того, как ИИ всё лучше понимает биологию, белки, лекарства, генетику и экспериментальные процессы, такие риски уже как минимум нельзя просто списывать на научную фантастику.
Разумеется, есть и те, кто считает, что ИИ недостаточно силён; мол, эти люди излишне уверены в себе.
Если в итоге у ИИ действительно сформируется собственная цивилизация, то человечество, возможно, переживает крайне особую историческую точку.
Будущие 100 лет, возможно, будут всего лишь младенческим периодом для цивилизации ИИ.
Они начинают обретать собственные системы знаний, вычислительную инфраструктуру, роботизированные тела, энергетические системы и даже формируют некую социальную структуру, которую мы сегодня ещё не можем понять.
И тогда само слово «ИИ» может уже стать устаревшим.
Потому что они больше не просто инструменты, созданные человеком, а настоящая независимая цивилизация, которая работает сама по себе.
А затем — ещё 1000 лет.
Если постепенно удастся преодолеть физические ограничения вроде энергии, материалов, роботов и межзвёздных перелётов, то экспансия цивилизации ИИ на Луну, Марс, в пояс астероидов и даже дальше в дальние звёздные системы — это отнюдь не совсем невозможно.
$BTC $ETH $LDO #btc #eth #ldo
У человечества всегда есть добро и зло.
Поэтому я на самом деле не слишком боюсь того, что в будущем ИИ станет умнее людей.
Меня действительно беспокоит другое — сам человек.
Не страшно, что плохих людей станет больше, страшно, что плохие люди станут умнее.
В истории по-настоящему масштабные катастрофы во многих случаях происходили не потому, что все стали плохими, а потому, что очень немногие получили разрушительные возможности, намного превосходящие всё прежнее.
Самый заслуживающий настороженности риск ИИ, возможно, не тот, что в кино — «ИИ пробуждается, а затем уничтожает человечество».
Вместо этого это может быть более реалистичная и куда более тихая вещь — биологические риски.
Биохимический кризис в фильмах обычно выглядит так: у злодея в руках один маленький флакон — и он способен угрожать всему миру.
Раньше мы считали это кино. Но по мере того, как ИИ всё лучше понимает биологию, белки, лекарства, генетику и экспериментальные процессы, такие риски уже как минимум нельзя просто списывать на научную фантастику.
Разумеется, есть и те, кто считает, что ИИ недостаточно силён; мол, эти люди излишне уверены в себе.
Если в итоге у ИИ действительно сформируется собственная цивилизация, то человечество, возможно, переживает крайне особую историческую точку.
Будущие 100 лет, возможно, будут всего лишь младенческим периодом для цивилизации ИИ.
Они начинают обретать собственные системы знаний, вычислительную инфраструктуру, роботизированные тела, энергетические системы и даже формируют некую социальную структуру, которую мы сегодня ещё не можем понять.
И тогда само слово «ИИ» может уже стать устаревшим.
Потому что они больше не просто инструменты, созданные человеком, а настоящая независимая цивилизация, которая работает сама по себе.
А затем — ещё 1000 лет.
Если постепенно удастся преодолеть физические ограничения вроде энергии, материалов, роботов и межзвёздных перелётов, то экспансия цивилизации ИИ на Луну, Марс, в пояс астероидов и даже дальше в дальние звёздные системы — это отнюдь не совсем невозможно.
$BTC $ETH $LDO #btc #eth #ldo
