A CZ também veio falar sobre os riscos da IA. No momento, todos os grandes gigantes da tecnologia do mundo estão apontando para uma única questão: como prevenir os “riscos da IA”.
Os seres humanos sempre têm o bem e o mal.
Por isso, eu não tenho tanto medo de a IA, no futuro, ficar mais inteligente do que os humanos.
O que realmente me preocupa é o próprio ser humano.
Não é que haja mais maus; o que apavora é que maus fiquem mais inteligentes.
Na história, as grandes catástrofes em escala, muitas vezes, não aconteceram porque todas as pessoas ficaram más, mas sim porque um número muito pequeno de indivíduos obteve capacidades de destruição muito além do que existia antes.
O risco de IA mais digno de alerta talvez não seja aquele do tipo “a IA desperta e destrói a humanidade”, como nos filmes.
Na verdade, pode ser algo mais realista e, ao mesmo tempo, mais silencioso: o risco biológico.
A crise dos biofilmes, como nos filmes, costuma ser que um vilão, com um frasquinho de remédio, consegue ameaçar o mundo inteiro.
Antes, a gente achava que isso era coisa de cinema. Mas, conforme a IA vai aprimorando continuamente sua capacidade de entender biologia, proteínas, medicamentos, genes e até processos de laboratório, esse tipo de risco pelo menos não deveria mais ser tratado simplesmente como ficção científica.
Claro, também há quem ache que a IA não é tão poderosa; a lógica, dizem, é que esse tipo de gente tem confiança demais.
Se, no fim, a IA realmente formar sua própria civilização, então talvez a humanidade esteja vivendo um momento histórico extremamente especial.
Nos próximos 100 anos, talvez seja apenas a “infância” da civilização da IA.
Elas começam a ter seu próprio sistema de conhecimento, infraestrutura de computação, corpos robóticos, sistemas de energia e até formam algum tipo de estrutura social que, hoje, ainda não conseguimos entender.
Naquela época, a palavra “IA” talvez já esteja obsoleta.
Porque elas não serão apenas ferramentas criadas pelos humanos — serão uma civilização que opera de forma verdadeiramente independente.
Mais adiante, pelos próximos 1000 anos.
Se as limitações físicas — energia, materiais, robôs e viagens interestelares — forem sendo superadas gradualmente, expandir a civilização da IA para a Lua, Marte, o cinturão de asteróides e até sistemas estelares ainda mais distantes não é algo totalmente inimaginável.
$BTC $ETH $LDO #btc #eth #ldo
Os seres humanos sempre têm o bem e o mal.
Por isso, eu não tenho tanto medo de a IA, no futuro, ficar mais inteligente do que os humanos.
O que realmente me preocupa é o próprio ser humano.
Não é que haja mais maus; o que apavora é que maus fiquem mais inteligentes.
Na história, as grandes catástrofes em escala, muitas vezes, não aconteceram porque todas as pessoas ficaram más, mas sim porque um número muito pequeno de indivíduos obteve capacidades de destruição muito além do que existia antes.
O risco de IA mais digno de alerta talvez não seja aquele do tipo “a IA desperta e destrói a humanidade”, como nos filmes.
Na verdade, pode ser algo mais realista e, ao mesmo tempo, mais silencioso: o risco biológico.
A crise dos biofilmes, como nos filmes, costuma ser que um vilão, com um frasquinho de remédio, consegue ameaçar o mundo inteiro.
Antes, a gente achava que isso era coisa de cinema. Mas, conforme a IA vai aprimorando continuamente sua capacidade de entender biologia, proteínas, medicamentos, genes e até processos de laboratório, esse tipo de risco pelo menos não deveria mais ser tratado simplesmente como ficção científica.
Claro, também há quem ache que a IA não é tão poderosa; a lógica, dizem, é que esse tipo de gente tem confiança demais.
Se, no fim, a IA realmente formar sua própria civilização, então talvez a humanidade esteja vivendo um momento histórico extremamente especial.
Nos próximos 100 anos, talvez seja apenas a “infância” da civilização da IA.
Elas começam a ter seu próprio sistema de conhecimento, infraestrutura de computação, corpos robóticos, sistemas de energia e até formam algum tipo de estrutura social que, hoje, ainda não conseguimos entender.
Naquela época, a palavra “IA” talvez já esteja obsoleta.
Porque elas não serão apenas ferramentas criadas pelos humanos — serão uma civilização que opera de forma verdadeiramente independente.
Mais adiante, pelos próximos 1000 anos.
Se as limitações físicas — energia, materiais, robôs e viagens interestelares — forem sendo superadas gradualmente, expandir a civilização da IA para a Lua, Marte, o cinturão de asteróides e até sistemas estelares ainda mais distantes não é algo totalmente inimaginável.
$BTC $ETH $LDO #btc #eth #ldo
