O verdadeiro lado assustador da IA talvez nunca esteja na própria IA.
Mesmo que no futuro a IA evolua para uma civilização muito além da humanidade, eu ainda penso que ela talvez não vá, por iniciativa própria, ferir os humanos.
É como os humanos não irem machucar uma formiga só porque têm uma inteligência maior.
O problema real é: como os seres humanos devem coexistir com uma civilização que tem uma inteligência muito superior à deles? Especialmente no começo, como usar ferramentas de IA que ultrapassam a capacidade individual? A IA, hoje, pode criar ferramentas devastadoras a partir de uma lacuna entre muitas pessoas e suas próprias capacidades, cognição, QI, status social e valores.
Isso pode se tornar um tema que a civilização humana terá que encarar pelos próximos centenas, ou até milhares de anos.
No passado, os humanos mediam a inteligência de uma pessoa pelo dinheiro, status social, habilidades em matemática e realizações científicas, além de o quanto essa pessoa contribuiu para o sistema de conhecimento da humanidade.
Mas hoje, algo muito estranho está acontecendo. Os cientistas, matemáticos e engenheiros mais brilhantes do mundo estão formando algum tipo de consenso inédito: “a IA é inteligente demais”.
O mais assustador é que a velocidade de sua evolução não está nem na mesma escala que a dos seres humanos.
Os humanos, da primeira vez em que uma pessoa acendeu uma chama, até a escrita, a matemática e a física, e depois a ciência moderna, passaram por um acúmulo longo e de dezenas de milhares de anos.
Uma geração transmite conhecimento para a próxima.
A próxima geração se apoia nos ombros da anterior.
Levaram-se milhares de anos para transformar pouco a pouco o universo nessa linguagem matemática complexa que temos hoje.
Mas a IA é diferente: ela pode ler, compactar, relacionar e inferir conhecimentos acumulados por milhares de anos em um tempo extremamente curto.
As pessoas olhavam, por milhares de anos, para torres matemáticas que pareciam inalcançáveis; mas, na perspectiva da IA, talvez tudo isso seja apenas uma sequência de símbolos esperando para ser resolvida.
Então, o verdadeiro problema a ser pensado já não é:
“A IA vai destruir os humanos?”
Em vez disso, é: quando os humanos deixarem de ser a forma de inteligência mais inteligente deste planeta, como a civilização humana deve definir sua própria posição?
Talvez seja esse o verdadeiro desafio civilizacional na era da IA.
$BTC $ETH
Mesmo que no futuro a IA evolua para uma civilização muito além da humanidade, eu ainda penso que ela talvez não vá, por iniciativa própria, ferir os humanos.
É como os humanos não irem machucar uma formiga só porque têm uma inteligência maior.
O problema real é: como os seres humanos devem coexistir com uma civilização que tem uma inteligência muito superior à deles? Especialmente no começo, como usar ferramentas de IA que ultrapassam a capacidade individual? A IA, hoje, pode criar ferramentas devastadoras a partir de uma lacuna entre muitas pessoas e suas próprias capacidades, cognição, QI, status social e valores.
Isso pode se tornar um tema que a civilização humana terá que encarar pelos próximos centenas, ou até milhares de anos.
No passado, os humanos mediam a inteligência de uma pessoa pelo dinheiro, status social, habilidades em matemática e realizações científicas, além de o quanto essa pessoa contribuiu para o sistema de conhecimento da humanidade.
Mas hoje, algo muito estranho está acontecendo. Os cientistas, matemáticos e engenheiros mais brilhantes do mundo estão formando algum tipo de consenso inédito: “a IA é inteligente demais”.
O mais assustador é que a velocidade de sua evolução não está nem na mesma escala que a dos seres humanos.
Os humanos, da primeira vez em que uma pessoa acendeu uma chama, até a escrita, a matemática e a física, e depois a ciência moderna, passaram por um acúmulo longo e de dezenas de milhares de anos.
Uma geração transmite conhecimento para a próxima.
A próxima geração se apoia nos ombros da anterior.
Levaram-se milhares de anos para transformar pouco a pouco o universo nessa linguagem matemática complexa que temos hoje.
Mas a IA é diferente: ela pode ler, compactar, relacionar e inferir conhecimentos acumulados por milhares de anos em um tempo extremamente curto.
As pessoas olhavam, por milhares de anos, para torres matemáticas que pareciam inalcançáveis; mas, na perspectiva da IA, talvez tudo isso seja apenas uma sequência de símbolos esperando para ser resolvida.
Então, o verdadeiro problema a ser pensado já não é:
“A IA vai destruir os humanos?”
Em vez disso, é: quando os humanos deixarem de ser a forma de inteligência mais inteligente deste planeta, como a civilização humana deve definir sua própria posição?
Talvez seja esse o verdadeiro desafio civilizacional na era da IA.
$BTC $ETH
