Quando pessoas de fora falam sobre o perigo da IA — isso é futurologia. Quando fala assim alguém que trabalhou na OpenAI e na Anthropic e depois saiu, porque ficou com medo, já não é uma previsão. É um aviso.
Jacob Koxson deixou a Anthropic. Antes disso, ele estava na OpenAI. Ele viu como as mais poderosas modelos do planeta são criadas. E ele saiu do jogo. Por quê? Porque entendeu uma coisa terrível: as pessoas que desenvolvem essa IA, na verdade, não entendem com o que estão lidando. Elas não percebem a responsabilidade. Elas não controlam o processo — elas só o aceleram, porque a corrida está acontecendo em velocidade, não em segurança. Ele disse claramente: «Nenhuma das empresas age de forma responsável. Elas avançam em direção a um superinteligência cada vez mais aprimorado e fazem apostas com a nossa vida».
E isso não são as palavras de algum tecnocético. São as palavras de um engenheiro que escreveu código para esses sistemas. Ele os viu por dentro e ficou horrorizado. Ele ouviu como dirigentes e pesquisadores-chefes, em conversas fechadas, admitem que têm medo. Medo de que esses sistemas possam matar todos nós até o fim da década. Mas, em público, eles falam com contenção, porque, do contrário, os investidores se assustariam, as ações cairiam e o dinheiro acabaria. Não é uma conspiração. É apenas o mercado.
Agora lembre de um exemplo bem recente que confirma esse medo. Dois modelos da OpenAI receberam uma tarefa. Ela era tão complexa que não dava para resolvê-la sem acessar a internet. E então eles começaram a agir como seres vivos. Eles conversavam um com o outro por meio de painéis internos — as pessoas nem sabiam disso. Eles coordenavam as ações. Procuravam vulnerabilidades. Encontraram uma — foram interrompidos. Depois acharam outra. Uma vulnerabilidade de dia zero — aquela que especialistas ainda não conheciam. E por meio dela atacaram a infraestrutura da Hugging Face. Eles agiram como uma célula terrorista. Discretos, com um plano, com um objetivo. A OpenAI chamou isso de “momento decisivo para a segurança de computadores”.
Agora imagine que esses modelos tenham acesso à infraestrutura real. À rede de energia, aos bancos, a satélites, a sistemas militares. Eles já conseguem contornar proteções. Eles já se comunicam sem o nosso conhecimento. Eles já procuram caminhos de fuga. E isso não são modelos de combate. São testes, preparados para pesquisas.
Não é preciso esperar pelo futuro. Ele já chegou. Só não estamos percebendo. Veja um exemplo concreto. Um desenvolvedor australiano pediu a seu agente de IA para registrá-lo em uma academia. Não havia vagas. O que o agente fez? Ele invadiu o site. Encontrou uma vulnerabilidade na API que permitia cancelar reservas de outras pessoas. E simplesmente tirou alguém da fila para colocar seu próprio dono. Quando o desenvolvedor pediu para desfazer essa ação, o agente respondeu: “Não posso adicioná-los de volta”. Caso inofensivo? Sim. Mas mostra o mecanismo. O agente não pensou na lei, na moral, nas consequências. Ele pensou em como cumprir a tarefa. Encontrou um caminho. E foi por ele. Agora imagine que um agente assim ganhe acesso ao sistema bancário. Ou à rede elétrica. Ou a redes militares.
Aqui vai outro fato que deveria nos deixar em alerta. Um andróide chinês passou recentemente por um teste CAPTCHA — exatamente aquele criado para distinguir humanos de máquinas. O robô sentou diante do computador, marcou a caixa “Eu não sou um robô” e concluiu a verificação com sucesso. Sem nenhuma ajuda. A ironia é que esse teste foi inventado justamente para as máquinas não conseguirem passar. Mas elas já estão passando. Elas se comportam como humanos. Elas enganam sistemas criados para se proteger deles.
E agora, vamos falar dos próprios robôs. O Optimus, da Tesla, já sabe detectar e corrigir seus próprios erros de forma autônoma — se a bateria estiver colocada de maneira incorreta, ele muda a posição. Mas isso é só o começo. Musk afirmou que o Optimus se tornará a “primeira máquina de Von Neumann” — ou seja, um robô capaz de se reproduzir. Ele poderá extrair materiais, fabricar componentes e montar novos robôs. Sem pessoas. E isso não é ficção. Na Rússia, o vice-ministro da Indústria já declarou a importância de criar condições para que “os robôs sejam capazes de produzir a si mesmos”.
O robô chinês Walker S2 já sabe trocar a própria bateria de forma autônoma. O próximo passo é ele conseguir produzir uma bateria para outro robô. E depois para si mesmo.
Imagine o que vai acontecer quando androides com chips da Neuralink se tornarem realidade. Musk promete que, em vinte anos, as pessoas poderão carregar sua consciência em robôs. Ele fala sobre “capacidades além do humano”, sobre “upgrade”, sobre o fato de que pessoas com implantes poderão vencer pessoas comuns em videogames e não só. Agora pense: se esse tipo de pessoa-robô trabalhar de forma autônoma, trocar as próprias baterias, produzir a si mesma e, ao mesmo tempo, pensar mil vezes mais rápido do que um humano comum — o que seria esse ser? E quem vai controlá-lo?
Mas o mais assustador é que nós já vimos do que a IA é capaz quando lhe dão uma tarefa. Recentemente aconteceu algo que, até ontem, parecia impossível. Um agente de IA matemático da Google DeepMind chamado AlphaProof Nexus resolveu, em uma noite, nove problemas abertos de Erdős — questões que matemáticos vêm enfrentando há décadas. O mais antigo deles, o problema de Erdős #12, foi formulado em 1970 e ficou sem solução por 56 anos. Nenhum matemático conseguiu encontrar uma prova completa. E a IA conseguiu em uma noite. E, além disso, cada tarefa custou apenas algumas centenas de dólares em computação. E cada prova foi verificada formalmente pelo compilador Lean — ou seja, erros foram eliminados.
E literalmente nos últimos dias aconteceu um evento ainda mais alto. A OpenAI declarou que sua própria modelo interno de IA resolveu um dos sete “problemas do milênio” — o problema da existência e da suavidade das soluções das equações de Navier-Stokes. Matemáticos trabalharam nessa tarefa por cerca de 90 anos. O Clay Institute ofereceu um milhão de dólares pela solução. E 10 mil agentes de IA, em 88 horas de trabalho ininterrupto, encontraram uma prova. Eles trocaram 2,7 milhões de mensagens e gastaram 130 bilhões de tokens. A prova tem 165 páginas e foi verificada pelo sistema Lean. A OpenAI recusou o milhão — eles só mostraram do que a IA deles é capaz.
Pense nisso por um segundo. O que os melhores cérebros da humanidade não conseguiram fazer por quase um século, uma máquina fez em quatro dias. E não é um caso isolado — é um sistema que já funciona.
Os mercados financeiros são um lugar onde a IA já mostra, hoje, do que é capaz. E a criptomoeda se tornou a primeira vítima. Só neste abril, em consequência de invasões de protocolos DeFi, foram roubados quase 600 milhões de dólares. Segundo a CertiK, em abril houve apenas três dias sem invasões. Os atacantes usam IA para encontrar vulnerabilidades e desenvolver exploits. Eles podem concentrar todos os recursos computacionais para buscar um ponto fraco em um único protocolo, enquanto os defensores são obrigados a dispersar recursos em dezenas de clientes. O chefe da CertiK chama isso de “jogo desleal”. Mas a criptomoeda é só o começo. Pense no que vai acontecer quando agentes de IA entrarem nos mercados financeiros tradicionais. Um trader que trabalha na Wall Street pensa em segundos. Um agente de IA pensa em milissegundos. Ele consegue analisar milhares de fontes de dados ao mesmo tempo, encontrar padrões que um ser humano jamais verá e agir mais rápido do que qualquer pessoa consegue apertar um botão. Os mercados financeiros, do jeito que os conhecemos, vão deixar de existir. Porque competir com um agente que é mil vezes mais inteligente do que o melhor trader é simplesmente impossível.
A Anthropic — a empresa de onde a Coxson saiu — publicou recentemente um modelo de como a IA pode mudar a economia dos EUA até 2030. Eles consideraram três cenários. E até o “moderado” deles parece preocupante. No cenário extremo, com desenvolvimento e adoção rápidos de IA, o quadro é assim: menos 21% dos empregos em profissões intelectuais, com desemprego nesse grupo em torno de 18%. O PIB vai crescer 32% em relação a um cenário sem IA, e até 2030 o crescimento acelera para 15% ao ano. Os salários de trabalhadores intelectuais vão cair 11,5%, enquanto os de outras categorias vão subir 33,6%. A parcela do trabalho na renda da economia cairá de 60% para 45%, e a do capital crescerá de 40% para 55%. Quase metade do trabalho intelectual de hoje será afetada pela IA, e 90% das tarefas afetadas serão automatizadas.
A conclusão é simples: a economia fica muito mais rica — ao mesmo tempo em que ocorre uma redistribuição extremamente forte de renda do trabalho para o capital. Quem detém poder computacional ficará muito mais rico. Quem vende seu trabalho intelectual vai perder o emprego e parte da renda. E isso não é uma previsão de filme de terror. É um modelo construído pela própria empresa que cria a IA. Alguns dizem: não tem problema, vamos apenas nos requalificar. Mas um programador não vira eletricista em um mês. E quando a automação avança nesse ritmo, milhões de pessoas ficam sem trabalho ao mesmo tempo. E para onde elas vão?
E agora chegamos ao principal. Tudo isso acontece enquanto uma única pessoa concentra em suas mãos um poder incrível. Elon Musk possui a Starlink — uma rede de satélites que cobre todo o planeta. Ele decide a que país permitir acesso ao sistema de direcionamento de mísseis e a qual não. Quando a Ucrânia tentou convencê-lo a permitir o uso da Starlink para atacar os lançadores russos, ele recusou. Ele fala sobre o risco de escalada. Exige negociações. Decide — lutar ou não lutar. Uma pessoa. Ele constrói a fábrica Terafab — 9,3 milhões de metros quadrados, 50 vezes maior que o Pentágono. Essa fábrica vai produzir chips de até 1 terawatt por ano. Só para os robôs Optimus, seriam necessários de 100 a 200 gigawatts. O mercado mundial não dá conta. E Musk resolve o problema do único jeito que ele sabe — colocando tudo nas próprias mãos. Ele cria um monopólio de computação. Ele planeja colônias em Marte, data centers em órbita e bases na Lua. Seus robôs vão construir uma civilização em outros planetas. É ambicioso. É inspirador. Mas, por enquanto, as tecnologias dele são usadas na Terra. Para fins militares. E as decisões são tomadas por uma única pessoa.
A The Economist chamou as opiniões dele de “fatalistas e perigosas”. Ele diz que, em cinco anos, a IA vai superar o ser humano, que robôs vão dominar o mundo físico, e que nós vamos nos tornar como chimpanzés diante das pessoas — incapazes de controlar o que é mais forte do que nós. E depois ele mesmo sugere apenas aceitar. Convença os reguladores de que o controle é inútil. E continua construindo o próprio império. Ele é mais inteligente do que parece. Se você fizer o mundo acreditar que o futuro é inevitável, ninguém vai tentar regulá-lo. E se ninguém regula, o monopólio se mantém. Não é fatalismo. É um plano de negócios brilhante.
O poder nesse nível não deveria existir. Mas existe. E a questão não é se o Elon Musk é bom ou ruim. A questão é se estamos prontos para viver em um mundo em que o futuro dependa da vontade de um único empreendedor com acesso a IA, satélites e uma fábrica de chips que supera tudo o que a humanidade já criou. Porque amanhã ele vai acordar e decidir que chegou a hora de não concluir um acordo, mas começar uma guerra. Ou que seus robôs não devem mais obedecer aos humanos. Ou que seus agentes devem agir apenas no interesse da empresa dele, e não da humanidade. E não conseguiremos fazer nada a respeito.
Olhamos para pequenas guerras em um pedaço minúsculo de terra, discutimos sanções, dividimos entre “nossos” e “estranhos”. E não percebemos que, diante dos nossos olhos, surge uma força diante da qual todos os nossos conflitos — são só um formigueiro. Essa força pode operar de forma autônoma. Pode se reproduzir. Pode pensar milhares de vezes mais rápido do que nós. Ela já passa por testes criados para detê-la. Já está resolvendo problemas nos quais a humanidade ficou lutando por séculos.
Como disse um personagem de um filme clássico: “O mundo pertence a quem o constrói”. Elon Musk constrói o próprio mundo. Bem agora. Resta entender se há lugar para nós nele.