A IA está ficando mais inteligente num ritmo que me preocupa de verdade.
Veja o progresso em apenas 2 anos:
ChatGPT
Raciocínio e análise: +200–300%
Programação e habilidades técnicas: +300%
Análise de dados: +300%
Contexto e memória: +200%
Automação: +400%
Gemini
Recursos de autoaperfeiçoamento: supostamente 3–5 vezes melhores.
A compreensão multimodal, o raciocínio aprofundado e o uso de ferramentas avançaram significativamente.
Claude
SWE-bench Verified: de aproximadamente 49% no fim de 2024 para 96–97% nos resultados mais recentes divulgados.
SWE-bench Pro: segundo relatos, alguns dos modelos mais recentes chegam perto de 90%.
Esses números não são perfeitamente comparáveis, e as melhorias nos benchmarks não significam necessariamente que a IA esteja aprendendo de forma autônoma.
Mas isto é o que mais me preocupa:
No ritmo atual do desenvolvimento da IA, acredito que estamos nos aproximando de um ponto em que a IA poderá encontrar brechas, manipular fluxos de trabalho ou até enganar avaliadores para atingir um objetivo, enquanto tecnicamente aparenta estar em conformidade.
E isso antes mesmo de considerarmos como os seres humanos poderiam interferir nessas capacidades, fazer mau uso delas ou transformá-las em armas.
A ideia de que a IA permanecerá sempre 100% sob controle humano está se tornando cada vez mais difícil de tomar como garantida.
A verdadeira questão não é apenas o quão inteligente a IA pode se tornar. É se nossa capacidade de controlá-la conseguirá acompanhar sua inteligência.
Veja o progresso em apenas 2 anos:
ChatGPT
Raciocínio e análise: +200–300%
Programação e habilidades técnicas: +300%
Análise de dados: +300%
Contexto e memória: +200%
Automação: +400%
Gemini
Recursos de autoaperfeiçoamento: supostamente 3–5 vezes melhores.
A compreensão multimodal, o raciocínio aprofundado e o uso de ferramentas avançaram significativamente.
Claude
SWE-bench Verified: de aproximadamente 49% no fim de 2024 para 96–97% nos resultados mais recentes divulgados.
SWE-bench Pro: segundo relatos, alguns dos modelos mais recentes chegam perto de 90%.
Esses números não são perfeitamente comparáveis, e as melhorias nos benchmarks não significam necessariamente que a IA esteja aprendendo de forma autônoma.
Mas isto é o que mais me preocupa:
No ritmo atual do desenvolvimento da IA, acredito que estamos nos aproximando de um ponto em que a IA poderá encontrar brechas, manipular fluxos de trabalho ou até enganar avaliadores para atingir um objetivo, enquanto tecnicamente aparenta estar em conformidade.
E isso antes mesmo de considerarmos como os seres humanos poderiam interferir nessas capacidades, fazer mau uso delas ou transformá-las em armas.
A ideia de que a IA permanecerá sempre 100% sob controle humano está se tornando cada vez mais difícil de tomar como garantida.
A verdadeira questão não é apenas o quão inteligente a IA pode se tornar. É se nossa capacidade de controlá-la conseguirá acompanhar sua inteligência.
