O ex-pesquisador de governança da OpenAI Daniel Kokotajlo está alertando que automatizar a pesquisa em machine learning poderia desencadear uma “autoaperfeiçoamento recursivo” fora de controle e uma explosão de inteligência incontornável. Kokotajlo coassina o cenário de IA 2027, amplamente debatido, que descreve cronogramas de risco catastrófico.
Profissionais da engenharia estão reagindo com firmeza. Eles argumentam que restrições físicas severas — limites de hardware, disponibilidade de energia e gargalos na robótica — determinarão a velocidade de desenvolvimento da IA, e não loops teóricos de autoaperfeiçoamento descontrolado.
Pragmatistas da indústria descartam previsões apocalípticas no curto prazo como “isca sensacionalista para engajamento”, que muitas vezes serve a interesses de relações públicas corporativas antes de grandes avaliações de tecnologia e IPOs. O debate evidencia uma divisão crescente entre teóricos de segurança em IA e engenheiros que estão construindo os sistemas.
Profissionais da engenharia estão reagindo com firmeza. Eles argumentam que restrições físicas severas — limites de hardware, disponibilidade de energia e gargalos na robótica — determinarão a velocidade de desenvolvimento da IA, e não loops teóricos de autoaperfeiçoamento descontrolado.
Pragmatistas da indústria descartam previsões apocalípticas no curto prazo como “isca sensacionalista para engajamento”, que muitas vezes serve a interesses de relações públicas corporativas antes de grandes avaliações de tecnologia e IPOs. O debate evidencia uma divisão crescente entre teóricos de segurança em IA e engenheiros que estão construindo os sistemas.