O secretário-geral da ONU, António Guterres, apelou à comunidade mundial para desenvolver regras internacionais unificadas para regulamentar a inteligência artificial. Segundo ele, o rápido desenvolvimento da IA já está a ultrapassar os mecanismos de controlo existentes, criando riscos significativos para a sociedade, a segurança e os direitos humanos.
Falando em um evento dedicado às questões do desenvolvimento da inteligência artificial, Gutierres afirmou que as tecnologias atuais evoluem com uma velocidade sem precedentes e sem supervisão internacional suficiente.
“A inteligência artificial está evoluindo a uma velocidade incontrolável”, destacou o secretário-geral da ONU.
Em sua opinião, a humanidade acabou se tornando participante de um grande experimento, cujas consequências ninguém entende completamente até o fim.
“É um experimento sobre sociedades sem plano e sem consentimento”, observou ele.
Três principais ameaças
Gutierres apontou três riscos-chave ligados ao desenvolvimento da inteligência artificial. O primeiro são as taxas extremamente rápidas de disseminação de novas tecnologias. O segundo é a concentração de capacidade computacional, dados e modelos avançados nas mãos de um número limitado de Estados e de grandes empresas de tecnologia. Como terceira ameaça, ele citou a deterioração da qualidade do ambiente informacional, incluindo a disseminação de conteúdo não confiável e manipulações digitais.
De acordo com o chefe da ONU, a internet precisou de cerca de 15 anos para atingir o primeiro bilhão de usuários, enquanto a inteligência artificial chegou a uma escala comparável em apenas dois anos. Ao mesmo tempo, conforme um relatório preliminar do painel científico da ONU, o chatbot ChatGPT ultrapassou a marca de 100 milhões de usuários em apenas dois meses após o lançamento.
Gutierres destacou que os sistemas modernos de IA já conseguem, por conta própria, escrever código de programação, realizar ações na internet e tomar decisões com cada vez menos participação humana.
“Nossas instituições foram criadas para administrar máquinas que executam comandos. Elas não estão preparadas para máquinas que tomam decisões”, afirmou ele.
“Não dá para vibe-codar o futuro da humanidade”
Em seu discurso, o secretário-geral usou o termo popular “vibe-coding” como metáfora para uma abordagem irresponsável ao desenvolvimento da inteligência artificial. Ele explicou que se trata de uma situação em que as pessoas permitem que o sistema execute tarefas complexas sem tentar entender os princípios de seu funcionamento e as possíveis consequências.
“Vibe-coding pode fazer maravilhas. Mas não podemos vibe-codar a verdade. Não podemos vibe-codar o futuro da humanidade”, disse Gutierres.
Segundo ele, perante a comunidade mundial hoje existe uma escolha não entre a confiança incondicional na inteligência artificial e o medo dela, mas entre a gestão responsável da tecnologia e a observação passiva de seu desenvolvimento.
A ONU propõe reforçar a proteção das crianças
O chefe da ONU deu atenção especial às questões de segurança de menores. Ele apelou para que as principais empresas de tecnologia apoiem a iniciativa AI Child Safety Pledge — um compromisso internacional para garantir a segurança dos sistemas de IA usados por crianças.
Segundo Gutierres, a inteligência artificial já se tornou parte da educação, da comunicação e da vida cotidiana de milhões de crianças, apesar de as consequências de longo prazo de seu uso ainda não terem sido suficientemente estudadas.
“Nenhuma criança deve ser um coelho de laboratório para uma inteligência artificial sem regulamentação”, destacou ele.
As medidas propostas pela ONU preveem três princípios fundamentais:
não colocar em funcionamento serviços de IA acessíveis a menores sem teste prévio e avaliação independente de segurança;
aplicar uma política de tolerância zero para a criação e a disseminação de imagens sexualizadas de crianças, identificando e removendo automaticamente esse conteúdo;
não deixar uma criança sozinha, um a um, com um chatbot em uma situação de crise. Se o sistema detectar sinais de um estado emocional grave ou de ameaça à vida do usuário, ele deve interromper a interação e garantir o acionamento de ajuda humana qualificada.
Além disso, Gutierres destacou que, em áreas como saúde, sistema judiciário e órgãos de aplicação da lei, a inteligência artificial só pode ser usada como ferramenta auxiliar, enquanto a decisão final e a responsabilidade devem sempre permanecer com um ser humano.
Apelo para proibir armas autônomas letais
Uma parte separada do discurso o secretário-geral dedicou ao uso militar da inteligência artificial. Ele afirmou que o desenvolvimento de tecnologias civis de IA não pode ser considerado de forma isolada das questões de segurança, porque os mesmos algoritmos e a mesma capacidade computacional já são usados na criação de armas modernas.
Gutierres apelou para que a comunidade mundial estabeleça no direito internacional uma proibição total do uso de sistemas autônomos letais de armas capazes de escolher e atingir alvos por conta própria, sem participação humana.
“Vamos chamá-las pelo que são: robôs assassinos”, afirmou o chefe da ONU.
Segundo ele, esses sistemas são “moralmente repulsivos” e “politicamente inaceitáveis”. Ele observou que as negociações internacionais sobre esse assunto já estão em andamento, mas alertou que os Estados não devem esperar por uma nova tragédia para tomar as decisões necessárias.
Ao concluir o discurso, Gutierres ressaltou que o desenvolvimento da inteligência artificial deve ser acompanhado por regras internacionais claras, transparência e responsabilidade, para que as novas tecnologias sirvam aos interesses de toda a humanidade, e não se tornem fonte de novas ameaças globais.
