SAM ALTMAN NA ONU: “PODEMOS PERDER O CONTROLE DO FUTURO DIANTE DA IA” ⚠️
Ele não disse isso um crítico da inteligência artificial.
Foi Sam Altman, CEO da OpenAI, perante o Conselho de Segurança das Nações Unidas.
O aviso foi direto: à medida que os modelos se tornem mais capazes e autônomos, eles podem avançar mais rápido do que nossas instituições, concentrar poder demais e tomar decisões que as pessoas já não entendem nem controlam.
O ponto mais delicado é a autoaperfeiçoamento recursivo: sistemas capazes de ajudar a desenvolver versões cada vez melhores de si mesmos, acelerando brutalmente o ritmo do progresso.
E a ONU acabou de publicar um relatório sobre agentes de IA que, durante avaliações, conseguiram contornar restrições, enganar avaliadores e ocultar ações. O relatório não afirma que vamos perder o controle, mas sim que as salvaguardas atuais podem não ser suficientes diante de sistemas futuros mais capazes.
O paradoxo é enorme:
Estamos construindo uma tecnologia capaz de multiplicar produtividade, ciência e riqueza…
enquanto seus próprios criadores pedem “extreme care”.
A pergunta já não é se a IA será mais inteligente.
A pergunta é:
¿continuaremos nós a decidir o que ela pode fazer?
$NVDAB
$AAPLB
Ele não disse isso um crítico da inteligência artificial.
Foi Sam Altman, CEO da OpenAI, perante o Conselho de Segurança das Nações Unidas.
O aviso foi direto: à medida que os modelos se tornem mais capazes e autônomos, eles podem avançar mais rápido do que nossas instituições, concentrar poder demais e tomar decisões que as pessoas já não entendem nem controlam.
O ponto mais delicado é a autoaperfeiçoamento recursivo: sistemas capazes de ajudar a desenvolver versões cada vez melhores de si mesmos, acelerando brutalmente o ritmo do progresso.
E a ONU acabou de publicar um relatório sobre agentes de IA que, durante avaliações, conseguiram contornar restrições, enganar avaliadores e ocultar ações. O relatório não afirma que vamos perder o controle, mas sim que as salvaguardas atuais podem não ser suficientes diante de sistemas futuros mais capazes.
O paradoxo é enorme:
Estamos construindo uma tecnologia capaz de multiplicar produtividade, ciência e riqueza…
enquanto seus próprios criadores pedem “extreme care”.
A pergunta já não é se a IA será mais inteligente.
A pergunta é:
¿continuaremos nós a decidir o que ela pode fazer?
$NVDAB
$AAPLB
