Funcionários da OpenAI foram informados esta semana de que o laboratório de IA estaria aberto a reduzir o ritmo do trabalho em suas áreas mais avançadas de IA. Sam Altman estendeu a mesma proposta a rivais de IA, incluindo a Anthropic, que também reconheceu os riscos associados ao desenvolvimento de IA em um relatório que revelou que cientistas ligados a instituições estatais tentaram usar os modelos Claude para pesquisas de armas biológicas.
A OpenAI disse que já pausou algumas rodadas de treinamento internas e flexibilizou partes do desenvolvimento dos modelos por preocupações com a segurança.
A chegada em série das divulgações está alimentando o fogo em torno do debate sobre se a indústria está avançando rápido demais antes das ofertas ao público; ambas as empresas continuam a provocar.
Por que Altman quer desacelerar o desenvolvimento de IA?
O CEO da OpenAI, Sam Altman, em uma reunião com toda a empresa, informou aos presentes que o laboratório de IA, junto com outros laboratórios que concordaram, poderia desacelerar o ritmo de lançamentos de modelos de fronteira.
Devido à natureza voluntária de qualquer acordo desse tipo, Altman admitiu que nem toda empresa estaria a bordo com o plano, segundo fontes citadas pela Bloomberg.
Essa desconfiança vem com precedentes. Três anos atrás, em março de 2023, Elon Musk, Steve Wozniak e mais de 1.000 outras pessoas assinaram uma carta aberta para interromper trabalhos avançados de IA por seis meses.
Como veículos de imprensa relataram na época, os laboratórios não chegaram a cumprir, de fato, o moratório que haviam acordado em conjunto.
O alerta sobre riscos de IA também apareceu em uma postagem de 6 de setembro do principal cientista da OpenAI, Jakub Pachocki, que pediu que as empresas de IA coordenassem “para desacelerar o desenvolvimento futuro, conforme necessário”. Pachocki expressou a esperança de que desacelerações voluntárias “se tornem comuns até que sejam estabelecidas barreiras compartilhadas de segurança”.
Em julho, Altman disse que informou autoridades da Casa Branca sobre a necessidade de reduzir o ritmo do desenvolvimento de IA. Junto com o CEO da Anthropic, Dario Amodei, Altman também assinou anteriormente uma declaração de uma linha declarando que a IA representa um risco de extinção em escala societária.
Modelos de IA podem ser usados para construir armas biológicas?
Os modelos de IA avançaram para um estágio em que podem ser capazes de apoiar pesquisas de armas biológicas. Só nesta semana, a OpenAI declarou que seus modelos resolveram o problema de matemática de Navier-Stokes, mesmo que isso tenha ocorrido em termos contestados.
A Anthropic apresentou material novo para esse debate quando o laboratório, em 10 de setembro, divulgou seu relatório de inteligência de ameaças de 154 páginas, detalhando cinco instâncias de tentativas dos pesquisadores de usar as capacidades do Claude para apoiar trabalhos com armas biológicas.
A Anthropic disse que as tentativas feitas por “regiões sem suporte” buscavam contornar restrições de localização e disfarçar o propósito do trabalho. O laboratório disse que derrubou as contas, mas não citou países e instituições.
Os riscos da IA agora superam os benefícios?
Os relatórios chegaram em meio a uma onda de alarmes públicos vindos do interior dos laboratórios. Em 8 de setembro, o pesquisador Jacob Coxon pediu demissão e acusou tanto a OpenAI quanto a Anthropic de “apostarem com nossas vidas”, dizendo que colegas acreditam que a tecnologia poderia “nos matar todos até o fim da década” e alertando para a extinção humana até 2030.
A postagem dele gerou mais de 150 milhões de visualizações. Dois dias depois, em 10 de setembro, ex-funcionários da Anthropic e do DeepMind, do Google, levantaram preocupações semelhantes e pediram mais transparência.
Uma petição apresentada no fim de julho para criar um mecanismo de desaceleração do desenvolvimento reuniu assinaturas de mais de 1.000 trabalhadores em meio às principais empresas de IA.
A OpenAI agora está pressionando o Congresso por regras de segurança obrigatórias baseadas em capacidade, cobrindo testes, avaliações independentes, cibersegurança e comunicação de incidentes. “A perspectiva do desenvolvimento de IA acelerado por IA exige mais do que compromissos voluntários”, escreveu o diretor-chefe de Assuntos Globais, Chris Lehane.
A Califórnia foi a primeira: o governador Gavin Newsom assinou a SB 813 e a AB 1405 na quarta-feira, com um projeto complementar, a AB 1864, com o objetivo de se proteger contra ameaças biológicas possibilitadas por IA.
Em Washington, o senador Bernie Sanders apresentou legislação para pausar a IA avançada e banir a superinteligência artificial, dizendo à BBC que ignorar os alertas dos cientistas faria alguém “um imbecil”.
O presidente Donald Trump recuou, dizendo na quinta-feira que temia que “se não vencermos a corrida da IA, vamos acabar em uma posição muito ruim”.
Não leia apenas notícias de cripto. Entenda. Assine nossa newsletter. É grátis.