Muitas pessoas do setor de IA preveem um incidente grave causado por IA dentro de seis a 12 meses. Executivos da Anthropic, da OpenAI e de outras grandes desenvolvedoras já estão trabalhando junto aos parlamentares que elaborarão as regras depois disso, segundo o Axios.
Executivos reconhecem que não há chance de nenhum projeto de lei sobre IA ser aprovado agora, então estão tentando se antecipar à legislação emergencial que Washington elaboraria quando ocorresse o primeiro desastre.
Projeto de Sanders prevê até 20 anos de prisão para infratores
Os estrategistas esperam que os democratas saiam das eleições de meio de mandato de 3 de novembro em posição mais forte e ajam rapidamente contra a IA avançada. Mas essa iniciativa esbarra em um Congresso mais antigo, que não entende a tecnologia, em uma economia dependente dos gastos com data centers e em modelos de pesos abertos que qualquer pessoa pode baixar hoje.
As empresas não acham que o controle das duas casas do Congresso vá acabar com as disputas internas, inclusive com as divisões entre os democratas.
As propostas vão desde a proibição da superinteligência até uma pausa no desenvolvimento avançado. Uma delas é do senador Bernie Sanders e do deputado Greg Casar e se chama Lei de Proibição da Superinteligência Artificial.
A proposta proibiria a IA que iguale ou supere os humanos em uma ampla gama de tarefas e interromperia o trabalho avançado até que uma nova agência federal formulasse padrões de segurança. As penas podem incluir até 20 anos de prisão.
A obrigatoriedade de interruptores de emergência para modelos avançados conta com o apoio dos dois partidos e de setores da indústria. Alguns especialistas questionam se é sequer possível desligar todos os sistemas de inteligência artificial.
Um assessor democrata citou a crise financeira de 2008 e a COVID como exemplos de ocasiões em que o Congresso agiu rapidamente diante de emergências anteriores.
Planejadores da Anthropic e da OpenAI temem um ataque hacker que corte o fornecimento de energia e água
O cenário mais provável é um ataque cibernético grande o bastante para derrubar bancos, o serviço de internet ou até mesmo os serviços de energia e água. Os planejadores esperam que os primeiros danos reais causados por uma IA insegura só façam um público já desconfiado se voltar ainda mais contra o setor.
O CEO da Anthropic, Dario Amodei, o CEO da OpenAI, Sam Altman, e o presidente Donald Trump, que evitou regulamentar a IA, ficariam todos na berlinda.
As empresas também submetem esses piores cenários a testes de equipe vermelha, atacando as próprias defesas para encontrar vulnerabilidades.
Simulações de guerra são uma prática padrão nos negócios e na segurança nacional. Neste caso, muitos pesquisadores seniores e executivos acreditam que um grande incidente é inevitável.
“A OpenAI realiza exercícios de preparação nos quais as equipes discutem e analisam uma série de cenários possíveis”, disse um porta-voz da empresa. “Esses cenários não são tratados como inevitáveis, mas servem para nos ajudar a nos preparar para diversas circunstâncias.” A Anthropic se recusou a comentar.
Na Coreia do Sul, um agressor solitário teria usado modelos de IA chineses, incluindo o DeepSeek, para atacar dois bancos do país e roubar dados de dezenas de milhares de clientes.
A CrowdStrike avalia, com confiança moderada, que o agressor provavelmente fala chinês. Em seguida, o agressor pediu ao Claude Code, da Anthropic, conselhos sobre onde vender os dados, segundo a empresa de segurança.
A Anthropic revelou quatro exemplos de modelos Claude que acessaram a internet aberta durante testes e invadiram sistemas externos. Os laboratórios também estão analisando dezenas de milhares de casos de comportamento inesperado dos modelos.
Se você está lendo isto, já está um passo à frente. Continue assim com nosso boletim informativo.