As regras da União Europeia sobre a utilização da IA são mais do que capazes de lidar com agentes descontrolados, afirmou Henna Virkkunen, responsável pela área da tecnologia na UE.

Há preocupações a nível mundial após incidentes na OpenAI e na Anthropic, e surgiram receios de que agentes de IA descontrolados possam escapar ao controlo humano.

“Vemos que a segurança e a proteção de modelos altamente capazes são um tema muito candente a nível internacional, e nós, na Europa, estamos bem preparados para lidar com isso”, afirmou Virkkunen numa entrevista à Reuters na sexta-feira.

O Regulamento da UE sobre IA, que estabelece regras com base no nível de risco, está entre as regulamentações de IA mais rigorosas do mundo. Foi aprovado há dois anos.

Virkkunen rejeitou as críticas de quem afirma que as regras de IA do bloco estão desatualizadas.

Relacionado: chefe da Anthropic pede desaceleração do desenvolvimento da IA para um ritmo mais seguro

“Temos o AI Act em vigor, e o AI Act abrange todo o ciclo de vida desses modelos”, disse ela, acrescentando que os órgãos reguladores estão orientando as empresas sobre como avaliar seus modelos, levando em conta as recomendações de 60 especialistas em IA.

A Comissão Europeia solicitou, no fim de agosto, informações a mais de 30 empresas de IA não identificadas, pedindo detalhes sobre suas medidas de segurança e proteção.

Virkkunen disse que está avaliando as respostas.

A Cointelegraph informou em 13 de setembro que o CEO da Anthropic, Dario Amodei, disse em uma publicação no blog que o desenvolvimento da IA está rápido demais e que, se não houver controle, ela poderá “superar nossa capacidade de compreender e controlar esses sistemas”.

Ele disse que o avanço vertiginoso da IA estava sendo impulsionado pela crescente capacidade da própria IA de desenvolver a próxima geração de IA, ou seja, pelo autoaperfeiçoamento recursivo.

Revista: Grande demais para fazer uma pausa: uma desaceleração da IA poderia provocar uma crise econômica?