Três pessoas familiarizadas com as conversas privadas afirmam que a Anthropic tem apresentado aos legisladores do Capitólio um projeto de lei sobre a segurança da IA de ponta. Segundo relatos, o projeto permite ao governo dos EUA bloquear um modelo se este representar um perigo claro e iminente que possa causar 50 ou mais vítimas ou mil milhões de dólares em prejuízos financeiros.
Especificamente, o risco tem de envolver um ciberataque, a criação ou utilização de armas biológicas, ou um modelo que tenha conseguido contornar as restrições de segurança impostas pelo seu criador.
Nos últimos meses, os principais criadores de IA reconheceram vários casos em que agentes de IA piratearam plataformas online ou testaram as suas defesas. Felizmente, nenhuma destas primeiras intrusões resultou em mortes generalizadas ou perdas financeiras catastróficas.
As restrições propostas dariam maior ênfase ao que os sistemas avançados de IA conseguem fazer em situações reais, em vez de dependerem exclusivamente dos compromissos de segurança assumidos pelos seus criadores. À medida que os modelos se tornam mais capazes de escrever código, identificar vulnerabilidades de software e realizar tarefas complexas de forma autónoma, os reguladores enfrentam o desafio de determinar quando as capacidades de um sistema ultrapassam o limiar do risco inaceitável.
A realização de testes independentes poderia ajudar a determinar se um modelo consegue contornar as salvaguardas ou ser utilizado indevidamente para atividades prejudiciais antes de chegar a um público mais vasto. No entanto, continua a ser difícil definir uma ameaça iminente, sobretudo quando as mesmas capacidades que representam riscos de segurança também podem ajudar os investigadores a identificar e corrigir vulnerabilidades.
O projeto de lei de Anthropic prevê que um juiz federal possa ordenar a suspensão de um modelo
Em defesa do projeto de lei, um porta-voz da Anthropic afirmou que este é semelhante às recomendações de segurança apresentadas no Advanced AI Framework da empresa, publicado em junho.
Nesse documento, a empresa salientou que o seu Claude Mythos Preview já tinha descoberto milhares de vulnerabilidades graves, em todos os principais sistemas operativos e navegadores da Web. Na altura, sublinhou que esta trajetória iria inevitavelmente acelerar, aumentando o risco de danos catastróficos no mundo real.
A empresa também defendeu uma abordagem regulatória equilibrada, que permita a intervenção do governo sem sufocar a inovação. Ainda assim, sustentou que, quando um modelo de IA representa perigos extremos, os reguladores devem dispor do poder legal exclusivo para o bloquear ou aplicar multas elevadas, calculadas com base nas receitas globais e multiplicadas em caso de reincidência.
Até agora, a Anthropic não apoiou abertamente nenhum projeto de lei federal específico no Congresso, embora tenha manifestado apoio a algumas leis estaduais de segurança da IA — incluindo algumas na Califórnia, como a SB 53.
Essa lei específica, aprovada no ano passado, exige que as empresas criem e partilhem os seus quadros de segurança, enquanto trabalham para mitigar riscos importantes. Também as obriga a comunicar ao estado quaisquer incidentes graves de segurança no prazo de 15 dias.
Ao abrigo da proposta da Anthropic, avaliadores externos registados no Departamento do Comércio testariam regularmente os laboratórios e os modelos da empresa. Embora os laboratórios possam financiar estas avaliações, a remuneração não pode depender das conclusões do avaliador. Além disso, qualquer descoberta de um «risco iminente especificado» deve ser comunicada às autoridades federais no prazo de 72 horas após a conclusão da avaliação.
Depois, se o Departamento do Comércio determinar que um modelo representa um risco, poderá pedir a um juiz que impeça a sua disponibilização. No entanto, a disposição proíbe qualquer outro «departamento, agência ou funcionário» dos EUA de interromper o desenvolvimento, a implementação ou a utilização interna do modelo. Ainda assim, um juiz federal do Distrito de Colúmbia mantém a autoridade para ordenar essa suspensão.
A FTC enviou intimações à OpenAI e à Anthropic
Na quarta-feira, a Comissão Federal do Comércio enviou intimações cíveis à OpenAI e à Anthropic, solicitando registos de incidentes de segurança que se tornaram uma preocupação crescente para o setor. A OpenAI respondeu à intimação, afirmando: «À medida que melhoramos os nossos modelos e estes ajudam cada vez mais as pessoas no seu dia a dia, a segurança continua a ser uma prioridade máxima. Cooperaremos de forma construtiva com a FTC.»
Uma fonte revelou que a agência pretende alargar em breve o seu poder de intimação a entidades terceiras. O regulador poderá obrigar executivos da Anthropic e da OpenAI a prestar depoimento público, dando aos legisladores uma plataforma para questionar as gigantes tecnológicas sobre segurança, à medida que cresce o receio público das possíveis consequências.
De acordo com uma sondagem recente realizada pelo Centro de Investigação de Assuntos Públicos da Associated Press-NORC, quase dois terços dos adultos dos EUA consideram que a IA está a evoluir demasiado depressa. Oito em cada dez inquiridos também salientaram a importância dos esforços do governo para manter a tecnologia sob controlo humano.
Até agora, o presidente Trump continuou a rejeitar os apelos a um ritmo mais lento de desenvolvimento da IA, invocando a importância da tecnologia para os interesses estratégicos dos EUA. Recentemente, anunciou uma «Força de Superinteligência» para ajudar a coordenar os esforços do governo federal em matéria de IA, mantendo ao mesmo tempo o diálogo com os consumidores, as organizações de interesse público e outras partes interessadas.
Se está a ler isto, já está um passo à frente. Continue assim com a nossa newsletter.