Os números da indústria estão divididos sobre um controverso projeto de lei de inteligência artificial da Califórnia aprovado em 28 de agosto.
A nova legislação obrigará as empresas de IA a implementar novos protocolos de segurança, incluindo um botão de “parada de emergência” para modelos de IA.
A Lei de Inovação Segura e Protegida para Modelos de Inteligência Artificial de Fronteira (SB 1047) foi aprovada pelo Senado da Califórnia por 29–9 em 28 de agosto.
O projeto de lei agora vai para a mesa do governador Gavin Newson para ratificação.
Elon Musk estava entre aqueles que expressaram apoio ao projeto de lei. No X, ele disse que era uma “decisão difícil”, mas era a favor da legislação devido ao “risco potencial” da IA.
Fonte: Elon Musk
No entanto, nem todas as figuras da tecnologia estão igualmente persuadidas. O diretor de estratégia da OpenAI, Jason Kwon, está entre aqueles que criticaram a legislação.
Calanthia Mei, cofundadora da rede de IA descentralizada Masa, disse que não era a favor das novas regras, sugerindo que elas eram resultado de uma pressa indevida em legislar.
“Regulamentações prematuras como essa não só expulsarão talentos da Califórnia; expulsarão talentos da América”, disse Mei ao Cointelegraph. Ela acrescentou:
“O risco está na provável possibilidade de que as estruturas regulatórias atuais e propostas da América limitem o crescimento da indústria de IA.”
Raheel Govindji, CEO do projeto de IA descentralizada DecideAI, teve uma visão contrastante.
“Somos a favor da legislação”, disse Govindji ao Cointelegraph.
Govindji disse que a DecideAI oferece suporte a um killswitch controlado por uma organização autônoma descentralizada (DAO), que é como eles propõem democratizar e descentralizar uma parada de emergência.
A IA é uma indústria em rápida evolução
A natureza dinâmica da indústria de IA tem alimentado temores sobre seu desenvolvimento desenfreado.
Em uma carta de 22 de agosto, ex-funcionários e denunciantes da OpenAI alertaram: “Desenvolver modelos de IA de fronteira sem precauções de segurança adequadas representa riscos previsíveis de danos catastróficos ao público”.
Mas para outros, o ritmo acelerado do desenvolvimento da IA é algo a ser comemorado e não temido.
Recente: Soluções sem problemas: Quantas camadas 2 do Ethereum são demais?
“Em contraste com outras tecnologias transformadoras, a velocidade da inovação da IA é inigualável. Os construtores estão enviando novos produtos, recursos e aplicativos todos os dias”, disse Mei.
“Nós, como construtores, nem sabemos onde está o teto da IA; como o governo saberia o teto da IA? Estabelecer limites para tecnologias de alto potencial não é sensato.”
Mei alertou que o custo final da legislação seria “expulsar talentos dos EUA”, assim como “fez com as criptomoedas”.
Os que estão a favor
Govindji propõe que um “killswitch controlado por DAO” poderia dar suporte aos requisitos da legislação, mantendo ao mesmo tempo “uma tomada de decisão coletiva e transparente”.
O projeto de lei afirma que qualquer modelo de IA deve ser capaz de “decretar prontamente um desligamento total”, mas não define o significado de prontamente, deixando considerável margem para interpretação.
Por enquanto, não se sabe se um modelo DAO e seu sistema de votação democrático seriam rápidos o suficiente para satisfazer os legisladores. Govindji está confiante de que sim. De acordo com Govindji, a DecideAI “estará à frente da curva no fornecimento de IA, que é um bem social”.
A empresa de IA Anthropic também apoiou publicamente o projeto de lei.
Em uma carta aberta ao governador Newsom, o CEO da Anthropic, Dario Amodei, disse: "Os sistemas de IA estão avançando em capacidades extremamente rápido, o que oferece grande promessa para a economia da Califórnia e risco substancial [...] Acreditamos que o SB 1047, especialmente após as emendas recentes, provavelmente apresenta um fardo de conformidade viável para empresas como a nossa, à luz da importância de evitar o uso indevido catastrófico."
Uma versão anterior do projeto de lei encaminhava penalidades criminais para empresas que não cumprissem. Após consulta à indústria, essa disposição foi diluída para penalidades civis apenas.
Projeto de Lei SB 1047
O Projeto de Lei SB 1047 se aplicará apenas a “modelos cobertos”, com a definição de quais modelos são cobertos mudando ao longo do tempo.
Na implementação, um modelo coberto será uma IA que custará mais de US$ 100 milhões para ser desenvolvida ou “Um modelo de inteligência artificial treinado usando uma quantidade de poder de computação maior que 10^26 operações de inteiros ou ponto flutuante”.
A Agência de Operações Governamentais do governo federal julgará quaisquer alterações no limite de poder de computação.
Recente: Cinco previsões do mercado de criptomoedas que ainda não se concretizaram
Em uma carta ao governador Newsom, Kwon, da OpenAI, argumentou que a legislação sobre IA deveria ser tratada apenas em nível federal, “em vez de uma colcha de retalhos de leis estaduais”.
Dada a concentração esmagadora de empresas de tecnologia e IA na Califórnia, o SB 1047 pode ser considerado a legislação nacional de fato por enquanto.
A situação pode mudar caso a legislação faça com que as empresas de IA fujam para outros estados, mas para evitar completamente a SB 1047, as empresas também precisariam cessar todas as operações e serviços na Califórnia.