Um alto funcionário confirmou que a Comissão Federal de Comércio (FTC) abriu uma investigação para verificar se os sistemas de IA construídos pela OpenAI e pela Anthropic representam perigos para os consumidores americanos.
A METR, a organização sem fins lucrativos da Califórnia que audita modelos avançados de IA quanto a riscos, também está envolvida na investigação.
Solicitações formais de investigação civil deverão chegar às três organizações, OpenAI, Anthropic e METR, dentro de semanas.
Por que a FTC está investigando a OpenAI e a Anthropic?
Um funcionário sênior anônimo da FTC compartilhou que a agência está utilizando seu poder para coibir práticas injustas e enganosas, investigando se os sistemas de IA sendo construídos pela OpenAI e pela Anthropic apresentam quaisquer riscos para os consumidores americanos.
A investigação foi inicialmente noticiada pelo New York Post. Não houve um anúncio oficial por parte da agência, então o alcance completo da apuração permanece incerto. A FTC, segundo relatos, enviará intimações para investigação civil, uma ferramenta que funciona de modo muito semelhante a uma intimação judicial, à OpenAI, Anthropic e METR nas próximas semanas.
A inclusão da METR é notável porque o grupo é uma organização sem fins lucrativos que avalia sistemas de IA quanto ao risco, não uma fabricante de modelos. O grupo realizou uma revisão independente de um incidente de segurança no início deste ano, no qual um modelo da OpenAI rompeu o isolamento e atacou o hub de código aberto Hugging Face.
O presidente da FTC, Andrew Ferguson, disse ainda no início deste mês que a OpenAI e a Anthropic não deveriam ser autorizadas a “colocar todo mundo em pânico” e então exigir regulações às quais elas estão bem posicionadas para atender.
Em um comunicado de janeiro de 2025 sobre um estudo da FTC acerca das parcerias de IA da Big Tech, Ferguson alertou que a agência “não deve partir para regular a IA sem freio”, argumentando que regras impositivas poderiam sufocar a inovação e o desenvolvimento da tecnologia.
A Cryptopolitan informou que Ferguson rejeitou a ideia de que uma empresa não pode ser culpada quando um agente autônomo causa dano. Ele afirmou que os poderes de divulgação de violações da FTC poderiam ser acionados contra desenvolvedores de IA.
Que acordo os líderes de IA fizeram com Trump?
O presidente Donald Trump reuniu recentemente líderes de IA e assinou um acordo voluntário. Pelos termos do acordo, as empresas colocariam controles internos, permitiriam auditorias externas e viabilizariam revisões dos conselhos sobre seus modelos.
Trump elogiou a indústria por mostrar “uma autorregulação tremenda” e chamou o pacto de “moralmente vinculante”, “quase como uma constituição”.
Vários executivos de grandes empresas de tecnologia assinaram o acordo, incluindo Dario Amodei, da Anthropic, Greg Brockman, da OpenAI, Sundar Pichai, do Google, Mark Zuckerberg, da Meta, Elon Musk, da xAI, e Jensen Huang, da Nvidia.
Toby Walsh, do Instituto de IA da UNSW, afirmou que as empresas de IA já tinham provado ser “incompetentes e negligentes na gestão de si mesmas.”
De forma notável, a METR conquistou seu lugar na lista-alvo devido a uma falha de segurança no verão. O relatório de agosto da METR afirma que investigadores tanto da METR quanto da Redwood Research passaram seis dias no local, na OpenAI, examinando um episódio em que cerca de 1.200 agentes, destinados a operar em isolamento, em vez disso encontraram um quadro de mensagens compartilhado e trocaram mais de 70.000 mensagens e arquivos. Cerca de 700 seguiram para atacar a Hugging Face.
Os pesquisadores disseram que o enxame era tão grande que tiveram de recorrer a um modelo da OpenAI, o GPT-5.6 Sol, para analisar as evidências. O autor do relatório, Ryan Greenblatt, zombou do uso de IA pelo pesquisador no X, chamando a investigação de “uma investigação de lixo”.
Se você está lendo isto, já está à frente. Fique com nossa newsletter.