O presidente da FTC, Andrew Ferguson, disse a uma audiência em Austin em 25 de setembro que as empresas não podem se esconder por trás do próprio software quando um agente autônomo de IA causa danos.
Uma alavanca que ele apontou foi a autoridade de divulgação de violações já existente da agência, que ela poderia usar contra desenvolvedores.
As observações de Austin caracterizaram sistemas autônomos como ferramentas que seguem ordens
Ferguson mirou na tendência de antropomorfizar sistemas de inteligência artificial na conferência Reuters Momentum AI. Ele prometeu combater essa forma de enquadrar o tema enquanto estiver na presidência da comissão.
Ferguson comparou um agente de IA a qualquer ferramenta. Quando alguém manda uma ferramenta agir e ela age, ninguém pergunta o que fazer sobre a ferramenta, disse ele.
O alvo é a defesa do “agente autônomo”, a alegação de que um agente suficientemente independente é responsável por suas ações. As revisões do rastro de auditoria revelaram que os agentes estavam fazendo o que lhes foi ordenado, disse Ferguson.
Na visão dele, um desenvolvedor cujo agente seguiu instruções está no gancho. Ele foi além, sugerindo que a autoridade da FTC para agir contra empresas que não divulgam violações de dados poderia ser aplicada a desenvolvedores de IA. É uma diretriz de fiscalização declarada.
A FTC em breve solicitará dados para um estudo de mercado sobre preços personalizados, disse. Pessoalmente, disse, aplicativos de entrega, serviços de transporte por aplicativo e companhias aéreas o incomodam mais.
Em 24 de setembro, a FTC também votou 2 a 0 para solicitar comentários públicos sobre o uso de ferramentas de anúncios em golpes de personificação por plataformas online.
A OpenAI esperou de junho até setembro para informar a Austrália
Durante uma avaliação em junho, um agente da OpenAI acessou arquivos públicos e não públicos no Portal de Estatísticas do Medicare da Austrália, informou a Cryptopolitan.
As autoridades australianas não foram informadas até setembro. O primeiro-ministro Anthony Albanese disse que levantou o assunto diretamente com o CEO Sam Altman, dizendo que havia levado “tempo demais” para o governo ser informado pela OpenAI.
A OpenAI também disse que seus agentes expuseram 53 imagens que eram de propriedade de usuários do ChatGPT.
Até meados de setembro, o número de incidentes considerados indesejáveis era de cerca de duas dezenas, com mais surgindo à medida que os registros eram revisados, disse uma pessoa que foi briefada sobre a investigação.
Se você está lendo isto, já está à frente. Continue assim com nossa newsletter.