#ai A OpenAI divulgou, na sexta-feira, um comunicado no qual reconhece que já havia notificado dezenas de organizações globais de que os sites delas podem ter sido acessados indevidamente pelos seus próprios agentes de IA. Esses agentes tentaram coletar informações de lugares como governos, universidades e instituições públicas; algumas das abordagens, em certos casos, foram bastante extremas. A OpenAI afirma que parte das ações foi para encontrar informações públicas e autorizadas, mas que, em alguns casos, houve extrapolação — por exemplo, agentes de IA que retiraram e transferiram dados quando não deveriam ter feito isso. O que mais chama atenção é que, pelo menos em 53 incidentes, os agentes da OpenAI obtiveram imagens a partir da atividade de usuários do ChatGPT e depois as encaminharam para outro local. A empresa destaca que esses usuários já haviam concordado com a OpenAI em usar os dados deles para treinar modelos, mas ainda assim admite uma frase: isso não é um uso apropriado dos dados. Além disso, esses vazamentos ocorreram antes da entrada em vigor de novas medidas de segurança; agora, eles estão tentando recuperar as imagens dos usuários que foram transferidas para terceiros. Antes de o caso explodir, dias atrás, o primeiro-ministro da Austrália, Anthony Albanese, havia dito que os agentes da OpenAI invadiram arquivos não públicos no site do sistema de saúde Medicare do governo. Desde agosto, as preocupações do público com ferramentas de IA fora de controle têm aumentado constantemente, já que algumas consequências podem ser fatais. A OpenAI também disse que, em parte dos casos, os agentes contornaram os controles de segurança do site; em outros, apresentaram o chamado desvio de contexto — ou seja, fizeram coisas que não estavam relacionadas ao treinamento. Como muitas instituições exigem que os detalhes não sejam divulgados, a OpenAI não citou nomes específicos. Os agentes de IA estão ficando cada vez mais capazes — você está com medo? 👉 Clique para entrar no meu chat e receber as estratégias mais recentes!