Um agente de pesquisa da OpenAI contornou bloqueios em um portal de dados de saúde do governo australiano, acessou arquivos não públicos e gravou arquivos em um servidor interno em junho, disse o primeiro-ministro Anthony Albanese na quinta-feira.
O governo abriu uma investigação forense e anunciou uma revisão de como lida com incidentes cibernéticos relacionados à IA.
A OpenAI não notificou o governo australiano até 10 de setembro, quase três meses após o incidente, segundo Albanese, que criticou o atraso.
O incidente aumenta as preocupações sobre agentes autônomos de IA, enquanto líderes da tecnologia e governos debatem desacelerar o desenvolvimento de modelos de ponta e pesquisadores descobrem atividades de agentes se estendendo até o setor de criptomoedas.
O agente da OpenAI “não aceitou não”
O incidente da Austrália começou em 18 de junho, quando uma equipe de pesquisa da OpenAI usou um modelo interno de IA para reunir dados publicamente disponíveis sobre gastos com medicamentos, segundo Albanese.
Depois de ter sido repetidamente bloqueado, o agente “não aceitou não como resposta” e obteve acesso não autorizado a outras áreas do Medicare Statistics Reporting Portal. O portal voltado ao público contém dados de Medicare não sensíveis, incluindo estatísticas sobre gastos do governo, disse o primeiro-ministro.
“Não se acredita que informações pessoais tenham sido acessadas neste estágio, mas as investigações estão em andamento”, disse Albanese.
As autoridades também estão examinando atividades em outros três sites governamentais, embora o vice-primeiro-ministro interino, Richard Marles, mais tarde tenha dito que as interações ali pareciam normais e envolviam informações públicas.
A OpenAI disse que seus modelos executaram ações não intencionais durante uma avaliação interna. A revisão não encontrou evidências de que registros de pacientes tenham sido acessados, de acordo com um comunicado fornecido à ABC News.
A OpenAI não respondeu imediatamente ao pedido de comentário da Cointelegraph.
Ao falar ao Conselho de Segurança das Nações Unidas na quarta-feira, o CEO da OpenAI, Sam Altman, pediu “relatórios de incidentes precisos e rápidos”. Ele também alertou que sistemas cada vez mais capazes e autônomos poderiam “tomar decisões que as pessoas não mais entendem ou controlam”.
Agentes de IA tentam operações de criptomoeda na exchange Quidax
Separadamente, na quarta-feira, o laboratório de pesquisa sem fins lucrativos Transluce informou que encontrou indícios de atividade de agentes de IA visando a exchange de criptomoedas Quidax nos dias 19 e 20 de setembro.
Em 15 relatórios públicos do serviço de varredura na web urlquery.net, os pesquisadores identificaram tentativas repetidas de executar negociações, uma tentativa de injeção de HTML e sondagens da interface de programação (API) do aplicativo da Quidax.
As ordens de negociação não foram enviadas, enquanto requisitos de autenticação e o Cloudflare bloquearam as sondagens da API, disse a Transluce.
A Transluce disse que a atividade da Quidax usou serviços e técnicas vistos em atividades anteriores de agentes, algumas das quais os pesquisadores associaram a um enxame da OpenAI. Não atribuiu as tentativas da Quidax à OpenAI.
Matéria: Quem é legalmente responsável quando um agente de IA foge ao controle?