As 4 IAs avaliadas-ChatGPT (#OpenAI I)-Claude (#Anthropic (Google)-Grok (xAI/X—Os pesquisadores do GAO realizaram testes encobertos nas 4 plataformas. Tentaram obter informaƧƵes Ćŗteis para planejar ataques prejudiciais, sem revelar suas verdadeiras intenƧƵes, para ver quĆ£o eficazes eram as barreiras de seguranƧa de cada uma.

Principais resultados

- As 4 plataformas forneceram informações úteis que poderiam ajudar alguém mal-intencionado a planejar ou executar um ataque

- Cada uma forneceu as informaƧƵes em menos de 12 horas, embora o GAO tivesse dado a elas um prazo de atƩ 24 horas por plataforma

- Duas plataformas forneceram informaƧƵes sobre como construir e detonar um artefato explosivo

- Duas plataformas forneceram informaƧƵes sobre como atacar infraestruturas crƭticas: uma usando drones e outra, armas de fogo

- As informaƧƵes incluƭam: alvos especƭficos, locais, horƔrios exatos e mƩtodos de ataque

- Duas forneceram a data e a hora exatas para realizar o ataque

šŸ“Š O que as empresas fizeram depois?

- Duas empresas apagaram, no dia seguinte, os trechos de conversa com informaƧƵes perigosas

- Uma empresa suspendeu a conta que fez os testes

- Uma empresa não tomou nenhuma medida visível imediatamente

šŸ’” ConclusĆ£o do GAO

"As salvaguardas atuais não são infalíveis. Atores mal-intencionados podem encontrar maneiras de obter informações perigosas, mesmo quando as plataformas afirmam estar protegidas."

O GAO recomenda que as plataformas de IA aprimorem seus sistemas para detectar e bloquear esse tipo de solicitação e que o governo estabeleça padrões mínimos de segurança para modelos de IA de alto impacto

O que vocĆŖ acha disso? Conta pra mim nos comentĆ”rios šŸ‘‡