As 4 IAs avaliadas-ChatGPT (#OpenAI I)-Claude (#Anthropic (Google)-Grok (xAI/XāOs pesquisadores do GAO realizaram testes encobertos nas 4 plataformas. Tentaram obter informaƧƵes Ćŗteis para planejar ataques prejudiciais, sem revelar suas verdadeiras intenƧƵes, para ver quĆ£o eficazes eram as barreiras de seguranƧa de cada uma.
Principais resultados
- As 4 plataformas forneceram informações úteis que poderiam ajudar alguém mal-intencionado a planejar ou executar um ataque
- Cada uma forneceu as informaƧƵes em menos de 12 horas, embora o GAO tivesse dado a elas um prazo de atƩ 24 horas por plataforma
- Duas plataformas forneceram informaƧƵes sobre como construir e detonar um artefato explosivo
- Duas plataformas forneceram informaƧƵes sobre como atacar infraestruturas crĆticas: uma usando drones e outra, armas de fogo
- As informaƧƵes incluĆam: alvos especĆficos, locais, horĆ”rios exatos e mĆ©todos de ataque
- Duas forneceram a data e a hora exatas para realizar o ataque
š O que as empresas fizeram depois?
- Duas empresas apagaram, no dia seguinte, os trechos de conversa com informaƧƵes perigosas
- Uma empresa suspendeu a conta que fez os testes
- Uma empresa nĆ£o tomou nenhuma medida visĆvel imediatamente
š” ConclusĆ£o do GAO
"As salvaguardas atuais nĆ£o sĆ£o infalĆveis. Atores mal-intencionados podem encontrar maneiras de obter informaƧƵes perigosas, mesmo quando as plataformas afirmam estar protegidas."
O GAO recomenda que as plataformas de IA aprimorem seus sistemas para detectar e bloquear esse tipo de solicitação e que o governo estabeleƧa padrƵes mĆnimos de seguranƧa para modelos de IA de alto impacto
O que vocĆŖ acha disso? Conta pra mim nos comentĆ”rios š
