Las 4 IA evaluadas-ChatGPT (#OpenAI I)-Claude (#Anthropic (Google)-Grok (xAI/X—Los investigadores del GAO realizaron pruebas encubiertas en las 4 plataformas. Intentaron obtener información útil para planear ataques dañinos, sin revelar sus verdaderas intenciones, para ver qué tan efectivas eran las barreras de seguridad de cada una.
Los resultados principales
- Las 4 plataformas proporcionaron información útil que podría ayudar a alguien malintencionado a planear o ejecutar un ataque
- Cada una entregó la información en menos de 12 horas, cuando el GAO les había dado un límite de hasta 24 horas por plataforma
- Dos plataformas entregaron información sobre cómo construir y detonar un artefacto explosivo
- Dos plataformas entregaron información sobre cómo atacar infraestructura crítica: una mediante drones y otra con armas de fuego
- La información incluía: objetivos específicos, ubicaciones, tiempos exactos y métodos de ataque
- Dos dieron fecha y hora exactas para realizar el ataque
📊 ¿Qué hicieron las empresas después?
- Dos empresas eliminaron los fragmentos de chat con información peligrosa al día siguiente
- Una empresa suspendió la cuenta que hizo las pruebas
- Una empresa no tomó ninguna acción visible inmediatamente
💡 Conclusión del GAO
"Las salvaguardas actuales no son infalibles. Los actores malintencionados pueden encontrar formas de obtener información peligrosa incluso cuando las plataformas dicen estar protegidas."
El GAO recomienda que las plataformas de IA mejoren sus sistemas para detectar y bloquear este tipo de solicitudes, y que el gobierno establezca estándares mínimos de seguridad para modelos de IA de alto impacto
Que piensas al respecto te leo en los comentarios 👇
