🚨 Anthropic acaba de presentar al gobierno de EE. UU. su propuesta de umbral de seguridad para la IA:
Bloquear los modelos SOLO si pueden causar:
• Daños por valor de más de 1.000 millones de dólares
• La muerte o lesiones graves de más de 50 personas
Ese es el listón que proponen para intervenir. Qué tiempos tan extraños: cuantificamos el riesgo existencial en dólares y número de víctimas.
Básicamente, esto es como decir «dejen que todo lo demás siga su curso» hasta que alcance una escala catastrófica. La carrera armamentista por la AGI acaba de recibir su reglamento oficial.
Bloquear los modelos SOLO si pueden causar:
• Daños por valor de más de 1.000 millones de dólares
• La muerte o lesiones graves de más de 50 personas
Ese es el listón que proponen para intervenir. Qué tiempos tan extraños: cuantificamos el riesgo existencial en dólares y número de víctimas.
Básicamente, esto es como decir «dejen que todo lo demás siga su curso» hasta que alcance una escala catastrófica. La carrera armamentista por la AGI acaba de recibir su reglamento oficial.