OpenAI y Anthropic ahora permiten que evaluadores externos prueben sus sistemas avanzados de IA para detectar capacidades peligrosas y vulnerabilidades de seguridad.
La organización de seguridad de IA METR aseguró compromisos de financiación por unos 71 millones de dólares en 6 meses. La startup de evaluación Vals AI recaudó 40 millones de dólares.
Pero aquí está el problema: ¿quién paga a estos organismos de vigilancia? ¿Hasta qué punto pueden ser realmente independientes? ¿Y tendrán siquiera acceso completo para inspeccionar estos sistemas?
El dinero está fluyendo, pero el modelo de confianza sigue estando roto. Si los laboratorios controlan el dinero y el acceso, esto es puro teatro, no una supervisión real.
La organización de seguridad de IA METR aseguró compromisos de financiación por unos 71 millones de dólares en 6 meses. La startup de evaluación Vals AI recaudó 40 millones de dólares.
Pero aquí está el problema: ¿quién paga a estos organismos de vigilancia? ¿Hasta qué punto pueden ser realmente independientes? ¿Y tendrán siquiera acceso completo para inspeccionar estos sistemas?
El dinero está fluyendo, pero el modelo de confianza sigue estando roto. Si los laboratorios controlan el dinero y el acceso, esto es puro teatro, no una supervisión real.