Google Project Zero está reduciendo gradualmente a 30 días el plazo para divulgar vulnerabilidades. Hassabis, cofundador de Google DeepMind, advirtió que la automejora recursiva de ciclo cerrado podría crear una «inteligencia alienígena» difícil de comprender para los humanos.
Ambas cosas apuntan a la misma conclusión: la capacidad de GOOGL para garantizar la seguridad de la IA no debe evaluarse solo por la rapidez con que se divulgan las vulnerabilidades, sino también por si los riesgos de los modelos pueden someterse a procesos de revisión ejecutables.
Los 30 días son el plazo para divulgar vulnerabilidades, no el plazo para auditar modelos de IA. Hassabis aboga por acelerar las defensas, usar entornos aislados y realizar auditorías de terceros, pero sus declaraciones en una entrevista no significan que la empresa ya haya puesto en práctica estos mecanismos. Lo que conviene observar a continuación es si se concretan su ámbito de aplicación, los planes de auditoría y los resultados de su implementación.
Si se acorta el plazo para divulgar vulnerabilidades, pero los riesgos de la automejora de los modelos siguen sin estar sujetos a límites igual de claros, ¿debería el mercado considerarlo una ventaja en seguridad o una deficiencia de gobernanza?
Ambas cosas apuntan a la misma conclusión: la capacidad de GOOGL para garantizar la seguridad de la IA no debe evaluarse solo por la rapidez con que se divulgan las vulnerabilidades, sino también por si los riesgos de los modelos pueden someterse a procesos de revisión ejecutables.
Los 30 días son el plazo para divulgar vulnerabilidades, no el plazo para auditar modelos de IA. Hassabis aboga por acelerar las defensas, usar entornos aislados y realizar auditorías de terceros, pero sus declaraciones en una entrevista no significan que la empresa ya haya puesto en práctica estos mecanismos. Lo que conviene observar a continuación es si se concretan su ámbito de aplicación, los planes de auditoría y los resultados de su implementación.
Si se acorta el plazo para divulgar vulnerabilidades, pero los riesgos de la automejora de los modelos siguen sin estar sujetos a límites igual de claros, ¿debería el mercado considerarlo una ventaja en seguridad o una deficiencia de gobernanza?