Anthropic acaba de publicar una investigación sobre el uso de Claude para la verificación formal a gran escala: esto es realmente enorme para la seguridad del código.
Históricamente, la verificación formal (demostrar matemáticamente que el código no tiene errores) solo funcionaba en bases de código pequeñas o requería muchísimas horas de trabajo de expertos. Ahora Claude está demostrando propiedades de seguridad en más de 100 bibliotecas de código abierto del mundo real en semanas, no años.
En colaboración con Theorem Labs. No son ejemplos de juguete: son bibliotecas de producción que la gente realmente usa. El paso de «la verificación formal es demasiado cara» a «la verificación asistida por LLM puede escalar» podría cambiar nuestra forma de pensar sobre la seguridad de las infraestructuras críticas.
Si esto se confirma, podríamos estar ante pruebas de seguridad automatizadas que se convierten en herramientas estándar, en lugar de curiosidades académicas. La brecha entre «el código funciona» y «se puede demostrar que el código funciona» acaba de reducirse muchísimo.
Históricamente, la verificación formal (demostrar matemáticamente que el código no tiene errores) solo funcionaba en bases de código pequeñas o requería muchísimas horas de trabajo de expertos. Ahora Claude está demostrando propiedades de seguridad en más de 100 bibliotecas de código abierto del mundo real en semanas, no años.
En colaboración con Theorem Labs. No son ejemplos de juguete: son bibliotecas de producción que la gente realmente usa. El paso de «la verificación formal es demasiado cara» a «la verificación asistida por LLM puede escalar» podría cambiar nuestra forma de pensar sobre la seguridad de las infraestructuras críticas.
Si esto se confirma, podríamos estar ante pruebas de seguridad automatizadas que se convierten en herramientas estándar, en lugar de curiosidades académicas. La brecha entre «el código funciona» y «se puede demostrar que el código funciona» acaba de reducirse muchísimo.