Según informó Foresight News, a través de Binance News, investigadores de CertiK y la Universidad de Columbia presentaron TensorLean, que utiliza demostraciones formales en Lean para verificar los núcleos GPU que hay detrás de los modelos de IA, incluidas las bibliotecas DeepGEMM y FlashAttention de DeepSeek. El equipo afirma haber encontrado problemas de corrección en varias de estas bibliotecas.
Me formé en ingeniería nuclear. En este ámbito, no se confía en un cálculo crítico para la seguridad solo porque haya superado unas cuantas pruebas: hay que demostrar los límites del error. La computación de IA está adoptando poco a poco la misma idea: los núcleos se optimizan constantemente para ganar velocidad, y cada paso de esa optimización puede alterar silenciosamente los resultados matemáticos.
Esto también es importante para el sector de las criptomonedas. Si en el futuro los agentes de IA van a gestionar fondos, las operaciones aritméticas que realizan deberían poder demostrarse, no limitarse a superar pruebas de rendimiento. En arXiv hay otros estudios sobre la formalización de código GPU con Lean que apuntan en la misma dirección.
Si no se han demostrado las matemáticas fundamentales de un agente de IA, ¿te atreverías a confiarle tu cartera?
#FormalVerification #AI
Me formé en ingeniería nuclear. En este ámbito, no se confía en un cálculo crítico para la seguridad solo porque haya superado unas cuantas pruebas: hay que demostrar los límites del error. La computación de IA está adoptando poco a poco la misma idea: los núcleos se optimizan constantemente para ganar velocidad, y cada paso de esa optimización puede alterar silenciosamente los resultados matemáticos.
Esto también es importante para el sector de las criptomonedas. Si en el futuro los agentes de IA van a gestionar fondos, las operaciones aritméticas que realizan deberían poder demostrarse, no limitarse a superar pruebas de rendimiento. En arXiv hay otros estudios sobre la formalización de código GPU con Lean que apuntan en la misma dirección.
Si no se han demostrado las matemáticas fundamentales de un agente de IA, ¿te atreverías a confiarle tu cartera?
#FormalVerification #AI