Hay una cosa que no me deja pensar mientras leo sobre Verifiable Execution de @NewtonProtocol l.
¿Por qué una capa de autorización necesita más que solo responder “permitido” o “no permitido”?
Si el objetivo solo fuera bloquear una acción no válida, quizá con un resultado Rejected ya sería suficiente.
Pero tal vez Newton esté intentando resolver otro problema.
No me hace recordar la cámara del estacionamiento del sótano del edificio de departamentos.
La cámara no puede evitar que roben el coche.
Tampoco hace que el coche gire de vuelta por sí solo.
Lo único que puede hacer la cámara es ayudar a que la gente no tenga que adivinar.
¿Cuándo desaparece el coche?
Quien entra primero.
Quien abre la puerta.
Quién está al lado del coche.
Más importante aún, ya no tienen que discutir por intuición. Tienen un camino para revisar la decisión del asunto.
Creo que la Verifiable Execution del Protocolo Newton también está persiguiendo ese tipo de pensamiento correcto.
Lo importante no es que el sistema siempre tenga razón.
Lo importante es que cada decisión de autorización deje un rastro lo bastante claro para que la persona afectada pueda volver a revisarlo.
¿Se permite ejecutar a un agente bajo qué política?
¿Una acción se bloquea por alguna condición?
¿Qué límite se alcanzó?
¿O alguna autoridad que ya no sea válida en ese momento?
Si no se pueden responder esas preguntas, el usuario solo ve un resultado final.
Como si la cámara solo mostrara texto:
“No se encuentran datos.”
Ya no es un problema de IA.
Ese es un problema de la infraestructura.
Quizá esa sea la razón por la que Newton no solo habla de la ejecución, sino que también subraya la Verifiable Execution.
Una capa de autorización no puede limitarse a tomar una decisión.
También debe hacer que esa decisión sea lo bastante transparente para que, más tarde, otras personas puedan comprobarla.
Esa es la diferencia entre un sistema de toma de decisiones y un sistema que puede hacerse responsable de su decisión.
Auto-refutación.
La cámara del edificio de apartamentos tampoco genera confianza automáticamente.
Si el video pudiera editarse sin que nadie lo supiera.
Si el timestamp se puede cambiar.
Si nadie sabe quién accedió a los datos antes.
Entonces la cámara solo crea una sensación de seguridad.
Sino que no genere pruebas.
El Protocolo Newton también se enfrentará a ese mismo problema.
La Verifiable Execution solo tiene verdadero sentido cuando el usuario no solo ve el resultado, sino que además puede confiar en que todo el rastro de esa decisión no se alteró después de haberse registrado.
Esa es la parte que quiero ver con más claridad desde @NewtonProtocol
No añadir muchos paneles.
No es más datos.
Sino una forma para que el usuario sepa que el camino hacia una decisión sigue intacto cuando la mira de nuevo.
Si se puede hacer eso, entonces la Verifiable Execution no sería solo una función técnica de $NEWT
Se convertirá en la razón por la cual los usuarios se atrevan a confiar decisiones importantes a un sistema autónomo, porque lo que ellos creen no es que la IA siempre tenga razón, sino que cada decisión sea lo bastante transparente como para poder verificarse después. #Newt $SPCXB
