Entré en el Protocolo Newton esperando otra conversación sobre la automatización de la IA más rápida. Salí pensando algo completamente diferente.
Cuanto más leo, más me doy cuenta de que Newton no se está preguntando realmente: "¿Puede actuar un agente de IA?". Se está preguntando: "¿Qué se le debería permitir hacer a un agente de IA antes de actuar?"
Esa distinción importa. Creo que la industria se ha vuelto demasiado cómoda tratando "verificable" como si automáticamente significara "correcto". No lo significa.
Una prueba criptográfica puede mostrar que un agente siguió sus permisos exactamente tal como se escribieron. No puede probar que el juicio subyacente fuera inteligente ni que la política en sí capturara cada caso límite.
Para mí, ahí empieza el verdadero desafío.
Si la confianza se está transfiriendo de los humanos a las políticas, entonces esas políticas se convierten en una de las partes más importantes del sistema. Y si la gobernanza es responsable de dar forma a esas políticas, entonces la gobernanza ya no consiste solo en votar. Consiste en decidir qué errores se le permite cometer al sistema.
Por eso me llamó la atención el Protocolo Newton. No porque prometa una automatización perfecta, sino porque expone una pregunta más profunda que creo que la industria apenas está empezando a afrontar.
A medida que los agentes de IA ganan más autoridad sobre el capital, no creo que el mayor riesgo sea si siguen las reglas.
Creo que la pregunta más grande es si escribimos las reglas correctas en primer lugar.
$EVAA
$OGN
$NEWT
@NewtonProtocol #Newt #newt
Cuanto más leo, más me doy cuenta de que Newton no se está preguntando realmente: "¿Puede actuar un agente de IA?". Se está preguntando: "¿Qué se le debería permitir hacer a un agente de IA antes de actuar?"
Esa distinción importa. Creo que la industria se ha vuelto demasiado cómoda tratando "verificable" como si automáticamente significara "correcto". No lo significa.
Una prueba criptográfica puede mostrar que un agente siguió sus permisos exactamente tal como se escribieron. No puede probar que el juicio subyacente fuera inteligente ni que la política en sí capturara cada caso límite.
Para mí, ahí empieza el verdadero desafío.
Si la confianza se está transfiriendo de los humanos a las políticas, entonces esas políticas se convierten en una de las partes más importantes del sistema. Y si la gobernanza es responsable de dar forma a esas políticas, entonces la gobernanza ya no consiste solo en votar. Consiste en decidir qué errores se le permite cometer al sistema.
Por eso me llamó la atención el Protocolo Newton. No porque prometa una automatización perfecta, sino porque expone una pregunta más profunda que creo que la industria apenas está empezando a afrontar.
A medida que los agentes de IA ganan más autoridad sobre el capital, no creo que el mayor riesgo sea si siguen las reglas.
Creo que la pregunta más grande es si escribimos las reglas correctas en primer lugar.
$EVAA
$OGN
$NEWT
@NewtonProtocol #Newt #newt
