Ahora mismo, muchos productos de AI tienen un problema: terminan la conversación una vez que responden.
Le preguntas sobre un juicio de mercado, una conclusión de gestión de riesgos o un análisis de proyecto, y sí, te puede dar un buen discurso. Pero después de unos días, si quieres volver a revisar: ¿qué modelo se utilizó? ¿Qué datos se invocaron? ¿Se modificó el resultado? Básicamente, es difícil aclarar eso.
Este es en realidad un dilema poco discutido en las aplicaciones de AI: la gente confía cada vez más en la AI para tomar decisiones, pero las juicios de la AI a menudo carecen de un "sentido de registro".
Creo que el valor de OpenGradient radica en que quiere transformar el razonamiento de la AI de una respuesta temporal a un registro de cálculo rastreable.
Los navegadores web en el proyecto, la capa de verificación, la inferencia de TEE y la liquidación en cadena, en realidad, están complementando esto. No es que la AI te dé una respuesta y eso sea todo, sino que cada invocación debería tener un camino de ejecución, estado de verificación e información de liquidación.
Esto puede no ser obvio en una charla ordinaria, pero se vuelve muy importante en escenarios financieros, de auditoría, cumplimiento y agentes.
Por ejemplo, si un agente de AI da la recomendación de "reducir la exposición al riesgo de una posición", después no debería quedarse solo con una captura de pantalla de la conversación. Una forma más razonable es poder rastrear el modelo que invocó en ese momento, los inputs utilizados, el tiempo de ejecución, y una prueba de si se completó.
Es como las transacciones en cadena. No solo miramos las palabras "transferencia exitosa", también verificamos el hash, el bloque, el estado y el monto. En el futuro, las invocaciones de AI también se acercarán a esta lógica.
Por supuesto, tener un registro no significa que el resultado sea necesariamente correcto. Solo puede resolver primero el problema de "¿existe el proceso, ha sido alterado?", no puede sustituir el juicio humano sobre el resultado en sí.
Pero creo que esto es la base para que la AI entre en escenarios serios. La inteligencia sin registro solo es adecuada para usos ligeros; para realmente entrar en flujos de capital y de decisión, la AI debe dejar huellas que puedan ser rastreadas.
$OPG @OpenGradient #OPG
Le preguntas sobre un juicio de mercado, una conclusión de gestión de riesgos o un análisis de proyecto, y sí, te puede dar un buen discurso. Pero después de unos días, si quieres volver a revisar: ¿qué modelo se utilizó? ¿Qué datos se invocaron? ¿Se modificó el resultado? Básicamente, es difícil aclarar eso.
Este es en realidad un dilema poco discutido en las aplicaciones de AI: la gente confía cada vez más en la AI para tomar decisiones, pero las juicios de la AI a menudo carecen de un "sentido de registro".
Creo que el valor de OpenGradient radica en que quiere transformar el razonamiento de la AI de una respuesta temporal a un registro de cálculo rastreable.
Los navegadores web en el proyecto, la capa de verificación, la inferencia de TEE y la liquidación en cadena, en realidad, están complementando esto. No es que la AI te dé una respuesta y eso sea todo, sino que cada invocación debería tener un camino de ejecución, estado de verificación e información de liquidación.
Esto puede no ser obvio en una charla ordinaria, pero se vuelve muy importante en escenarios financieros, de auditoría, cumplimiento y agentes.
Por ejemplo, si un agente de AI da la recomendación de "reducir la exposición al riesgo de una posición", después no debería quedarse solo con una captura de pantalla de la conversación. Una forma más razonable es poder rastrear el modelo que invocó en ese momento, los inputs utilizados, el tiempo de ejecución, y una prueba de si se completó.
Es como las transacciones en cadena. No solo miramos las palabras "transferencia exitosa", también verificamos el hash, el bloque, el estado y el monto. En el futuro, las invocaciones de AI también se acercarán a esta lógica.
Por supuesto, tener un registro no significa que el resultado sea necesariamente correcto. Solo puede resolver primero el problema de "¿existe el proceso, ha sido alterado?", no puede sustituir el juicio humano sobre el resultado en sí.
Pero creo que esto es la base para que la AI entre en escenarios serios. La inteligencia sin registro solo es adecuada para usos ligeros; para realmente entrar en flujos de capital y de decisión, la AI debe dejar huellas que puedan ser rastreadas.
$OPG @OpenGradient #OPG