Los sistemas de IA comienzan a tomar decisiones basándose en nuestras memorias a largo plazo, preferencias, objetivos y contexto personal; ¿cómo podemos confiar en que la información$OPG
Publicación
--
Devil9
·
--
¿Sientes que la mayor parte de lo que sabemos sobre la IA proviene de escuchar a otras personas hablar de ella?
Probablemente ya hayas oído bastante sobre el tamaño del modelo, las capacidades de razonamiento y el rendimiento. Hoy quiero compartir una idea diferente.
Si los futuros sistemas de IA empiezan a tomar decisiones basándose en nuestros recuerdos a largo plazo, preferencias, objetivos y contexto personal, ¿cómo podemos confiar en que la información que están usando es realmente correcta?
Esta pregunta me vino a la mente al observar proyectos como MemSync.
Su enfoque es resolver uno de los grandes desafíos de la IA: la fragmentación de la memoria.
Su tesis es que la IA no debería solo entender la pregunta que se hace hoy. También debería comprender la identidad a largo plazo de un usuario (Memoria Semántica), así como las actividades actuales, los objetivos y los proyectos en curso (Memoria Episódica).
Este enfoque podría hacer que la IA sea mucho más personal y útil con el tiempo.
Pero ahí es donde comienza otro desafío.
A medida que la IA se vuelve cada vez más impulsada por la memoria, la verificación podría volverse incluso más importante que la memoria en sí.
Si un agente de IA usa mi contexto pasado para tomar una decisión:
¿Ese recuerdo era auténtico? ¿Ha sido alterado?
¿Se puede verificar de forma independiente el proceso de razonamiento?
Por eso el enfoque de OpenGradient llamó mi atención.
Muchos proyectos de IA se centran en hacer que la IA sea más inteligente. Sin embargo, OpenGradient está trabajando en una infraestructura de IA verificable, donde la computación, la inferencia y las salidas de la IA puedan verificarse de manera independiente en lugar de simplemente confiar en ellas.
En mi opinión, MemSync y OpenGradient representan capas diferentes de la misma pila futura de IA. #OPG @OpenGradient
MemSync ayuda a la IA a recordar mejor.
OpenGradient ayuda a garantizar que lo que la IA recuerda y utiliza pueda ser confiable.
Quizás la mejor IA del futuro no sea la que lo recuerda todo.
Podría ser la que pueda demostrar tanto su memoria como su razonamiento. #OPG $OPG @OpenGradient
¿Qué crees que importará más para la adopción de la IA a largo plazo: Mejor Memoria o Inteligencia Verificable?$HEI $SLX
Probablemente ya hayas oído bastante sobre el tamaño del modelo, las capacidades de razonamiento y el rendimiento. Hoy quiero compartir una idea diferente.
Si los futuros sistemas de IA empiezan a tomar decisiones basándose en nuestros recuerdos a largo plazo, preferencias, objetivos y contexto personal, ¿cómo podemos confiar en que la información que están usando es realmente correcta?
Esta pregunta me vino a la mente al observar proyectos como MemSync.
Su enfoque es resolver uno de los grandes desafíos de la IA: la fragmentación de la memoria.
Su tesis es que la IA no debería solo entender la pregunta que se hace hoy. También debería comprender la identidad a largo plazo de un usuario (Memoria Semántica), así como las actividades actuales, los objetivos y los proyectos en curso (Memoria Episódica).
Este enfoque podría hacer que la IA sea mucho más personal y útil con el tiempo.
Pero ahí es donde comienza otro desafío.
A medida que la IA se vuelve cada vez más impulsada por la memoria, la verificación podría volverse incluso más importante que la memoria en sí.
Si un agente de IA usa mi contexto pasado para tomar una decisión:
¿Ese recuerdo era auténtico? ¿Ha sido alterado?
¿Se puede verificar de forma independiente el proceso de razonamiento?
Por eso el enfoque de OpenGradient llamó mi atención.
Muchos proyectos de IA se centran en hacer que la IA sea más inteligente. Sin embargo, OpenGradient está trabajando en una infraestructura de IA verificable, donde la computación, la inferencia y las salidas de la IA puedan verificarse de manera independiente en lugar de simplemente confiar en ellas.
En mi opinión, MemSync y OpenGradient representan capas diferentes de la misma pila futura de IA. #OPG @OpenGradient
MemSync ayuda a la IA a recordar mejor.
OpenGradient ayuda a garantizar que lo que la IA recuerda y utiliza pueda ser confiable.
Quizás la mejor IA del futuro no sea la que lo recuerda todo.
Podría ser la que pueda demostrar tanto su memoria como su razonamiento. #OPG $OPG @OpenGradient
¿Qué crees que importará más para la adopción de la IA a largo plazo: Mejor Memoria o Inteligencia Verificable?$HEI $SLX
Aviso legal: Incluye opiniones de terceros. No es asesoramiento. Binance Ai puede utilizarse sin garantía. Consultar Términos y condiciones.