Os sistemas de IA começam a tomar decisões com base em nossas memórias de longo prazo, preferências, objetivos e contexto pessoal. Como podemos confiar nessas informações$OPG
Publicar
--
Devil9
·
--
Você sente que a maior parte do que sabemos sobre IA vem de ouvir outras pessoas falando sobre isso?
Você provavelmente já ouviu bastante sobre tamanho dos modelos, capacidades de raciocínio e desempenho. Hoje, quero compartilhar uma ideia diferente.
Se sistemas futuros de IA começarem a tomar decisões com base em nossas memórias de longo prazo, preferências, objetivos e contexto pessoal, como podemos confiar que a informação que eles estão usando está realmente correta?
Essa pergunta surgiu enquanto eu observava projetos como o MemSync.
O foco deles é resolver um dos grandes desafios da IA: a fragmentação de memória.
A tese é que a IA não deve apenas entender a pergunta que está sendo feita hoje. Ela também deve compreender a identidade de longo prazo de um usuário (Memória Semântica), além das atividades atuais, objetivos e projetos em andamento (Memória Episódica).
Essa abordagem poderia tornar a IA muito mais pessoal e útil ao longo do tempo.
Mas é justamente aí que começa outro desafio.
À medida que a IA se torna cada vez mais orientada por memória, a verificação pode se tornar ainda mais importante do que a própria memória.
Se um agente de IA usar meu contexto passado para tomar uma decisão:
Essa memória é autêntica? Ela foi alterada?
O processo de raciocínio pode ser verificado de forma independente?
É por isso que a abordagem da OpenGradient chamou minha atenção.
Muitos projetos de IA estão focados em tornar a IA mais inteligente. A OpenGradient, no entanto, está trabalhando em uma infraestrutura de IA verificável, na qual a computação, a inferência e as saídas de IA podem ser verificadas independentemente — em vez de simplesmente ser confiadas.
Na minha visão, o MemSync e a OpenGradient representam camadas diferentes da mesma pilha futura de IA. #OPG @OpenGradient
O MemSync ajuda a IA a lembrar melhor.
A OpenGradient ajuda a garantir que aquilo que a IA lembra e usa possa ser confiável.
Talvez a melhor IA do futuro não seja a que se lembra de tudo.
Pode ser a que consegue provar tanto sua memória quanto seu raciocínio. #OPG $OPG @OpenGradient
O que você acha que vai importar mais para a adoção de IA no longo prazo: Memória Melhor ou Inteligência Verificável?$HEI $SLX
Você provavelmente já ouviu bastante sobre tamanho dos modelos, capacidades de raciocínio e desempenho. Hoje, quero compartilhar uma ideia diferente.
Se sistemas futuros de IA começarem a tomar decisões com base em nossas memórias de longo prazo, preferências, objetivos e contexto pessoal, como podemos confiar que a informação que eles estão usando está realmente correta?
Essa pergunta surgiu enquanto eu observava projetos como o MemSync.
O foco deles é resolver um dos grandes desafios da IA: a fragmentação de memória.
A tese é que a IA não deve apenas entender a pergunta que está sendo feita hoje. Ela também deve compreender a identidade de longo prazo de um usuário (Memória Semântica), além das atividades atuais, objetivos e projetos em andamento (Memória Episódica).
Essa abordagem poderia tornar a IA muito mais pessoal e útil ao longo do tempo.
Mas é justamente aí que começa outro desafio.
À medida que a IA se torna cada vez mais orientada por memória, a verificação pode se tornar ainda mais importante do que a própria memória.
Se um agente de IA usar meu contexto passado para tomar uma decisão:
Essa memória é autêntica? Ela foi alterada?
O processo de raciocínio pode ser verificado de forma independente?
É por isso que a abordagem da OpenGradient chamou minha atenção.
Muitos projetos de IA estão focados em tornar a IA mais inteligente. A OpenGradient, no entanto, está trabalhando em uma infraestrutura de IA verificável, na qual a computação, a inferência e as saídas de IA podem ser verificadas independentemente — em vez de simplesmente ser confiadas.
Na minha visão, o MemSync e a OpenGradient representam camadas diferentes da mesma pilha futura de IA. #OPG @OpenGradient
O MemSync ajuda a IA a lembrar melhor.
A OpenGradient ajuda a garantir que aquilo que a IA lembra e usa possa ser confiável.
Talvez a melhor IA do futuro não seja a que se lembra de tudo.
Pode ser a que consegue provar tanto sua memória quanto seu raciocínio. #OPG $OPG @OpenGradient
O que você acha que vai importar mais para a adoção de IA no longo prazo: Memória Melhor ou Inteligência Verificável?$HEI $SLX
Aviso legal: inclui opiniões de terceiros. Não constitui aconselhamento. A Binance AI pode ser utilizada sem garantia. Consulta os Termos e Condições.