Recentemente, tive uma conversa com um amigo que trabalha com algoritmos, e ele me disse uma coisa que me deixou pensando por um tempão. Ele comentou que os modelos de IA de hoje estão cheios de "segunda mão". O que isso quer dizer? Os grandes modelos que estão por aí foram treinados com dados que foram arrancados da internet de qualquer jeito, alguns vêm de fóruns, outros de contas de marketing, e tem até aqueles que são simplesmente gerados por outra IA. Usando as palavras de um amigo, é como se você estivesse ensinando a IA a comer pão que já foi mastigado por outros.
O que foi que aconteceu com aquele advogado que foi enganado pela IA em 2024 é só a ponta do iceberg. O que realmente assusta é que você não sabe qual frase da IA é confiável e qual é inventada.
Por isso, agora quando olho para o setor de IA, minha maior preocupação não é quem tem o modelo que roda mais rápido, mas sim quem está realmente resolvendo se isso tudo é verdadeiro ou não.
O projeto @OpenLedger está focado nesse ponto sensível. Eles criaram um sistema de prova de propriedade, colocando uma etiqueta de origem em cada dado; se a IA usar, você ganha recompensas em tokens $OPEN . Do ponto de vista técnico, eles desenvolveram uma estrutura chamada OpenLoRA, que permite rodar um monte de modelos com um único GPU, tornando as coisas bem mais acessíveis. A base é construída com uma arquitetura de dupla camada EigenDA, além de uma validação por amostragem aleatória. Não é uma verificação rígida de cada dado, mas uma amostragem, e se encontrar um erro, tem penalidade. A lógica parece fazer sentido.
Claro que também tem riscos. Quanto maior o incentivo, mais gente tenta se aproveitar, então precisamos ficar de olho em dados ruins e ataques de contas falsas.
Como um veterano no mercado, vou observar primeiro. A IA precisa de verdades confiáveis, e essa área vale a pena ficar de olho, mas antes de entrar, preciso ter certeza de que esse sistema de validação aguenta a pressão do mundo real. #OpenLedger
O que foi que aconteceu com aquele advogado que foi enganado pela IA em 2024 é só a ponta do iceberg. O que realmente assusta é que você não sabe qual frase da IA é confiável e qual é inventada.
Por isso, agora quando olho para o setor de IA, minha maior preocupação não é quem tem o modelo que roda mais rápido, mas sim quem está realmente resolvendo se isso tudo é verdadeiro ou não.
O projeto @OpenLedger está focado nesse ponto sensível. Eles criaram um sistema de prova de propriedade, colocando uma etiqueta de origem em cada dado; se a IA usar, você ganha recompensas em tokens $OPEN . Do ponto de vista técnico, eles desenvolveram uma estrutura chamada OpenLoRA, que permite rodar um monte de modelos com um único GPU, tornando as coisas bem mais acessíveis. A base é construída com uma arquitetura de dupla camada EigenDA, além de uma validação por amostragem aleatória. Não é uma verificação rígida de cada dado, mas uma amostragem, e se encontrar um erro, tem penalidade. A lógica parece fazer sentido.
Claro que também tem riscos. Quanto maior o incentivo, mais gente tenta se aproveitar, então precisamos ficar de olho em dados ruins e ataques de contas falsas.
Como um veterano no mercado, vou observar primeiro. A IA precisa de verdades confiáveis, e essa área vale a pena ficar de olho, mas antes de entrar, preciso ter certeza de que esse sistema de validação aguenta a pressão do mundo real. #OpenLedger