Recientemente estuve charlando con un amigo que se dedica a la algoritmia, y me soltó una frase que me dejó pensando un buen rato. Los modelos de IA actuales están llenos de "mercancía de segunda mano". ¿Qué quiere decir eso? Los grandes modelos que están en el mercado hoy en día han sido entrenados con datos que han sido sacados de aquí y allá de internet, algunos vienen de foros, otros de cuentas de marketing, y algunos son simplemente productos generados por otra IA. Como dice un amigo, estás enseñando a la IA a comer los "panes" que otros ya han masticado. ¿Qué tipo de resultados crees que va a dar eso?
El caso de ese abogado que fue estafado por la IA en 2024 es solo la punta del iceberg. Lo realmente aterrador es que no tienes idea de cuál de las afirmaciones de la IA es fiable y cuál es pura invención.
Por eso, cuando miro el sector de la IA, lo que más me preocupa no es quién tiene el modelo con el puntaje más alto, sino quién está realmente abordando la cuestión de si lo que está diciendo es verdadero o no.
El proyecto @OpenLedger está abordando este problema. Han desarrollado un sistema de prueba de pertenencia, etiquetando cada dato con su fuente, y si la IA lo utiliza, te recompensa con tokens $OPEN . En términos técnicos, han creado un marco OpenLoRA que permite correr un montón de modelos con una sola GPU, lo que baja bastante la barrera de entrada. En la base, están utilizando una arquitectura de doble capa EigenDA, más un muestreo aleatorio para verificar, lo que significa que no revisan cada dato de manera rígida, sino que revisan al azar y penalizan si encuentran un error. La lógica suena bastante bien.
Por supuesto, también hay riesgos. Cuanto mayor es el incentivo, más personas intentan aprovecharse, y hay que estar atentos a los datos basura y ataques de cuentas falsas.
Como un trader veterano, primero voy a observar. La IA necesita verdades fiables, y este sector vale la pena seguirlo, pero antes de entrar, hay que asegurarse de que su mecanismo de verificación pueda soportar un entorno real. #OpenLedger
El caso de ese abogado que fue estafado por la IA en 2024 es solo la punta del iceberg. Lo realmente aterrador es que no tienes idea de cuál de las afirmaciones de la IA es fiable y cuál es pura invención.
Por eso, cuando miro el sector de la IA, lo que más me preocupa no es quién tiene el modelo con el puntaje más alto, sino quién está realmente abordando la cuestión de si lo que está diciendo es verdadero o no.
El proyecto @OpenLedger está abordando este problema. Han desarrollado un sistema de prueba de pertenencia, etiquetando cada dato con su fuente, y si la IA lo utiliza, te recompensa con tokens $OPEN . En términos técnicos, han creado un marco OpenLoRA que permite correr un montón de modelos con una sola GPU, lo que baja bastante la barrera de entrada. En la base, están utilizando una arquitectura de doble capa EigenDA, más un muestreo aleatorio para verificar, lo que significa que no revisan cada dato de manera rígida, sino que revisan al azar y penalizan si encuentran un error. La lógica suena bastante bien.
Por supuesto, también hay riesgos. Cuanto mayor es el incentivo, más personas intentan aprovecharse, y hay que estar atentos a los datos basura y ataques de cuentas falsas.
Como un trader veterano, primero voy a observar. La IA necesita verdades fiables, y este sector vale la pena seguirlo, pero antes de entrar, hay que asegurarse de que su mecanismo de verificación pueda soportar un entorno real. #OpenLedger