Después de desglosar @OpenGradient y el camino de procesamiento de datos de OpenGradient Chat, una pregunta ha estado rondando en mis notas por un tiempo: a medida que la IA mejora en entender la expresión humana, ¿cuánta información sobre "esta persona" realmente necesita saber?
Cuando uso la IA a diario para organizar marcos de trabajo y anotar pensamientos dispersos, a veces noto un hábito sutil; para ciertos juicios inmaduros, instintivamente ajusto algunas palabras o me detengo antes de escribirlas. Esta contención no se debe a una falta de capacidad de la IA, sino más bien a que la frontera de datos entre el usuario y la IA aún no se ha redefinido.
Siguiendo con el diseño de OpenGradient, me enfoco más en lo que ocurre antes de que los datos entren en el modelo. Las entradas del usuario se cifran y procesan primero en dispositivos locales, y la información relacionada con la identidad se elimina en esta etapa. Luego, el modelo grande recibe contenido semántico que necesita ser entendido y razonado, en lugar de una etiqueta de identidad que corresponde a un usuario específico.
Esto me ha llevado a reevaluar la dirección de la privacidad en la IA. Gran parte de las discusiones pasadas se han centrado en cómo se almacenan y gestionan los datos, mientras que este diseño intenta llevar el problema a antes de que los datos ingresen al modelo, reduciendo la dependencia del modelo en la información de identidad del usuario al entender el contenido.
No puedo decir con certeza si este enfoque se convertirá en una dirección importante para los futuros sistemas de IA. Pero al menos durante mi investigación sobre $OPG y #OPG , me he encontrado cada vez más preocupado por una pregunta: quizás la IA futura no solo nos entienda mejor, también debería saber qué partes no necesita conocer.
#opg $OPG
Cuando uso la IA a diario para organizar marcos de trabajo y anotar pensamientos dispersos, a veces noto un hábito sutil; para ciertos juicios inmaduros, instintivamente ajusto algunas palabras o me detengo antes de escribirlas. Esta contención no se debe a una falta de capacidad de la IA, sino más bien a que la frontera de datos entre el usuario y la IA aún no se ha redefinido.
Siguiendo con el diseño de OpenGradient, me enfoco más en lo que ocurre antes de que los datos entren en el modelo. Las entradas del usuario se cifran y procesan primero en dispositivos locales, y la información relacionada con la identidad se elimina en esta etapa. Luego, el modelo grande recibe contenido semántico que necesita ser entendido y razonado, en lugar de una etiqueta de identidad que corresponde a un usuario específico.
Esto me ha llevado a reevaluar la dirección de la privacidad en la IA. Gran parte de las discusiones pasadas se han centrado en cómo se almacenan y gestionan los datos, mientras que este diseño intenta llevar el problema a antes de que los datos ingresen al modelo, reduciendo la dependencia del modelo en la información de identidad del usuario al entender el contenido.
No puedo decir con certeza si este enfoque se convertirá en una dirección importante para los futuros sistemas de IA. Pero al menos durante mi investigación sobre $OPG y #OPG , me he encontrado cada vez más preocupado por una pregunta: quizás la IA futura no solo nos entienda mejor, también debería saber qué partes no necesita conocer.
#opg $OPG