Après avoir décortiqué @OpenGradient et le chemin de traitement des données d'OpenGradient Chat, une question reste dans mes notes depuis un moment : à mesure que l'IA s'améliore dans la compréhension de l'expression humaine, quelle quantité d'informations sur "cette personne" doit-elle vraiment connaître ?
Quand j'utilise l'IA au quotidien pour organiser des structures de travail et noter des pensées éparses, je remarque parfois une habitude subtile ; pour certains jugements immatures, j'ajuste instinctivement quelques mots ou je m'abstiens de les écrire. Cette retenue n'est pas due à un manque de capacités de l'IA, mais plutôt parce que la frontière des données entre l'utilisateur et l'IA n'a pas encore été redéfinie.
En continuant à analyser le design d'OpenGradient, je me concentre davantage sur ce qui se passe avant que les données n'entrent dans le modèle. Les entrées des utilisateurs sont d'abord cryptées et traitées sur des appareils locaux, et les informations liées à l'identité sont supprimées à ce stade. Le grand modèle reçoit ensuite un contenu sémantique qui doit être compris et raisonné, plutôt qu'une étiquette d'identité correspondant à un utilisateur spécifique.
Cela m'a amené à réévaluer la direction de la confidentialité de l'IA. Beaucoup des discussions passées se sont concentrées sur la façon dont les données sont stockées et gérées, tandis que ce design tente de renvoyer la question avant que les données n'entrent dans le modèle, réduisant ainsi la dépendance du modèle aux informations d'identité de l'utilisateur lors de la compréhension du contenu.
Que cette approche devienne une direction importante pour les futurs systèmes d'IA, je ne peux pas encore le dire avec certitude. Mais au moins pendant mes recherches sur $OPG et #OPG , je me suis retrouvé de plus en plus préoccupé par une question : peut-être que l'IA exceptionnelle de demain ne comprendra pas seulement mieux, elle devra aussi savoir quelles parties elle n'a pas besoin de connaître.
#opg $OPG
Quand j'utilise l'IA au quotidien pour organiser des structures de travail et noter des pensées éparses, je remarque parfois une habitude subtile ; pour certains jugements immatures, j'ajuste instinctivement quelques mots ou je m'abstiens de les écrire. Cette retenue n'est pas due à un manque de capacités de l'IA, mais plutôt parce que la frontière des données entre l'utilisateur et l'IA n'a pas encore été redéfinie.
En continuant à analyser le design d'OpenGradient, je me concentre davantage sur ce qui se passe avant que les données n'entrent dans le modèle. Les entrées des utilisateurs sont d'abord cryptées et traitées sur des appareils locaux, et les informations liées à l'identité sont supprimées à ce stade. Le grand modèle reçoit ensuite un contenu sémantique qui doit être compris et raisonné, plutôt qu'une étiquette d'identité correspondant à un utilisateur spécifique.
Cela m'a amené à réévaluer la direction de la confidentialité de l'IA. Beaucoup des discussions passées se sont concentrées sur la façon dont les données sont stockées et gérées, tandis que ce design tente de renvoyer la question avant que les données n'entrent dans le modèle, réduisant ainsi la dépendance du modèle aux informations d'identité de l'utilisateur lors de la compréhension du contenu.
Que cette approche devienne une direction importante pour les futurs systèmes d'IA, je ne peux pas encore le dire avec certitude. Mais au moins pendant mes recherches sur $OPG et #OPG , je me suis retrouvé de plus en plus préoccupé par une question : peut-être que l'IA exceptionnelle de demain ne comprendra pas seulement mieux, elle devra aussi savoir quelles parties elle n'a pas besoin de connaître.
#opg $OPG