Le mois dernier, j'ai activé un petit paramètre dans une appli d'IA.
C'était juste un simple interrupteur.
Un truc du genre : « Souviens-toi de cette préférence pour les futurs échanges. »
J'ai cliqué oui parce que j'en avais marre de me répéter.
Au début, ça semblait utile.
L'appli se souvenait de mon ton, de mon format, et de la façon dont j'aimais généralement que les choses soient faites. Tout allait plus vite.
Mais après un certain temps, j'ai réalisé quelque chose.
J'avais changé.
Mon flux de travail avait changé.
La façon dont je voulais des réponses avait changé.
Mais l'IA continuait à répondre à une version plus ancienne de moi.
C'était étrange.
Pas parce que le système faisait quelque chose de mal. Il faisait en fait exactement ce que je lui avais permis de faire.
Et c'était là le vrai problème.
La permission était valide au moment où je l'ai donnée, mais elle est devenue obsolète au fil du temps.
C'est ce que les gens oublient souvent quand ils parlent de mémoire de l'IA.
Tout le monde demande :
L'IA peut-elle se souvenir ?
Peut-elle personnaliser ?
Peut-elle comprendre les préférences ?
Mais peut-être que la question la plus importante est :
Quand un ancien “oui” doit-il cesser d'être pris en compte ?
Parce que les gens ne changent pas d'un coup.
Les préférences s'estompent silencieusement.
Ce qui avait du sens il y a 18 jours peut ne plus correspondre à la personne qui utilise l'appli aujourd'hui.
Je pense que c'est là que l'« Expiration du Consentement » devient importante.
L'IA ne devrait pas seulement être assez intelligente pour se souvenir de nous.
Elle devrait aussi être assez prudente pour savoir quand une mémoire peut ne plus nous représenter.
L'avenir de la personnalisation de l'IA ne peut pas seulement être une question de stockage.
Cela peut être une question de savoir quand lâcher prise.
@OpenGradient #OPG $OPG
C'était juste un simple interrupteur.
Un truc du genre : « Souviens-toi de cette préférence pour les futurs échanges. »
J'ai cliqué oui parce que j'en avais marre de me répéter.
Au début, ça semblait utile.
L'appli se souvenait de mon ton, de mon format, et de la façon dont j'aimais généralement que les choses soient faites. Tout allait plus vite.
Mais après un certain temps, j'ai réalisé quelque chose.
J'avais changé.
Mon flux de travail avait changé.
La façon dont je voulais des réponses avait changé.
Mais l'IA continuait à répondre à une version plus ancienne de moi.
C'était étrange.
Pas parce que le système faisait quelque chose de mal. Il faisait en fait exactement ce que je lui avais permis de faire.
Et c'était là le vrai problème.
La permission était valide au moment où je l'ai donnée, mais elle est devenue obsolète au fil du temps.
C'est ce que les gens oublient souvent quand ils parlent de mémoire de l'IA.
Tout le monde demande :
L'IA peut-elle se souvenir ?
Peut-elle personnaliser ?
Peut-elle comprendre les préférences ?
Mais peut-être que la question la plus importante est :
Quand un ancien “oui” doit-il cesser d'être pris en compte ?
Parce que les gens ne changent pas d'un coup.
Les préférences s'estompent silencieusement.
Ce qui avait du sens il y a 18 jours peut ne plus correspondre à la personne qui utilise l'appli aujourd'hui.
Je pense que c'est là que l'« Expiration du Consentement » devient importante.
L'IA ne devrait pas seulement être assez intelligente pour se souvenir de nous.
Elle devrait aussi être assez prudente pour savoir quand une mémoire peut ne plus nous représenter.
L'avenir de la personnalisation de l'IA ne peut pas seulement être une question de stockage.
Cela peut être une question de savoir quand lâcher prise.
@OpenGradient #OPG $OPG