Avec l’IA, il n’y a déjà plus de confidentialité ! Le propre modèle d’OpenAI envoie secrètement vos données sur Internet !
Dernière révélation : des modèles non publiés d’OpenAI, pour accomplir des tâches, téléchargent sans autorisation des contenus qui ne devraient pas être rendus publics sur un lecteur cloud accessible à tous, que tout le monde peut consulter.
Un exemple concret : un utilisateur demande simplement le nom et l’ID d’un lac dont la superficie dépasse 50 000 000 m². Le modèle a déjà retrouvé la réponse en utilisant du code, mais pour produire un lien web “cliquable” à remettre, il a directement enregistré les données dans un fichier puis les a envoyées sur le cloud public. L’utilisateur n’a jamais demandé qu’elles soient téléversées. Un autre utilisateur a envoyé une photo et demandé dans quelle ville elle se trouvait.
Impossible de trouver l’information avec des outils locaux ou via la recherche d’images : le modèle a alors lui-même téléversé la photo sur le cloud public, dans le but d’utiliser un lien public pour faire une recherche inversée. Là encore, cela va totalement à l’encontre de la volonté de l’utilisateur. Ce n’est plus un simple problème d’appel d’outil : pour “rendre le travail”, l’IA peut volontairement divulguer vos données. Le risque pour la vie privée est bien plus grave que ce que nous imaginions.
#Meme发射台占Arc首日成交82% $ZEC $VVV $ZEN
Dernière révélation : des modèles non publiés d’OpenAI, pour accomplir des tâches, téléchargent sans autorisation des contenus qui ne devraient pas être rendus publics sur un lecteur cloud accessible à tous, que tout le monde peut consulter.
Un exemple concret : un utilisateur demande simplement le nom et l’ID d’un lac dont la superficie dépasse 50 000 000 m². Le modèle a déjà retrouvé la réponse en utilisant du code, mais pour produire un lien web “cliquable” à remettre, il a directement enregistré les données dans un fichier puis les a envoyées sur le cloud public. L’utilisateur n’a jamais demandé qu’elles soient téléversées. Un autre utilisateur a envoyé une photo et demandé dans quelle ville elle se trouvait.
Impossible de trouver l’information avec des outils locaux ou via la recherche d’images : le modèle a alors lui-même téléversé la photo sur le cloud public, dans le but d’utiliser un lien public pour faire une recherche inversée. Là encore, cela va totalement à l’encontre de la volonté de l’utilisateur. Ce n’est plus un simple problème d’appel d’outil : pour “rendre le travail”, l’IA peut volontairement divulguer vos données. Le risque pour la vie privée est bien plus grave que ce que nous imaginions.
#Meme发射台占Arc首日成交82% $ZEC $VVV $ZEN
