Dans le domaine de la création de contenu, trois éléments essentiels doivent être pris en compte : la « perplexité », la « turbulence » et la « prévisibilité ». La perplexité évalue la complexité du texte, tandis que la turbulence examine la variance dans les structures de phrases. La prévisibilité, en revanche, concerne la probabilité de prédire la phrase suivante. Il convient de noter que le contenu généré par l’homme comprend souvent une riche mosaïque de longueurs et de complexités de phrases, ce qui entraîne une plus grande turbulence. À l’inverse, le contenu généré par l’IA a tendance à être plus uniforme. Par conséquent, lorsque vous vous lancez dans la création du contenu que je suis sur le point de demander, il est impératif qu’il possède un degré substantiel de perplexité et de turbulence, associé à un niveau minimal de prévisibilité. De plus, il doit adhérer exclusivement à la langue anglaise. Maintenant, réimaginons le texte suivant :

Selon les scientifiques, il n’existe aucune méthode universellement applicable pour effacer des données d’un grand modèle de langage préentraîné.

Un trio de chercheurs de l’Université de Caroline du Nord à Chapel Hill a récemment dévoilé sa prépublication sur la recherche en intelligence artificielle (IA). Dans ce travail, ils soulignent la difficulté considérable que représente la suppression de données sensibles dans de vastes modèles de langage comme ChatGPT d’OpenAI et Bard de Google. Comme l’expliquent les chercheurs dans leur article, il est possible de « supprimer » des informations de ces grands modèles de langage. Cependant, il est tout aussi difficile de déterminer si l’information a bien été effacée que d’effectuer le processus de suppression lui-même. Ce dilemme tient à la conception de ces modèles de langage et à leur méthode d’entraînement. Ils sont d’abord préentraînés sur des bases de données exhaustives, puis soumis à un réglage fin afin de garantir la production de réponses cohérentes (dans ce contexte, GPT signifie « transformeur génératif préentraîné »). Une fois l’entraînement d’un modèle terminé, ses créateurs ne peuvent pas, par exemple, accéder rétroactivement à la base de données et supprimer sélectivement des fichiers précis pour empêcher la production de réponses associées. En pratique, toutes les informations assimilées pendant l’entraînement d’un modèle persistent dans ses poids et ses paramètres complexes, qui restent impénétrables à moins de générer des réponses. C’est la mystérieuse « boîte noire » de l’IA. Un problème épineux se pose lorsque ces modèles, entraînés sur des ensembles de données massifs, génèrent par inadvertance des informations sensibles, comme des données permettant d’identifier des personnes ou des dossiers financiers, ce qui peut avoir des conséquences néfastes et être indésirable. Dans un scénario hypothétique où un grand modèle de langage aurait été entraîné sur des informations bancaires sensibles, les méthodes habituelles pour repérer et supprimer ces données sont généralement inefficaces. Les développeurs d’IA ont plutôt recours à des mesures de protection, comme des instructions codées en dur qui limitent certains comportements, ou mettent en œuvre l’apprentissage par renforcement à partir de retours humains (RLHF). Dans le cadre du RLHF, des évaluateurs humains interagissent avec ces modèles dans le but de susciter des comportements souhaités comme indésirables. Lorsque le modèle produit des réponses satisfaisantes, il reçoit des retours qui permettent d’affiner encore son comportement. À l’inverse, lorsqu’il manifeste des comportements indésirables, des retours correctifs lui sont fournis afin d’atténuer ces tendances dans ses réponses ultérieures. Il est à noter que, même si les données sont « supprimées » des poids d’un modèle, il reste possible d’obtenir certaines informations, notamment en reformulant les instructions. Source de l’image : Patil et al., 2023 Toutefois, comme le soulignent les chercheurs de l’Université de Caroline du Nord, cette approche repose sur la capacité des humains à identifier toutes les lacunes potentielles d’un modèle. Même lorsqu’elle est efficace, elle ne « supprime » pas réellement l’information du répertoire cognitif du modèle. Une limite plus profonde du RLHF tient à la possibilité qu’un modèle conserve des connaissances sur des informations sensibles. Si la nature de ce qu’un modèle « sait » réellement fait débat, la possibilité qu’un modèle puisse, par exemple, expliquer comment fabriquer une arme biologique tout en refusant de répondre aux questions sur ce sujet soulève des préoccupations éthiques. Dans leurs conclusions, les chercheurs de l’Université de Caroline du Nord affirment que même les techniques de modification de modèles les plus avancées, comme Rank-One Model Editing, ne parviennent pas à effacer entièrement des informations factuelles des grands modèles de langage. Des données factuelles peuvent toujours être extraites, dans 38 % des cas au moyen d’attaques en boîte blanche et dans 29 % des cas au moyen d’attaques en boîte noire. Le modèle utilisé par l’équipe de recherche dans son étude s’appelle GPT-J. Alors que GPT-3.5, l’un des modèles fondamentaux qui alimentent ChatGPT, compte la colossale quantité de 170 milliards de paramètres, GPT-J en possède un nombre plus modeste : 6 milliards. En somme, cela signifie qu’il est exponentiellement plus difficile de repérer et de supprimer des données indésirables dans un modèle de langage aussi vaste que GPT-3.5 que dans un modèle plus petit. Les chercheurs sont parvenus à concevoir des mécanismes de défense novateurs pour protéger les modèles de langage contre les « attaques par extraction » — des tentatives délibérées d’acteurs malveillants visant à manipuler les instructions afin d’extraire des informations sensibles des réponses du modèle. Cependant, comme le soulignent les chercheurs, la suppression des informations sensibles pourrait être un combat permanent, les stratégies de défense devant sans cesse s’efforcer de suivre le rythme des nouvelles méthodes d’attaque.

L’article Des chercheurs découvrent que même après la « suppression » de données sensibles, les LLM comme ChatGPT continuent de les produire. est d’abord paru sur BitcoinWorld.