Dans un communiqué de presse, le GDPD a déclaré qu'il enquêtait sur ChatGPT après avoir interdit le populaire chatbot OpenAI.
L'Italie est devenue le premier pays occidental à interdire officiellement un chatbot à intelligence artificielle appelé GPT pour des raisons de confidentialité. Le pays européen cherche à ouvrir une enquête sur des violations présumées de ses règles en matière de confidentialité des données. L'enquête déterminera également si le chatbot OpenAI est conforme au règlement général sur la protection des données.
Vendredi, l'agence italienne de protection des données a demandé la suspension de ChatGPT suite à une violation du 20 mars sur la plateforme. Selon l'Autorité de protection des données (GDP), les données d'un utilisateur ont été exposées à un autre via un chatbot IA.
Tout en accusant ChatGPT d’avoir divulgué les informations de conversation et de paiement d’au moins un utilisateur, le GDPD a également soulevé une autre question urgente. Le régulateur italien des données a noté qu’il n’y avait pas suffisamment d’informations sur les données compilées par OpenAI. Dans un communiqué de presse, l'organisme de réglementation de la sécurité a déclaré :
« Le garant de la confidentialité constate que les utilisateurs et toutes les parties intéressées dont les données sont collectées par OpenAI manquent d’informations, mais surtout, manquent de bases juridiques pour justifier la collecte et le stockage massif de données personnelles afin de « former » les opérations de la plateforme algorithmique sous-jacente. »
De plus, GDPD souligne que les informations présentées par ChatGPT ne reflètent pas toujours les données réelles. L'agence a conclu que les chatbots peuvent être inexacts lors du traitement des données personnelles.
L'interdiction de ChatGPT en Italie intervient alors que le régulateur des données affirme que le chatbot ne dispose pas de filtres pour vérifier l'âge de l'utilisateur
Le GDPD a également mentionné que ChatGPT a peut-être violé ses propres règles de protection des données. Le régulateur italien des données a expliqué que même si le chatbot avait une limite d’âge, il manquait de filtres pour vérifier l’âge de l’utilisateur. Cette faille opérationnelle signifie que les personnes de moins de 13 ans peuvent être exposées à des réponses inappropriées à leur âge.
Après que l'Italie a interdit ChatGPT, GDP a déclaré qu'OpenAI avait 20 jours pour résoudre les problèmes soulevés.
Selon l'organisme de surveillance : « OpenAI a désigné un représentant dans l'Espace économique européen et doit notifier dans les 20 jours les mesures prises pour mettre en œuvre la demande du garant, qui est passible d'une amende maximale de 20 millions d'euros ou de 4 % de son chiffre d'affaires annuel mondial. »
Cette interdiction n’est pas la première fois que le régulateur italien des données prend des mesures contre les chatbots IA. En février, le PIB a interdit à l'application de chatbot Replika d'accéder aux données personnelles, invoquant des risques pour les personnes émotionnellement vulnérables et les mineurs.
Alors que ChatGPT comptait environ 100 millions d’utilisateurs dans le monde au cours de ses deux premiers mois, on ne sait pas exactement combien d’utilisateurs il y a en Italie. Une heure après que l'Italie a annoncé l'interdiction, certaines publications affirmaient encore pouvoir accéder au service d'IA depuis le pays.
Malgré son succès initial et sa popularité explosive, ChatGPT a également été critiqué dans d’autres parties du monde. Par exemple, le Centre pour l’intelligence artificielle et la politique numérique (CAIDP) a déposé aujourd’hui une plainte contre les chatbots. Le CAIDP a décrit ChatGPT comme une plateforme « biaisée » et « trompeuse » qui pourrait compromettre la confidentialité publique.