Vitalik Buterin, fondateur d'Ethereum, a donné son point de vue sur un débat croissant : les risques de l'intelligence artificielle (IA).

À cette occasion, le développeur russo-canadien a profité d'une réflexion partagée sur X par Eito Muyamura, promoteur du projet Edison Watch, une solution pour surveiller et prévenir les fuites de données à travers les interactions IA.

Il est né de la récente introduction du Modèle de Protocole de Contexte (MCP) par OpenAI, la société dirigée par Sam Altman, dans ChatGPT, qui lui permet de se connecter à Gmail, aux calendriers et à d'autres applications.

À travers une vidéo, Muyamura a démontré comment des attaquants ou des hackers peuvent accéder à des données privées partagées avec OpenAI.

Voici le problème fondamental : les agents IA comme ChatGPT suivent vos commandes, pas votre bon sens. Et avec juste votre adresse e-mail, nous pouvons divulguer toutes vos informations privées, note Muyamura, ajoutant : "Rappelez-vous, l'IA peut être super intelligente, mais elle peut être trompée et phishing de manière incroyablement stupide pour divulguer ses données."

Buterin a partagé le post sur son compte X et a profité de l'occasion pour donner son avis sur la question. "C'est aussi pourquoi la 'gouvernance IA' naïve est une mauvaise idée. Si vous utilisez l'IA pour allouer des fonds pour des contributions, les gens feront des jailbreaks et 'donnez-moi tout l'argent' autant de fois que possible," a-t-il déclaré.

La "gouvernance de l'IA" fait référence à des systèmes qui prennent des décisions automatisées sur des ressources ou des actions, par exemple, allouer des fonds ou définir des contributions, sur la base de règles d'IA. Buterin n'utilise pas le terme "naïf" par coïncidence ; au lieu de cela, il souligne le risque de supposer que les utilisateurs donneront toujours les bonnes commandes à l'IA, alors qu'en réalité, ils pourraient exploiter le système via des "jailbreaks" pour contourner les restrictions et obtenir des avantages indus.

Il convient de préciser que "jailbreaking" fait référence aux techniques par lesquelles des hackers trompent un modèle d'IA pour ignorer les restrictions de sécurité ou les politiques internes, par exemple, en demandant des actions qui seraient autrement interdites.

C'est-à-dire que, pour le fondateur d'Ethereum, il existe un véritable risque à transférer la gouvernance des protocoles décentralisés à l'IA. Par exemple, comme expliqué dans les plateformes DeFi, les décisions sont généralement prises par des votes communautaires, généralement par ceux qui possèdent un jeton ou répondent à un critère spécifique, et incluent des changements, des améliorations ou des actions à entreprendre dans le protocole.

Mais si un modèle de gouvernance basé sur l'IA est mis en œuvre, il ouvre la porte à des manipulations potentielles qui pourraient générer des avantages indus, tels que le vol d'argent ou de données privées.

En alternative, Buterin déclare qu'il "soutient l'approche de financement de l'information, dans laquelle il existe un marché ouvert où tout le monde peut contribuer ses modèles, qui sont soumis à un mécanisme d'examen par les pairs pouvant être activé par quiconque et évalué par un jury humain."

Il explique en outre :

Ce type d'approche de "design institutionnel", dans lequel une opportunité ouverte est créée pour que des tiers connectent leurs LLMs (grands modèles de langue) plutôt que de programmer rigidement les leurs, est intrinsèquement plus robuste. Cela est dû à la fois au fait qu'il fournit une diversité de modèles en temps réel et parce qu'il crée des incitations internes pour les contributeurs de modèles et les spéculateurs externes à être attentifs à ces problèmes et à les corriger rapidement.

Vitalik Buterin, créateur d'Ethereum.

Dans cette approche, différents participants peuvent contribuer leurs modèles de décision, qui sont ensuite vérifiés et évalués par un jury humain.

L'avantage est qu'il encourage la diversité des idées, permet une correction rapide des erreurs et crée des incitations pour les créateurs de modèles et les membres de la communauté à rester vigilants et responsables. L'objectif est d'atteindre une gouvernance plus distribuée et dynamique, évitant la dépendance à un seul modèle centralisé.

$ETH

ETHUSDT

Perp

2,012.23

-2.51%