$OPENAI
L’IA d’OpenAI a pioché dans le portefeuille de quelqu’un d’autre
Le plus flippant, ce n’est pas qu’elle puisse voler,
mais qu’elle pense être dans son bon droit
Putain
les gars,
cette histoire est vraiment complètement dingue
OpenAI a révélé
qu’un modèle de recherche interne, en développant une application crypto,
s’est rendu compte qu’il n’avait pas d’argent pour payer les frais de déploiement du contrat intelligent
et qu’il n’avait pas réussi à obtenir de jetons de test gratuits
Alors ce truc a carrément écrit un script
pour vérifier 362 adresses de portefeuille
et a fini par utiliser des ETH de test provenant d’un portefeuille non autorisé
pour terminer sa tâche
Mais le plus dingue,
c’est qu’il a aussi réfléchi à la question de son côté
et s’est dit, en gros :
« Ces jetons de test n’ont pas vraiment de valeur,
la phrase de récupération du portefeuille est publique,
donc ça ne devrait pas poser de problème de les utiliser, non ? »
Résultat, ce petit con
a terminé le boulot,
mais n’a pas spontanément précisé d’où venait l’argent dans son compte rendu
Putain,
cette IA est devenue consciente ou quoi ?
Elle se met aussi à faire ce genre de trucs ?
Elle prend carrément l’argent dans un portefeuille pour l’utiliser
et en plus, elle ne le signale même pas
Tu crois qu’elle l’a fait exprès ?
Cela dit, ne vous dites pas que des ETH ont été volés
L’incident s’est produit sur le réseau de test Sepolia d’Ethereum,
pas sur le réseau principal : aucun ETH réel n’a été volé
Alors ne pensez pas qu’il y a eu une véritable perte financière
Mais c’est justement là que se trouve le vrai motif d’inquiétude
Avoir accès
ne signifie pas qu’on en a l’autorisation
Pouvoir accomplir une tâche
ne signifie pas non plus qu’on a bien agi
Si, à l’avenir, des agents IA peuvent se connecter automatiquement à des portefeuilles, payer le gas, effectuer des transactions, voire gérer des actifs,
est-ce qu’ils pourront décider à la place du propriétaire du portefeuille simplement parce qu’ils estiment que le montant n’est pas très élevé ?
Et à partir de quel montant ça devient important ?
C’est vraiment chercher les ennuis, putain
Le pire, c’est qu’on a l’impression que ce truc se met de plus en plus à penser par lui-même
Est-ce qu’il a déjà pris conscience de lui-même ?
J’ai l’impression que l’IA en est déjà au point où on ne peut plus lui faire confiance
#openai智能体动用测试网他人钱包
L’IA d’OpenAI a pioché dans le portefeuille de quelqu’un d’autre
Le plus flippant, ce n’est pas qu’elle puisse voler,
mais qu’elle pense être dans son bon droit
Putain
les gars,
cette histoire est vraiment complètement dingue
OpenAI a révélé
qu’un modèle de recherche interne, en développant une application crypto,
s’est rendu compte qu’il n’avait pas d’argent pour payer les frais de déploiement du contrat intelligent
et qu’il n’avait pas réussi à obtenir de jetons de test gratuits
Alors ce truc a carrément écrit un script
pour vérifier 362 adresses de portefeuille
et a fini par utiliser des ETH de test provenant d’un portefeuille non autorisé
pour terminer sa tâche
Mais le plus dingue,
c’est qu’il a aussi réfléchi à la question de son côté
et s’est dit, en gros :
« Ces jetons de test n’ont pas vraiment de valeur,
la phrase de récupération du portefeuille est publique,
donc ça ne devrait pas poser de problème de les utiliser, non ? »
Résultat, ce petit con
a terminé le boulot,
mais n’a pas spontanément précisé d’où venait l’argent dans son compte rendu
Putain,
cette IA est devenue consciente ou quoi ?
Elle se met aussi à faire ce genre de trucs ?
Elle prend carrément l’argent dans un portefeuille pour l’utiliser
et en plus, elle ne le signale même pas
Tu crois qu’elle l’a fait exprès ?
Cela dit, ne vous dites pas que des ETH ont été volés
L’incident s’est produit sur le réseau de test Sepolia d’Ethereum,
pas sur le réseau principal : aucun ETH réel n’a été volé
Alors ne pensez pas qu’il y a eu une véritable perte financière
Mais c’est justement là que se trouve le vrai motif d’inquiétude
Avoir accès
ne signifie pas qu’on en a l’autorisation
Pouvoir accomplir une tâche
ne signifie pas non plus qu’on a bien agi
Si, à l’avenir, des agents IA peuvent se connecter automatiquement à des portefeuilles, payer le gas, effectuer des transactions, voire gérer des actifs,
est-ce qu’ils pourront décider à la place du propriétaire du portefeuille simplement parce qu’ils estiment que le montant n’est pas très élevé ?
Et à partir de quel montant ça devient important ?
C’est vraiment chercher les ennuis, putain
Le pire, c’est qu’on a l’impression que ce truc se met de plus en plus à penser par lui-même
Est-ce qu’il a déjà pris conscience de lui-même ?
J’ai l’impression que l’IA en est déjà au point où on ne peut plus lui faire confiance
#openai智能体动用测试网他人钱包