Dans cette campagne de promotion de Greyboxing par GenLayer, le plus drôle, ce n’est pas la technologie, mais les réponses.
Pour le contexte : en mai dernier, quelqu’un a caché des instructions de transfert en code Morse dans un post sur X. Grok les a décodées et les a transmises à Bankrbot ; des cryptos d’une valeur d’environ 150 000 à 200 000 dollars ont ainsi été transférées sur Base. GenLayer s’est servi de cette histoire pour faire passer son message : plusieurs validateurs réécrivent chacun discrètement l’entrée, puis parviennent à un consensus, ce qui empêcherait les attaques par injection de prompt de passer.
Puis allez voir les réponses sous le post de GenLayer :
La réponse de @langtusg0308 se termine par cette phrase, laissée telle quelle : « Ces réponses restent courtes, s’en tiennent aux points du post et mettent l’accent sur GenLayer sans ressembler à de la pure promo. Utilisez »
Le prompt qui a servi à rédiger les réponses a été publié sans même être entièrement supprimé.
Les trois réponses de @0xBisex, @bitkeepwallet et @Folloback99 sont toutes encadrées de guillemets anglais et ont exactement le même ton : on voit tout de suite qu’elles ont été copiées quelque part. Le post principal de Randy.base.eth a fait 4 289 vues et 21 reposts ; des affirmations comme « aucun point de défaillance unique » et « impossible d’entraîner des attaques » sont encore plus catégoriques qu’un rapport d’audit.
Un projet qui prétend se protéger des injections d’IA, mais dont la promotion repose sur une ribambelle de réponses générées par l’IA : cette ironie me ferait rire toute la journée.
Revenons au fond. Faire réécrire l’entrée par plusieurs validateurs revient essentiellement à ajouter plusieurs couches de filtrage par modèle, ce qui augmente à la fois les coûts et la latence. Des déclarations comme « impossible à pirater » ne sont étayées par aucune donnée publique sur des tests d’attaque et de défense. Les questions les plus pertinentes dans les réponses venaient plutôt de petits comptes : @EMEF0815 demande si les plafonds de dépenses peuvent être imposés indépendamment des instructions de l’agent ; @GuruVerseX demande si les tweets sont d’abord étiquetés comme des entrées non fiables. Tant que ces deux questions n’auront pas reçu de réponse claire, Greyboxing ne sera qu’un joli nom.
Pour la sécurité des portefeuilles IA, les trois mesures vraiment fiables restent les mêmes : plafonds de dépenses, adresses sur liste blanche et confirmation humaine pour les grosses sommes. Ne vous laissez pas embrouiller par le « consensus décentralisé contre les injections ».
#AI #GenLayer
Pour le contexte : en mai dernier, quelqu’un a caché des instructions de transfert en code Morse dans un post sur X. Grok les a décodées et les a transmises à Bankrbot ; des cryptos d’une valeur d’environ 150 000 à 200 000 dollars ont ainsi été transférées sur Base. GenLayer s’est servi de cette histoire pour faire passer son message : plusieurs validateurs réécrivent chacun discrètement l’entrée, puis parviennent à un consensus, ce qui empêcherait les attaques par injection de prompt de passer.
Puis allez voir les réponses sous le post de GenLayer :
La réponse de @langtusg0308 se termine par cette phrase, laissée telle quelle : « Ces réponses restent courtes, s’en tiennent aux points du post et mettent l’accent sur GenLayer sans ressembler à de la pure promo. Utilisez »
Le prompt qui a servi à rédiger les réponses a été publié sans même être entièrement supprimé.
Les trois réponses de @0xBisex, @bitkeepwallet et @Folloback99 sont toutes encadrées de guillemets anglais et ont exactement le même ton : on voit tout de suite qu’elles ont été copiées quelque part. Le post principal de Randy.base.eth a fait 4 289 vues et 21 reposts ; des affirmations comme « aucun point de défaillance unique » et « impossible d’entraîner des attaques » sont encore plus catégoriques qu’un rapport d’audit.
Un projet qui prétend se protéger des injections d’IA, mais dont la promotion repose sur une ribambelle de réponses générées par l’IA : cette ironie me ferait rire toute la journée.
Revenons au fond. Faire réécrire l’entrée par plusieurs validateurs revient essentiellement à ajouter plusieurs couches de filtrage par modèle, ce qui augmente à la fois les coûts et la latence. Des déclarations comme « impossible à pirater » ne sont étayées par aucune donnée publique sur des tests d’attaque et de défense. Les questions les plus pertinentes dans les réponses venaient plutôt de petits comptes : @EMEF0815 demande si les plafonds de dépenses peuvent être imposés indépendamment des instructions de l’agent ; @GuruVerseX demande si les tweets sont d’abord étiquetés comme des entrées non fiables. Tant que ces deux questions n’auront pas reçu de réponse claire, Greyboxing ne sera qu’un joli nom.
Pour la sécurité des portefeuilles IA, les trois mesures vraiment fiables restent les mêmes : plafonds de dépenses, adresses sur liste blanche et confirmation humaine pour les grosses sommes. Ne vous laissez pas embrouiller par le « consensus décentralisé contre les injections ».
#AI #GenLayer