An GenLayers Greyboxing-Kampagne ist nicht die Technik das Lustigste, sondern die Antworten darunter.
Zum Hintergrund: Im Mai dieses Jahres versteckte jemand eine Überweisungsanweisung in Morsecode in einem X-Post. Grok entschlüsselte sie und leitete sie an Bankrbot weiter; auf Base wurden daraufhin Coins im Wert von etwa 150.000 bis 200.000 Dollar abgezogen. GenLayer macht daraus eine Geschichte: Mehrere Validatoren schreiben die Eingabe jeweils heimlich um und erzielen dann Konsens – so soll Prompt Injection nicht durchkommen.
Dann schaut man sich die Antworten unter GenLayers Post an:
Am Ende von @langtusg0308s Antwort steht noch wortwörtlich: „Diese bleiben kurz, beschränken sich auf die Punkte des Posts und konzentrieren sich auf GenLayer, ohne wie reine Werbung zu klingen. Verwende“
Der Prompt zum Verfassen der Antworten wurde nicht einmal vollständig gelöscht, bevor er gepostet wurde.
Die drei Antworten von @0xBisex, @bitkeepwallet und @Folloback99 haben jeweils englische Anführungszeichen am Anfang und Ende und klingen exakt gleich – offensichtlich irgendwo kopiert. Randy.base.eths Hauptpost hat 4289 Aufrufe und 21 Reposts. Aussagen wie „Keine einzelnen Fehlerpunkte“ und „Angriffe unmöglich zu trainieren“ sind vollmundiger als ein Auditbericht.
Ein Projekt, das sich gegen KI-Injection schützen soll, lässt seine Werbung von einer ganzen Reihe KI-generierter Antworten tragen – diese Ironie bringt mich den ganzen Tag zum Lachen.
Zur Sache. Eingaben von mehreren Validatoren umschreiben zu lassen, bedeutet im Grunde, weitere Modellfilter hinzuzufügen. Das treibt sowohl Kosten als auch Latenz in die Höhe. Behauptungen wie „unmöglich zu knacken“ werden durch keinerlei öffentlich zugängliche Angriffstests gestützt. Die wirklich treffenden Fragen kamen in den Antworten ausgerechnet von kleinen Accounts: @EMEF0815 fragt, ob Ausgabenlimits unabhängig von Agent-Anweisungen durchgesetzt werden können; @GuruVerseX fragt, ob Tweets zuerst als nicht vertrauenswürdige Eingaben markiert werden. Solange diese beiden Fragen nicht klar beantwortet sind, ist Greyboxing nur ein gut klingender Name.
Was die Sicherheit von KI-Wallets wirklich zuverlässig macht, sind nach wie vor die drei alten Bekannten: Ausgabenlimits, Adressen auf einer Whitelist und eine manuelle Bestätigung bei großen Beträgen. Lasst euch nicht von „dezentralem Konsens zum Schutz vor Injection“ verwirren.
#AI #GenLayer
Zum Hintergrund: Im Mai dieses Jahres versteckte jemand eine Überweisungsanweisung in Morsecode in einem X-Post. Grok entschlüsselte sie und leitete sie an Bankrbot weiter; auf Base wurden daraufhin Coins im Wert von etwa 150.000 bis 200.000 Dollar abgezogen. GenLayer macht daraus eine Geschichte: Mehrere Validatoren schreiben die Eingabe jeweils heimlich um und erzielen dann Konsens – so soll Prompt Injection nicht durchkommen.
Dann schaut man sich die Antworten unter GenLayers Post an:
Am Ende von @langtusg0308s Antwort steht noch wortwörtlich: „Diese bleiben kurz, beschränken sich auf die Punkte des Posts und konzentrieren sich auf GenLayer, ohne wie reine Werbung zu klingen. Verwende“
Der Prompt zum Verfassen der Antworten wurde nicht einmal vollständig gelöscht, bevor er gepostet wurde.
Die drei Antworten von @0xBisex, @bitkeepwallet und @Folloback99 haben jeweils englische Anführungszeichen am Anfang und Ende und klingen exakt gleich – offensichtlich irgendwo kopiert. Randy.base.eths Hauptpost hat 4289 Aufrufe und 21 Reposts. Aussagen wie „Keine einzelnen Fehlerpunkte“ und „Angriffe unmöglich zu trainieren“ sind vollmundiger als ein Auditbericht.
Ein Projekt, das sich gegen KI-Injection schützen soll, lässt seine Werbung von einer ganzen Reihe KI-generierter Antworten tragen – diese Ironie bringt mich den ganzen Tag zum Lachen.
Zur Sache. Eingaben von mehreren Validatoren umschreiben zu lassen, bedeutet im Grunde, weitere Modellfilter hinzuzufügen. Das treibt sowohl Kosten als auch Latenz in die Höhe. Behauptungen wie „unmöglich zu knacken“ werden durch keinerlei öffentlich zugängliche Angriffstests gestützt. Die wirklich treffenden Fragen kamen in den Antworten ausgerechnet von kleinen Accounts: @EMEF0815 fragt, ob Ausgabenlimits unabhängig von Agent-Anweisungen durchgesetzt werden können; @GuruVerseX fragt, ob Tweets zuerst als nicht vertrauenswürdige Eingaben markiert werden. Solange diese beiden Fragen nicht klar beantwortet sind, ist Greyboxing nur ein gut klingender Name.
Was die Sicherheit von KI-Wallets wirklich zuverlässig macht, sind nach wie vor die drei alten Bekannten: Ausgabenlimits, Adressen auf einer Whitelist und eine manuelle Bestätigung bei großen Beträgen. Lasst euch nicht von „dezentralem Konsens zum Schutz vor Injection“ verwirren.
#AI #GenLayer