Würdest du einer KI vollen Zugriff auf deine Wallet geben? 🛑
Die ehrliche Antwort lautet für die meisten: Nein. Und $AAVE und $SKY gibt es, weil dieser Instinkt meistens richtig ist. Die Frage ist, ob voller Zugriff die einzige Option ist.
Ist er nicht. Und die Alternativen sind der Teil von Agentenprodukten, über den niemand liest.
Ausgabenlimits begrenzen, wie viel eine einzelne Anweisung bewegen kann. Agentenspezifische Schlüssel sorgen dafür, dass das ausführende System nie die Adresse berührt, auf der alles andere liegt. Richtlinien legen fest, welche Aktionen überhaupt erlaubt sind, statt im jeweiligen Moment auf gutes Urteilsvermögen zu vertrauen.
Nichts davon ist neu in der Sicherheitstechnik. So behandelt jedes kompetente System jeden automatisierten Prozess. Neu ist nur, dass der Prozess jetzt Sätze an dich zurückschreibt.
Und genau darin liegt auch das Risiko: Ein System, das sich eloquent erklärt, ist leichter zu vertrauen als eines, das es nicht tut. Eloquenz ist aber keine Kompetenz.
Meine Regel ist einfach: Gib einem Agenten nur so viel Geld, wie du auch bei deiner schlechtesten Anweisung ausgegeben sehen könntest, nicht bei deiner besten. Prüfe, was jede aktivierte Funktion tun darf. Und betrachte alles, was dir seine Grenzen nicht zeigen kann, als grenzenlos.
Die Frage ist nicht, ob man einem Agenten vertrauen sollte. Sondern wie viel Befugnis man delegiert – und dafür gibt es einen Regler, keinen Schalter.
#AI #Security
Die ehrliche Antwort lautet für die meisten: Nein. Und $AAVE und $SKY gibt es, weil dieser Instinkt meistens richtig ist. Die Frage ist, ob voller Zugriff die einzige Option ist.
Ist er nicht. Und die Alternativen sind der Teil von Agentenprodukten, über den niemand liest.
Ausgabenlimits begrenzen, wie viel eine einzelne Anweisung bewegen kann. Agentenspezifische Schlüssel sorgen dafür, dass das ausführende System nie die Adresse berührt, auf der alles andere liegt. Richtlinien legen fest, welche Aktionen überhaupt erlaubt sind, statt im jeweiligen Moment auf gutes Urteilsvermögen zu vertrauen.
Nichts davon ist neu in der Sicherheitstechnik. So behandelt jedes kompetente System jeden automatisierten Prozess. Neu ist nur, dass der Prozess jetzt Sätze an dich zurückschreibt.
Und genau darin liegt auch das Risiko: Ein System, das sich eloquent erklärt, ist leichter zu vertrauen als eines, das es nicht tut. Eloquenz ist aber keine Kompetenz.
Meine Regel ist einfach: Gib einem Agenten nur so viel Geld, wie du auch bei deiner schlechtesten Anweisung ausgegeben sehen könntest, nicht bei deiner besten. Prüfe, was jede aktivierte Funktion tun darf. Und betrachte alles, was dir seine Grenzen nicht zeigen kann, als grenzenlos.
Die Frage ist nicht, ob man einem Agenten vertrauen sollte. Sondern wie viel Befugnis man delegiert – und dafür gibt es einen Regler, keinen Schalter.
#AI #Security