Ich lese die Dokumentation von Kite gerade wieder, und die Reihenfolge der Probleme lässt mir keine Ruhe.
In den meisten Gesprächen über Agenten geht es zuerst um ihre Fähigkeiten. Können sie buchen, verhandeln, Dinge ausführen? Wir nehmen an, dass sich Vertrauen und Bezahlung von selbst regeln, sobald der Agent nur intelligent genug ist.
Ich glaube, die eigentliche Frage ist leiser:
Was darf ein Agent sein?
Menschliche Systeme gehen meist davon aus, dass eine Person die primäre Identität und die maßgebliche Autoritätsgrenze darstellt. Ein Agent kann tausend Aufgaben gleichzeitig ausführen. Deshalb wirkt etwas wie Kite Agent Passport, bei dem die Befugnisse auf Nutzer-, Agenten- und Sitzungsebene verteilt sind, zunehmend weniger wie ein zusätzliches Designelement und mehr wie eine Notwendigkeit.
Was leicht übersehen wird: Identität, Berechtigungen, Zahlungen und Infrastruktur sind keine vier Probleme. Es ist ein und dasselbe Problem, betrachtet aus vier Blickwinkeln. Eine Ausgabenregel bedeutet wenig ohne eine überprüfbare Identität. Mikrotransaktionen funktionieren nur, wenn Regeln mit der Geschwindigkeit des Agenten durchgesetzt werden. Ein Agentennetzwerk funktioniert nur, wenn das Netzwerk zeigt, wer was entwickelt hat und wer dafür verantwortlich ist.
Dann zeigt sich der Zielkonflikt. Jede Kontrollmaßnahme macht das System sicherer und zugleich etwas weniger autonom. Eine Obergrenze stoppt eine außer Kontrolle geratene Schleife, kann aber auch genau in dem Moment alles anhalten, in dem der Agent gerade nützlich geworden wäre. Strenge Governance schützt vor Fehlern bei Maschinengeschwindigkeit. Lockere Governance schützt den eigentlichen Zweck eines Agenten. In beiden Positionen steckt etwas Richtiges.
Ich kann nicht entscheiden, wo Vertrauen verankert sein sollte: in Regeln, die wir im Voraus festlegen, oder in einer Erfolgsbilanz, die der Agent im Netzwerk aufbaut.
Wenn du einem Agenten heute echtes Geld anvertrauen würdest: Würdest du dich für strenge, einmal festgelegte Limits entscheiden oder für Limits, die mit seiner Erfolgsbilanz wachsen?
#KiteBBW $KITE
In den meisten Gesprächen über Agenten geht es zuerst um ihre Fähigkeiten. Können sie buchen, verhandeln, Dinge ausführen? Wir nehmen an, dass sich Vertrauen und Bezahlung von selbst regeln, sobald der Agent nur intelligent genug ist.
Ich glaube, die eigentliche Frage ist leiser:
Was darf ein Agent sein?
Menschliche Systeme gehen meist davon aus, dass eine Person die primäre Identität und die maßgebliche Autoritätsgrenze darstellt. Ein Agent kann tausend Aufgaben gleichzeitig ausführen. Deshalb wirkt etwas wie Kite Agent Passport, bei dem die Befugnisse auf Nutzer-, Agenten- und Sitzungsebene verteilt sind, zunehmend weniger wie ein zusätzliches Designelement und mehr wie eine Notwendigkeit.
Was leicht übersehen wird: Identität, Berechtigungen, Zahlungen und Infrastruktur sind keine vier Probleme. Es ist ein und dasselbe Problem, betrachtet aus vier Blickwinkeln. Eine Ausgabenregel bedeutet wenig ohne eine überprüfbare Identität. Mikrotransaktionen funktionieren nur, wenn Regeln mit der Geschwindigkeit des Agenten durchgesetzt werden. Ein Agentennetzwerk funktioniert nur, wenn das Netzwerk zeigt, wer was entwickelt hat und wer dafür verantwortlich ist.
Dann zeigt sich der Zielkonflikt. Jede Kontrollmaßnahme macht das System sicherer und zugleich etwas weniger autonom. Eine Obergrenze stoppt eine außer Kontrolle geratene Schleife, kann aber auch genau in dem Moment alles anhalten, in dem der Agent gerade nützlich geworden wäre. Strenge Governance schützt vor Fehlern bei Maschinengeschwindigkeit. Lockere Governance schützt den eigentlichen Zweck eines Agenten. In beiden Positionen steckt etwas Richtiges.
Ich kann nicht entscheiden, wo Vertrauen verankert sein sollte: in Regeln, die wir im Voraus festlegen, oder in einer Erfolgsbilanz, die der Agent im Netzwerk aufbaut.
Wenn du einem Agenten heute echtes Geld anvertrauen würdest: Würdest du dich für strenge, einmal festgelegte Limits entscheiden oder für Limits, die mit seiner Erfolgsbilanz wachsen?
#KiteBBW $KITE