Was mich an Agenten beunruhigt, ist nicht, dass sie Fehler machen. Sondern dass sie sie stillschweigend machen.
Ein Agent kann einkaufen, Geld überweisen, unterschreiben – und im Protokoll sieht alles gleich aus: erfolgreiche Transaktion. Wie viel er über das Budget hinaus ausgegeben hat, an wen das Geld ging und warum ausgerechnet jetzt – das erfährt man erst, wenn es zu spät ist.
Deshalb würde ich die Qualität eines Agenten nicht an der Zahl der erledigten Aufgaben messen, sondern an der Zahl der Unterbrechungen. Wie oft hat er nicht ohne Erlaubnis gezahlt? Wie oft hat er um Bestätigung einer neuen Adresse gebeten? Wenn es solche Unterbrechungen kein einziges Mal gibt, ist das keine Autonomie, sondern ein offener Wasserhahn.
Autonomie ohne Bremsen ist kein Feature. Sie ist ein Vorfall, der nur noch nicht eingetreten ist. #KiteBBW $KITE @KITE AI 中文
Wie würdet ihr einen Agenten überprüfen: anhand der Zahl erledigter Aufgaben oder der Zahl der Unterbrechungen?
Ein Agent kann einkaufen, Geld überweisen, unterschreiben – und im Protokoll sieht alles gleich aus: erfolgreiche Transaktion. Wie viel er über das Budget hinaus ausgegeben hat, an wen das Geld ging und warum ausgerechnet jetzt – das erfährt man erst, wenn es zu spät ist.
Deshalb würde ich die Qualität eines Agenten nicht an der Zahl der erledigten Aufgaben messen, sondern an der Zahl der Unterbrechungen. Wie oft hat er nicht ohne Erlaubnis gezahlt? Wie oft hat er um Bestätigung einer neuen Adresse gebeten? Wenn es solche Unterbrechungen kein einziges Mal gibt, ist das keine Autonomie, sondern ein offener Wasserhahn.
Autonomie ohne Bremsen ist kein Feature. Sie ist ein Vorfall, der nur noch nicht eingetreten ist. #KiteBBW $KITE @KITE AI 中文
Wie würdet ihr einen Agenten überprüfen: anhand der Zahl erledigter Aufgaben oder der Zahl der Unterbrechungen?