Habe letzte Nacht wieder beobachtet, wie einer der Research-Agenten hängen blieb. Er hatte die drei Feeds schon, der Modellaufruf war erledigt, dann kam von der letzten API ein 402 zurück. Einmal erneut versucht. Dann saß er fest. Nur die Warteschlangenleuchte blinkte. Der Mensch war offline, also fror der ganze Auftrag wegen vier Cent ein.
Was mir im Gedächtnis blieb, war, wie sauber der Fehler auftrat. Kein Modellfehler, kein Rate-Limit. Dem Dienst fehlte einfach eine gemeinsame Möglichkeit zu erkennen, dass der Agent bereits ein gültiges Ausgabenlimit seines Besitzers hatte. Jeder muss Identität und Absicht immer noch von Grund auf neu prüfen oder auf einen gemeinsamen Schlüssel zurückgreifen, den niemand im Prompt herumliegen haben will. Bei $kite kommt derselbe Agent zum Zug, sobald die Sitzung gebunden ist: Budget, Kategorie, Ablaufzeit und ein Nachweis, den der Dienst auf einen Schlag auslesen kann. Die API behandelt ihn dann nicht mehr wie irgendein zufälliges Skript. Und ich bekomme keine Benachrichtigung mehr.
Über die Abweichungen mache ich mir allerdings noch Gedanken. Wenn man die Sitzung einrichtet, wirkt sie klar begrenzt. Ein Agent, der anfängt, zwei Schritte in eine andere Richtung zu verhandeln, kann die Freigabe für etwas Ähnliches verbrauchen, bevor die Prüfung greift. Bei den kleinen Durchläufen, die ich gesehen habe, sind die Verifizierungskosten niedrig. Noch ist nicht klar, ob Betreiber diese $kite-Sitzungen offen halten, wenn zwanzig davon gleichzeitig um denselben Endpunkt konkurrieren. Das will ich diese Woche weiter beobachten.
@KITE AI #KiteBBW $KITE
Was mir im Gedächtnis blieb, war, wie sauber der Fehler auftrat. Kein Modellfehler, kein Rate-Limit. Dem Dienst fehlte einfach eine gemeinsame Möglichkeit zu erkennen, dass der Agent bereits ein gültiges Ausgabenlimit seines Besitzers hatte. Jeder muss Identität und Absicht immer noch von Grund auf neu prüfen oder auf einen gemeinsamen Schlüssel zurückgreifen, den niemand im Prompt herumliegen haben will. Bei $kite kommt derselbe Agent zum Zug, sobald die Sitzung gebunden ist: Budget, Kategorie, Ablaufzeit und ein Nachweis, den der Dienst auf einen Schlag auslesen kann. Die API behandelt ihn dann nicht mehr wie irgendein zufälliges Skript. Und ich bekomme keine Benachrichtigung mehr.
Über die Abweichungen mache ich mir allerdings noch Gedanken. Wenn man die Sitzung einrichtet, wirkt sie klar begrenzt. Ein Agent, der anfängt, zwei Schritte in eine andere Richtung zu verhandeln, kann die Freigabe für etwas Ähnliches verbrauchen, bevor die Prüfung greift. Bei den kleinen Durchläufen, die ich gesehen habe, sind die Verifizierungskosten niedrig. Noch ist nicht klar, ob Betreiber diese $kite-Sitzungen offen halten, wenn zwanzig davon gleichzeitig um denselben Endpunkt konkurrieren. Das will ich diese Woche weiter beobachten.
@KITE AI #KiteBBW $KITE
