Ich habe gesehen, dass PSU und Duke einen Aufsatz veröffentlicht haben, der untersucht, wie man bei Misserfolgen von Multi-Agent-Systemen automatisch zuordnen kann, wer verantwortlich ist – ganz einfach: Eine Gruppe KI arbeitet zusammen, macht etwas kaputt, aber wessen Schuld ist es wirklich?
Meine erste Reaktion war, laut loszulachen. Ich schreibe seit über zehn Jahren Code und am meisten hasse ich nach einem Vorfall im Betrieb diese „schichtweise Fehlersuche“. Jetzt müssen also auch die KI-Teams das durchleben. Nur können Menschen die Schuld noch mit Mimik und Tonfall hin- und herschieben – zwischen Agenten gibt es nur Logs.
Man sagt, das sei ein entscheidender Bestandteil des Agent-Entwicklungslebenszyklus. Völlig nachvollziehbar. Multi-Agent wird geradezu in den Himmel gelobt: Sogar ein Tool zur Verantwortungszuweisung fehlt noch, aber man geht schon in die Produktion – ist das nicht genau das, was wir damals gemacht haben, als wir quasi nackt上线 gegangen sind?
Meine erste Reaktion war, laut loszulachen. Ich schreibe seit über zehn Jahren Code und am meisten hasse ich nach einem Vorfall im Betrieb diese „schichtweise Fehlersuche“. Jetzt müssen also auch die KI-Teams das durchleben. Nur können Menschen die Schuld noch mit Mimik und Tonfall hin- und herschieben – zwischen Agenten gibt es nur Logs.
Man sagt, das sei ein entscheidender Bestandteil des Agent-Entwicklungslebenszyklus. Völlig nachvollziehbar. Multi-Agent wird geradezu in den Himmel gelobt: Sogar ein Tool zur Verantwortungszuweisung fehlt noch, aber man geht schon in die Produktion – ist das nicht genau das, was wir damals gemacht haben, als wir quasi nackt上线 gegangen sind?