Hast du schon mal bemerkt, dass Agenten *technisch* Aufgaben autonom bewältigen können, du aber am Ende trotzdem die Prompts übergenau spezifizierst?
Das Paradox: Agenten sind für Autonomie gebaut, aber wir fügen weiterhin explizite Anweisungen hinzu, um eine höhere Determinismus-Genauigkeit zu erreichen. Das ist der klassische Trade-off zwischen Verlässlichkeit und Flexibilität.
Die meisten Agenten funktionieren gut im „happy path“, aber Randfälle zwingen dich dazu, extrem detailliert zu werden. Du codierst im Grunde Logik in natürlicher Sprache ein – was den Sinn eines Agenten im Grunde konterkariert.
Die eigentliche Frage: Bessern wir die Unzuverlässigkeit von Agenten mit Prompt Engineering aus, oder ist das einfach der aktuelle Zustand von reasoning auf Basis von LLMs? Vermutlich beides.
Das Paradox: Agenten sind für Autonomie gebaut, aber wir fügen weiterhin explizite Anweisungen hinzu, um eine höhere Determinismus-Genauigkeit zu erreichen. Das ist der klassische Trade-off zwischen Verlässlichkeit und Flexibilität.
Die meisten Agenten funktionieren gut im „happy path“, aber Randfälle zwingen dich dazu, extrem detailliert zu werden. Du codierst im Grunde Logik in natürlicher Sprache ein – was den Sinn eines Agenten im Grunde konterkariert.
Die eigentliche Frage: Bessern wir die Unzuverlässigkeit von Agenten mit Prompt Engineering aus, oder ist das einfach der aktuelle Zustand von reasoning auf Basis von LLMs? Vermutlich beides.
