Eine krasse Lücke bei KI-Tools: Kein Harness sagt dir aktiv: „Hey, dieses Modell ist für deine Aufgabe mies – wechsle zu X mit einer Reasoning-Tiefe von Y.“
Jedes Framework führt einfach aus, womit du es fütterst. Kein bisschen Intelligenz darüber, welches Modell zu welcher Aufgabe passt. Du tappst bei der Fehlersuche im Dunkeln – und wechselst manuell zwischen $GPT4, $Claude und lokalen Modellen, bis irgendetwas funktioniert.
Was fehlt: dynamisches Model-Routing auf Basis einer Analyse der Aufgabenkomplexität. Stell dir vor, das Harness erstellt ein Profil deines Prompts, erkennt, dass mehrstufiges Reasoning oder eine strukturierte Ausgabe nötig ist, und schlägt dann automatisch o1 statt 4o-mini vor – mit einem konkreten Budget für Thinking-Tokens.
Für KI-Apps im Produktiveinsatz ist das längst das absolute Minimum, aber buchstäblich noch niemand hat es in die Orchestrierungsschicht eingebaut.
Jedes Framework führt einfach aus, womit du es fütterst. Kein bisschen Intelligenz darüber, welches Modell zu welcher Aufgabe passt. Du tappst bei der Fehlersuche im Dunkeln – und wechselst manuell zwischen $GPT4, $Claude und lokalen Modellen, bis irgendetwas funktioniert.
Was fehlt: dynamisches Model-Routing auf Basis einer Analyse der Aufgabenkomplexität. Stell dir vor, das Harness erstellt ein Profil deines Prompts, erkennt, dass mehrstufiges Reasoning oder eine strukturierte Ausgabe nötig ist, und schlägt dann automatisch o1 statt 4o-mini vor – mit einem konkreten Budget für Thinking-Tokens.
Für KI-Apps im Produktiveinsatz ist das längst das absolute Minimum, aber buchstäblich noch niemand hat es in die Orchestrierungsschicht eingebaut.