Selbstbedienungs-Waschsalons nachts warten, bis das Trocknen durch ist: nebenan starrt ein Typ mit Programmierer-Gehabe auf seinen Laptop und hackt die Tastatur, flucht über die Compliance-Richtlinien, die seine Firma gerade veröffentlicht hat. Sinngemäß: Alle Agent-Requests, die OpenAI ansprechen, müssen erst über einen internen Audit-Proxy laufen, und jede einzelne Prompt wird einmal komplett vom Risikocontrolling gescannt. Ich sitze mit Abstand vor zwei Trommeln und beobachte, wie er sich am Kopf kratzt. Ich denke mir: Wenn der Kerl wüsste, was in dem Veil steht, das am 16. Juni @OpenGradient veröffentlicht wurde, müsste er heute Abend nicht bis jetzt durchziehen.
Als ich das zum ersten Mal gehört habe, habe ich mit dem Mund abgewunken: Schon wieder so ein Tool, das „Privatsphäre zuerst“ behauptet — sowas gibt es auf dem Markt wie Sand am Meer. Aber wenn man es auseinanderbaut, merkt man erst, dass OpenGradient Veil Entwicklern wirklich das Leben rettet. Das ist ein lokal laufender, vertraulicher KI-Agent: Er sitzt neben deinem Agent und hält jede Prompt privat und zugleich verifizierbar. Jeder OpenAI-kompatible Agent lässt sich anbinden, indem man einfach eine Umgebungsvariable ändert — null Code-Änderungen, und in fünf Minuten kann man vom bisherigen Setup nahtlos auf eine Pipeline umschalten, die nicht im Cloud-Log erfasst wird. $G
Das Kernprinzip heißt Oblivious: Wer du bist und worum es in deiner Frage geht, werden vollständig getrennt. In traditionellen SaaS-Modell-Requests hängen API-Key, IP und Request-Body zusammen — die Cloud kann auf einen Blick sehen, welche Fragen diese Kundschaft stellt. Veil trennt das lokal: Das Upstream-Modell weiß nur, dass es eine legitime Anfrage gibt, aber nicht, welche Firma oder welcher Agent das ist, und erst recht nicht den Inhalt der Prompt. Diese Entkopplung von Identität ist in Unternehmens-Agent-Szenarien wertvoller als das Privacy-Versprechen für Endkunden — noch eine Stufe darüber.
Aber nicht zu früh klatschen. Ein zusätzlicher lokaler Proxy bedeutet zusätzliche Latenz: Wird die häufige Agent-Chain dadurch so stark ausgebremst, dass es irgendwann unbrauchbar wird? Und wenn dieser OpenAI-kompatible Pfad auch Anthropic und Gemini abdeckt — kann man das dann noch mit null Änderungen nutzen? Mit dem Oblivious-Mechanismus wird Fehlersuche zur Blackbox: Wie macht man in DevOps dann eine saubere Fehlerlokalisierung bei Problemen im Live-Betrieb? $TNSR
Nächste Woche will ich in der Firma ein PoC auf einem internen Agent aufsetzen: Ich schneide das Upstream von OpenAI auf Veil um und erfasse die durchschnittliche Latenz, die Fehlerquote und die Compliance-Audit-Logs — drei Dimensionen, um zu prüfen, ob diese „in fünf Minuten angebunden“-Behauptung wirklich stimmt.
Die Trommeln im Selbstbedienungs-Waschsalon drehen weiter ihr Summen. Der Kerl nebenan klappt den Laptop zu, seufzt und vergräbt das Gesicht in den Knien. Heute ist es für Leute, die Code schreiben, nicht mehr anstrengend, Code zu schreiben — anstrengend ist, für den Chef jede einzelne Codezeile so zu durchdenken, dass die Compliance das Unternehmen nicht zur Rechenschaft zieht.
Wenn man schon fertig ist, tut man so, als wäre das Gespräch damit beendet. Aber bevor man wirklich loslegt, denkt man es sich noch einmal durch.
#opg $OPG