Geschäftsreise im Hotel, nachts kann ich nicht schlafen und will nebenbei fragen, ob ich ein paar Long-Tail-Positionen in meinem Wallet bewegen sollte. In dem Moment, in dem ich das Eingabefeld öffne, ziehe ich die Hand wieder zurück: So etwas in einem öffentlichen Modell laufen zu lassen bedeutet, dass ich meine Bestände einem Backend übertrage, das ich nicht kenne. Also bin ich auf die Private Inference für @OpenGradient umgestiegen. Ich wollte sehen, welche Knoteninformation dort steckt, aber man kann den Inhalt nicht richtig erkennen—wodurch es gestützt wird. $AGLD
Ich habe die gleiche Positionsfrage in fünf unterschiedliche Arten von Prompts zerlegt, habe sie in Private Inference zwei Runden lang laufen lassen, zehn Antworten zusammengezogen und außerdem auf der Knoten-Seite die Request-Metadaten zum Abgleich abgegriffen. Das Ergebnis war ziemlich sauber: Der Knoten sieht nur einen Teil eines verschlüsselten Payloads und ein Routing-Label. Der Klartext, den das Modell bekommt, existiert nur kurz in der TEE-Sandbox, bevor er außerhalb der Enklave wieder gelöscht wird. Die Transitstrecke wurde über Oblivious HTTP geleitet, und die Request-Quelle wurde ebenfalls anonymisiert.
In den öffentlichen Diskussionen über Private Inference bleibt man meistens bei der Nutzerperspektive stehen: „Private Dinge werden nicht ausspioniert“. OpenGradient macht tatsächlich tieferliegende Arbeit: Es verwandelt den ursprünglich naturgemäß zentralisierten Akt der Inferenz in eine Einmalberechnung, die für Knoten und Betreiber nicht sichtbar ist. TEE führt vertrauenswürdig aus, Oblivious HTTP unterbricht die Identität, und die Verification Layer liefert danach einen Nachweis dafür, dass die Ausführung korrekt war. $VELVET
Auch die Kennzahlen habe ich getauscht. Mich interessiert nicht so sehr, wie viele private Dialoge OpenGradient wie oft ausführt; ich schaue auf Daten gegen Konsensbildung: Wie viele Inferenzanfragen verlassen täglich den TEE nie vollständig, und welcher Anteil davon erzeugt öffentlich verifizierbare Empfangsbestätigungen? Das Erste ist Traffic—das Zweite ist der eigentliche Beleg dafür, dass diese Privacy-Chain-Layer wirklich läuft.
Wenn $OPG nur als einmalige Gebühr für die Rechenleistung privater Inferenz dient, ist es eher eine Art verschlüsseltes Bandbreiten-Abrechnungstoken; aber wenn in der Zukunft TEE-Knoten hinterlegt werden, die Privacy-Routing-Schicht, das Ausstellen von Verifizierungsbelegen, Sanktionsmechanismen bei Verstößen und die Entschädigung für die sichere Verwaltung sensibler Daten alles in einem geschlossenen Kreislauf um es herum verknüpft ist, dann ist es nicht mehr nur ein Abrechnungstoken, sondern die Trust-Deposit-Einheit für dieses Netzwerk für Privacy-Computing.
Keine Eile mit Schlussfolgerungen. Privacy-Inferenz ist eine langsame Wachstumsstrecke—und damit die Strecke rund läuft, braucht man lange. Ich möchte weiter beobachten, welche Samples OpenGradient vom Mainnet und die nachfolgenden Integrationspartner herausgeben. #opg