#opg $OPG a16z投的“verifizierbare KI” – kann man damit wirklich etwas erreichen?
Kürzlich platzen Projekte im Bereich KI+Crypto nur so aus dem Boden, aber ich habe mir vieles angesehen und dabei festgestellt, dass die meisten vor allem von „Visionen“ reden. Bis ich OpenGradient entdeckt habe – den a16z Crypto 2024 Herbst-Accelerator, der rund 9,5 Millionen US-Dollar von a16z und Coinbase eingesammelt hat. Der CEO kommt von Two Sigma als Research Engineer, der CTO war Leiter der AI-Plattform bei Palantir. Das Team ist richtig stark, das Geld ist da. Doch als ich wirklich das Whitepaper gelesen habe, machte sich in mir zunehmend ein unruhiges Gefühl
Kernanalyse: HACA’s „Split“-Design
HACA’s Kernbotschaft lässt sich in einem Satz zusammenfassen – Ausführung und Verifikation werden getrennt und auf unterschiedlichen Time Lines durchgeführt. Die Inferenz- Knoten kümmern sich nur ums Modell laufen lassen; das Ergebnis geht zuerst an den Nutzer zurück. Die Beweise werden danach Schritt für Schritt nachgereicht und von allen Knoten verifiziert.
Dieses Design ist ziemlich clever. In klassischen Blockchains müssen alle Validatoren jede Transaktion erneut ausführen – für KI funktioniert das schlicht nicht. Ein 70B-LLM so auf 100 Knoten je einmal laufen zu lassen, würde die Kosten um das 100-fache erhöhen. HACA trennt den „Fast Path“ vom „Slow Path“: Die Inferenz läuft nicht im Konsens, und die Validierung läuft das Modell nicht erneut.
Drei Verifizierungsmodi im Vergleich
Das Whitepaper zeichnet ein Spektrum vor: Vanilla (keine Verifikation) TEE (Hardware) ZKML (Mathematik)
TEE ist die Standardlösung für LLMs – Hardware-Bürgschaft, der Overhead ist vernachlässigbar. ZKML bietet die stärkste Deterministik, aber der Preis ist eine Leistungseinbuße um den Faktor 1000 bis 10000. Das Whitepaper räumt außerdem selbst ein, dass ZKML nur für „kleine Modelle, High-Value-Szenarien“ geeignet ist. Das Problem ist aber auch die Kompatibilität – ZKML hängt von der EZKL-Bibliothek ab und unterstützt nur ONNX opset 9 bis 18. Modelle, die mit neueren Operatoren trainiert wurden, müssen entweder heruntergestuft werden oder man muss auf ZKML verzichten
Ansicht: Die Richtung stimmt, aber kein Grund für voreiliges FOMO
HACA löst das Engineering-Problem, KI on-chain auszuführen. Aber die Essenz der asynchronen Verifikation ist: Zeit wird gegen Performance getauscht – der Nutzer bekommt zuerst das Ergebnis, und die Verifikation folgt später. Bei DeFi-Clearing oder Hochfrequenz-Transaktionen gilt: Wenn die Inferenzknoten ein falsches Ergebnis zurückgeben und abhauen, ist die Verifikation möglicherweise noch nicht bestanden, aber die Transaktion wurde bereits ausgeführt
OpenGradient hat eine gute Grundlage: Top-Kapital im Rücken, und eine klare technische Roadmap. Doch nachdem ich das Whitepaper durchgearbeitet habe, ist mein größter Eindruck: Diese drei Worte „verifizierbar“ sind derzeit noch immer ein Luxus, der mit einem Preis von „zehntausendfach“ erkauft wird. Die technische Vision ist wunderschön – aber bis normale Nutzer sie wirklich nutzen können, liegen dazwischen unzählige Nächte voller Engineering-Optimierungen. Ich werde sie weiter im Blick behalten, aber vorerst schaue ich erst mal ab@OpenGradient
Kürzlich platzen Projekte im Bereich KI+Crypto nur so aus dem Boden, aber ich habe mir vieles angesehen und dabei festgestellt, dass die meisten vor allem von „Visionen“ reden. Bis ich OpenGradient entdeckt habe – den a16z Crypto 2024 Herbst-Accelerator, der rund 9,5 Millionen US-Dollar von a16z und Coinbase eingesammelt hat. Der CEO kommt von Two Sigma als Research Engineer, der CTO war Leiter der AI-Plattform bei Palantir. Das Team ist richtig stark, das Geld ist da. Doch als ich wirklich das Whitepaper gelesen habe, machte sich in mir zunehmend ein unruhiges Gefühl
Kernanalyse: HACA’s „Split“-Design
HACA’s Kernbotschaft lässt sich in einem Satz zusammenfassen – Ausführung und Verifikation werden getrennt und auf unterschiedlichen Time Lines durchgeführt. Die Inferenz- Knoten kümmern sich nur ums Modell laufen lassen; das Ergebnis geht zuerst an den Nutzer zurück. Die Beweise werden danach Schritt für Schritt nachgereicht und von allen Knoten verifiziert.
Dieses Design ist ziemlich clever. In klassischen Blockchains müssen alle Validatoren jede Transaktion erneut ausführen – für KI funktioniert das schlicht nicht. Ein 70B-LLM so auf 100 Knoten je einmal laufen zu lassen, würde die Kosten um das 100-fache erhöhen. HACA trennt den „Fast Path“ vom „Slow Path“: Die Inferenz läuft nicht im Konsens, und die Validierung läuft das Modell nicht erneut.
Drei Verifizierungsmodi im Vergleich
Das Whitepaper zeichnet ein Spektrum vor: Vanilla (keine Verifikation) TEE (Hardware) ZKML (Mathematik)
TEE ist die Standardlösung für LLMs – Hardware-Bürgschaft, der Overhead ist vernachlässigbar. ZKML bietet die stärkste Deterministik, aber der Preis ist eine Leistungseinbuße um den Faktor 1000 bis 10000. Das Whitepaper räumt außerdem selbst ein, dass ZKML nur für „kleine Modelle, High-Value-Szenarien“ geeignet ist. Das Problem ist aber auch die Kompatibilität – ZKML hängt von der EZKL-Bibliothek ab und unterstützt nur ONNX opset 9 bis 18. Modelle, die mit neueren Operatoren trainiert wurden, müssen entweder heruntergestuft werden oder man muss auf ZKML verzichten
Ansicht: Die Richtung stimmt, aber kein Grund für voreiliges FOMO
HACA löst das Engineering-Problem, KI on-chain auszuführen. Aber die Essenz der asynchronen Verifikation ist: Zeit wird gegen Performance getauscht – der Nutzer bekommt zuerst das Ergebnis, und die Verifikation folgt später. Bei DeFi-Clearing oder Hochfrequenz-Transaktionen gilt: Wenn die Inferenzknoten ein falsches Ergebnis zurückgeben und abhauen, ist die Verifikation möglicherweise noch nicht bestanden, aber die Transaktion wurde bereits ausgeführt
OpenGradient hat eine gute Grundlage: Top-Kapital im Rücken, und eine klare technische Roadmap. Doch nachdem ich das Whitepaper durchgearbeitet habe, ist mein größter Eindruck: Diese drei Worte „verifizierbar“ sind derzeit noch immer ein Luxus, der mit einem Preis von „zehntausendfach“ erkauft wird. Die technische Vision ist wunderschön – aber bis normale Nutzer sie wirklich nutzen können, liegen dazwischen unzählige Nächte voller Engineering-Optimierungen. Ich werde sie weiter im Blick behalten, aber vorerst schaue ich erst mal ab@OpenGradient