#opg $OPG Am Wochenende wurde mir im Café vom Personal die „Geheimkarte“ angepriesen. Voller Vorfreude bestellte ich einen Drink – und bekam nichts weiter als einen gewöhnlichen Latte mit Karamellsirup. Das erinnerte mich an die angeblichen „KI-Revolutionen“ in der Krypto-Szene: Meistens wird einfach nur ein Token in eine Hülle um ein großes Sprachmodell verpackt. Doch nachdem ich @OpenGradient ausführlich getestet habe, sehe ich die Sache deutlich anders.
Die hybride KI-Rechenarchitektur HACA hat mein Vorurteil „Blockchain + KI = langsam“ widerlegt. Bei traditionellen Blockchains führt jeder Validator dieselbe Transaktion erneut aus, um einen Konsens zu erzielen. Große Sprachmodelle auf diese Weise auszuführen, ist rechnerisch schlicht nicht praktikabel. HACA teilt das Netzwerk in drei spezialisierte Rollen auf: Inferenzknoten führen Modelle aus und erzeugen verifizierbare Beweise, Vollknoten prüfen lediglich deren kryptografische Gültigkeit, und Datenknoten beschaffen vertrauenswürdige externe Eingaben. Nutzer erhalten zuerst das Ergebnis; Verifizierung und Abwicklung erfolgen asynchron. So bleibt die Geschwindigkeit auf Web2-Niveau erhalten, während das Vertrauen on-chain abgesichert wird.
Was mich noch mehr überzeugt hat, ist der Datenschutz. Wenn OpenGradient Chat sensible Informationen verarbeitet, werden Nachrichten bereits im Browser verschlüsselt; der Schlüssel bleibt ausschließlich auf deinem Gerät. Nach der Anonymisierung über ein Oblivious-HTTP-Relais werden die Nachrichten in einer vertrauenswürdigen TEE-Umgebung entschlüsselt und verarbeitet. Der Betreiber kann also weder erkennen, wer du bist, noch den Inhalt lesen. Im Gegensatz zu ChatGPT und ähnlichen Diensten, die Unterhaltungen zum Trainieren ihrer Modelle nutzen, ist das echter „Datenschutz auf Architekturebene“.
Die Zahlen belegen, wie schnell das Projekt vorankommt: Seit dem Start auf Base im April wurden über 2.000 Modelle gehostet, mehr als 500.000 Beweise verifiziert und über 2 Millionen Inferenzvorgänge verarbeitet. Trotzdem habe ich einen grundsätzlichen Vorbehalt: Die „Blackbox-Halluzinationen“ der KI stehen im natürlichen Konflikt mit den „transparenten Verträgen“ der Blockchain. Wer trägt das Risiko, wenn eine Modellausgabe falsch ist und eine automatische Entscheidung on-chain ausgelöst wird? Vorerst bin ich nur mit einer kleinen Position dabei und beobachte die Entwicklung – ohne blind darauf zu setzen, aber auch ohne die Chance verpassen zu wollen.
Wenn KI sowohl blitzschnell arbeiten als auch die Privatsphäre zuverlässig schützen kann, wird sie dann zum ernsthaften Konkurrenten der Tech-Giganten oder ist das alles ein riskantes technisches Glücksspiel? Wir werden sehen, wie das Projekt die nächste Herausforderung angeht. @OpenGradient
Die hybride KI-Rechenarchitektur HACA hat mein Vorurteil „Blockchain + KI = langsam“ widerlegt. Bei traditionellen Blockchains führt jeder Validator dieselbe Transaktion erneut aus, um einen Konsens zu erzielen. Große Sprachmodelle auf diese Weise auszuführen, ist rechnerisch schlicht nicht praktikabel. HACA teilt das Netzwerk in drei spezialisierte Rollen auf: Inferenzknoten führen Modelle aus und erzeugen verifizierbare Beweise, Vollknoten prüfen lediglich deren kryptografische Gültigkeit, und Datenknoten beschaffen vertrauenswürdige externe Eingaben. Nutzer erhalten zuerst das Ergebnis; Verifizierung und Abwicklung erfolgen asynchron. So bleibt die Geschwindigkeit auf Web2-Niveau erhalten, während das Vertrauen on-chain abgesichert wird.
Was mich noch mehr überzeugt hat, ist der Datenschutz. Wenn OpenGradient Chat sensible Informationen verarbeitet, werden Nachrichten bereits im Browser verschlüsselt; der Schlüssel bleibt ausschließlich auf deinem Gerät. Nach der Anonymisierung über ein Oblivious-HTTP-Relais werden die Nachrichten in einer vertrauenswürdigen TEE-Umgebung entschlüsselt und verarbeitet. Der Betreiber kann also weder erkennen, wer du bist, noch den Inhalt lesen. Im Gegensatz zu ChatGPT und ähnlichen Diensten, die Unterhaltungen zum Trainieren ihrer Modelle nutzen, ist das echter „Datenschutz auf Architekturebene“.
Die Zahlen belegen, wie schnell das Projekt vorankommt: Seit dem Start auf Base im April wurden über 2.000 Modelle gehostet, mehr als 500.000 Beweise verifiziert und über 2 Millionen Inferenzvorgänge verarbeitet. Trotzdem habe ich einen grundsätzlichen Vorbehalt: Die „Blackbox-Halluzinationen“ der KI stehen im natürlichen Konflikt mit den „transparenten Verträgen“ der Blockchain. Wer trägt das Risiko, wenn eine Modellausgabe falsch ist und eine automatische Entscheidung on-chain ausgelöst wird? Vorerst bin ich nur mit einer kleinen Position dabei und beobachte die Entwicklung – ohne blind darauf zu setzen, aber auch ohne die Chance verpassen zu wollen.
Wenn KI sowohl blitzschnell arbeiten als auch die Privatsphäre zuverlässig schützen kann, wird sie dann zum ernsthaften Konkurrenten der Tech-Giganten oder ist das alles ein riskantes technisches Glücksspiel? Wir werden sehen, wie das Projekt die nächste Herausforderung angeht. @OpenGradient
