#opg $OPG Übers OPG Code – in dieser Nacht ist mein Computer dreimal abgestürzt.
Es war kein Problem mit der Kühlung. In ihren Node-Validierungs-Skripten war eine „selbstverstümmelnde“ Prüfung eingebaut: Bevor der Node das Modell ausführt, muss er erst on-chain beweisen, dass der Gewicht-Hash zu den offiziell registrierten Daten passt. Ich habe versucht, statt Llama 3 einfach eine quantisierte Version zu nehmen und kurz zu tricksen – aber die TEE-Generierung des Beweises brach zur Hälfte direkt mit einem Fehler ab. Nicht mal die Chance auf eine Strafmünze bekam ich; diese Rechenleistung war einfach für ungültig erklärt. Das ist noch härter als das Abschneiden eines Stücks vom Fleisch – im Kern eine „elektronische Geburtsurkunde“ für Inferenz.
Später habe ich verstanden, was HACA mit der Aufteilung von Ausführung und Verifikation bezweckt: Der Node kümmert sich nur ums Ergebnis, der ganze Node-Teil läuft asynchron die zk-Beweise nach. Alltagsaufgaben werden über TEE gegen Hardware-Authentizität abgeklopft; bei entscheidenden Entscheidungen wird die Rechenbilanz mit zkML gezogen. Der Preis dafür war die Konfiguration an jenem Abend: Ich habe mit einer 4090 vier Stunden lang Beweise generiert, und das Netzteil hat so laut gezwitschert, dass der Nachbar an die Tür klopfte. Diese Eintrittsschwelle blockiert die Skript-Heuschrecken, die sonst nur abschöpfen würden – Batch-Beschleunigung aus der Cloud? Schon TEE-Speicher-Authentifizierung reicht, um dich drei Tage lang zu beschäftigen.
Also für die Leute da draußen, die „dezentralisierte AGI“ anpreisen: Vielleicht haben sie die Praxis dieses Netzwerks nicht wirklich angefasst. Bis zu dem Zeitpunkt, an dem ich diese Zeile schreibe, liegen die kumulierten Anfragen im Testnet schon weit über eine Million – aber die Gas-Kosten pro Verifikation, umgerechnet, reichen gerade mal für etwa 50 Durchläufe normaler Inferenz. Je tiefer die Black-Box-Modelle immer weiter „zusammengepresst“ werden, ist das, was OPG liefert, nicht billige Rechenleistung, sondern ein kryptografischer Garant dafür, dass genau diese Schlussfolgerung auch wirklich aus genau jenem Modell herauskommt.
Aber worüber ich mir jetzt Sorgen mache, ist nicht der Kurs. Es sind die Kleinanleger, die die Kosten dieser Verifikation schlicht nicht bezahlen können. Wenn der Beweis teurer ist als die Inferenz selbst – sind diese Fußfesseln dann dazu da, Betrüger einzusperren, oder sperren sie einfach normale Leute draußen vor der Tür? @OpenGradient
Es war kein Problem mit der Kühlung. In ihren Node-Validierungs-Skripten war eine „selbstverstümmelnde“ Prüfung eingebaut: Bevor der Node das Modell ausführt, muss er erst on-chain beweisen, dass der Gewicht-Hash zu den offiziell registrierten Daten passt. Ich habe versucht, statt Llama 3 einfach eine quantisierte Version zu nehmen und kurz zu tricksen – aber die TEE-Generierung des Beweises brach zur Hälfte direkt mit einem Fehler ab. Nicht mal die Chance auf eine Strafmünze bekam ich; diese Rechenleistung war einfach für ungültig erklärt. Das ist noch härter als das Abschneiden eines Stücks vom Fleisch – im Kern eine „elektronische Geburtsurkunde“ für Inferenz.
Später habe ich verstanden, was HACA mit der Aufteilung von Ausführung und Verifikation bezweckt: Der Node kümmert sich nur ums Ergebnis, der ganze Node-Teil läuft asynchron die zk-Beweise nach. Alltagsaufgaben werden über TEE gegen Hardware-Authentizität abgeklopft; bei entscheidenden Entscheidungen wird die Rechenbilanz mit zkML gezogen. Der Preis dafür war die Konfiguration an jenem Abend: Ich habe mit einer 4090 vier Stunden lang Beweise generiert, und das Netzteil hat so laut gezwitschert, dass der Nachbar an die Tür klopfte. Diese Eintrittsschwelle blockiert die Skript-Heuschrecken, die sonst nur abschöpfen würden – Batch-Beschleunigung aus der Cloud? Schon TEE-Speicher-Authentifizierung reicht, um dich drei Tage lang zu beschäftigen.
Also für die Leute da draußen, die „dezentralisierte AGI“ anpreisen: Vielleicht haben sie die Praxis dieses Netzwerks nicht wirklich angefasst. Bis zu dem Zeitpunkt, an dem ich diese Zeile schreibe, liegen die kumulierten Anfragen im Testnet schon weit über eine Million – aber die Gas-Kosten pro Verifikation, umgerechnet, reichen gerade mal für etwa 50 Durchläufe normaler Inferenz. Je tiefer die Black-Box-Modelle immer weiter „zusammengepresst“ werden, ist das, was OPG liefert, nicht billige Rechenleistung, sondern ein kryptografischer Garant dafür, dass genau diese Schlussfolgerung auch wirklich aus genau jenem Modell herauskommt.
Aber worüber ich mir jetzt Sorgen mache, ist nicht der Kurs. Es sind die Kleinanleger, die die Kosten dieser Verifikation schlicht nicht bezahlen können. Wenn der Beweis teurer ist als die Inferenz selbst – sind diese Fußfesseln dann dazu da, Betrüger einzusperren, oder sperren sie einfach normale Leute draußen vor der Tür? @OpenGradient