Letzte Woche bin ich ernsthaft losgegangen. Ich bin nicht mehr in irgendeinem Datenpool „geparkt“ und habe auch nicht weiter Governance-Abstimmungen verfolgt. Stattdessen habe ich mir in dem @OpenLedger - OpenLoRA-Framework eine kleine Portion GPU-Rechenleistung gemietet und wollte damit erst mal einen Schwung Batch-Inferenztests machen. Das war kein so ein Spielzeugtest für einen einzelnen Aufruf, sondern drei Tage am Stück liefen Skripte durch. Mit einem kleinen Modell, das ich selbst feinabgestimmt habe, habe ich ungefähr 20.000 Texte verarbeitet. Ich wollte sehen, ob diese angeblich dezentrale Inferenz-Infrastruktur für normale Spieler wirklich benutzerfreundlich ist. Nach drei Tagen kam die Rechnung, ich starrte auf diese Zahl und habe dabei fast eine halbe Zigarette durchgezogen. Die Miete zusammen hat gereicht, um auf dem Gebrauchtmarkt eine GTX 1660 zu bekommen.

Zuerst rechne ich alles im Detail durch. Die Abrechnung von OpenLoRA besteht aus drei Teilen: der Stundengebühr für die Basis-GPU, einem Aufschlag für die attributbasierte Verifikationsprüfung pro tausend Inferenzaufrufen sowie einer Gebühr für den ausgehenden Traffic. Die Stundengebühr wirkt zwar nicht teuer und liegt etwa zwanzig Prozent unter den Preisen zentralisierter Cloud-Anbieter, aber sobald die Anzahl der Inferenzaufrufe steigt, wird der Aufschlag für die Verifikationsprüfung pro Aufruf zur undichten Wasserleitung, die ständig weiterläuft. Ich habe meine 20.000 Texte in über 400 kleine Mini-Batches aufgeteilt; für jeden Batch muss ich den attributbasierten Verifikationsvertrag einzeln auslösen. Am Ende macht allein dieser Aufschlag schon ungefähr die Hälfte der gesamten Miete aus. Wenn ich am Schluss alles zusammenrechne, ist die durchschnittliche Gesamtkosten pro Inferenz bei OpenLoRA etwa sechsmal so hoch wie wenn ich mit meinem eigenen kaputten Laptop lokal inferiere.

Ich habe nicht erst gerechnet, dann losgelegt—ich wollte die Wirtschaftlichkeit dieser Infrastruktur aus erster Hand erleben. Das Ergebnis ist ziemlich eindeutig: In dieser Phase ist die technische Architektur von OpenLoRA zwar fortschrittlich, weil sich mit einem Multi-Tenant-Setup das Backbone-Modell effizient teilen lässt und die GPU-Auslastung sehr hoch wird. Aber der für die attributbasierte Verifikation entwickelte schrittweise Verifikationsprozess ist für Nutzer von Batch-Inferenzen eine schwere Last. Wenn du Transparenz und Nachvollziehbarkeit willst, musst du für jede einzelne Inferenz jeweils ein eigenes On-Chain-Belegstück hinterlegen. Dieser Beleg ist nicht kostenlos—er wird in den Preis pro Bestellung eingerechnet.

Ich habe extra nachgeschaut, wie einige große Kunden im selben Zeitraum ihre Aufrufe strukturieren. Sie machen auch Batch-Inferenz, aber ihr Ansatz ist, die Verifikations-Batches zu bündeln: Mit komplexeren Vertrag-Interaktionen wird einmalig eine große Menge an Proben verifiziert, wodurch der Aufschlag pro Einzelaufruf praktisch vernachlässigbar klein wird. Ich habe einen Freund gefragt, der sich mit Contracts auskennt, und erst dadurch habe ich verstanden: Dieses BundeIing erfordert eine kundenspezifische Entwicklung auf Code-Ebene; das kann ein normaler Nutzer nicht einfach über ein paar Klicks in einer GUI-Oberfläche umsetzen. Kurz gesagt: Der kostensparende Weg ist für Organisationen vorbereitet, für Einzelpersonen bleibt nur, die Standardtarife hart durchzuziehen.

Nachdem ich die GPU, die ich in der Cloud gemietet hatte, wieder zurückgegeben hatte, habe ich die Kosten für diese drei Tage ausgerechnet. $OPEN Wenn ich das Geld stattdessen direkt in sofort verfügbare Ware investiert und es einfach im Wallet gelassen hätte, würde ich mit ein paar kurzfristigen Trades basierend auf der aktuellen Volatilität viel höhere Erfolgschancen haben, das Geld zurückzuverdienen—als darauf zu setzen, mit diesen Inferenz-Ergebnissen Inhalte zu monetarisieren. Aber ich bereue den Versuch nicht, denn jetzt kenne ich endlich die echten Kostenstrukturen dieses Systems. Es ist nicht dafür gedacht, damit massenhaft Produktion zu fahren. Es ist dafür gebaut, hochweriige Inferenz auszuführen, bei der ein On-Chain-Nachweis gebraucht wird. Wenn dein Anwendungsfall die Attribution-Verifikation nicht stark benötigt, ist das Preis-Leistungs-Verhältnis heute deutlich schlechter als bei lokalem Run oder einem traditionellen Cloud-Dienst.

Selbst wenn die Miner-Gebühren bei Bitcoin und Ethereum noch teurer wären: Wenn du einmal bezahlt hast, wird die Transaktion wenigstens bestätigt—alles ist klar und nachvollziehbar. #OpenLedger Hier zahlst du die GPU-Stundengebühr, den Verifikationsaufschlag und die Traffic-Gebühr. Am Ende ist das Ergebnis identisch mit dem, was du lokal inferierst, nur dass du zusätzlich noch einen On-Chain-Nachweis bekommst. Ob sich diese Differenz lohnt, hängt davon ab, ob du überhaupt jemandem gegenüber nachweisen musst, welche Daten du für deine Inferenz verwendet hast. Wenn du das nicht brauchst, dann gib dieses Geld nicht für so eine unnötige Ausgabe aus. Ich gehe OpenLoRA aktuell nur dann, wenn Kunden ausdrücklich eine Nachverfolgbarkeit der Datenquellen verlangen; ansonsten nehme ich wie gewohnt meinen eigenen kaputten Laptop und mache die Inferenz lokal. Das gesparte $OPEN hebe ich auf, um später den nächsten passenden Kaufzeitpunkt zu nutzen.