In den letzten zwei Jahren war das Frustrierendste an AI für mich, dass ich die Antworten nie überprüfen konnte, bis ich gesehen habe, dass OpenGradient bei jeder Inferenz einen kryptographischen Beweis ausspuckt. Endlich hat sich jemand getraut, diese Black Box zu öffnen. Ich habe es selbst erlebt. Neulich habe ich mit einem gängigen Modell die Compliance-Kriterien überprüft, die Antwort klang schlüssig, aber als ich ein paar Quellen durchforstet habe, waren zwei von drei eigenen Kreationen. Wenn ich mit einem anderen Account die gleiche Frage stelle, ändert sich die Antwort; das Modell verrät mir nicht, ob es heimlich gewechselt hat. Die Black Box schadet nicht nur der Privatsphäre, sondern auch der Frage, ob die Antworten tatsächlich aus dem Modell stammen, das ich in der Umgebung erwarte. $RE
Um einen Quervergleich zu ziehen: Mainstream-AI ist wie ein Taxi ohne Dashcam; ob der Fahrer Umwege nimmt, hängt ganz von deiner Nachbearbeitung ab. Mit einer Dashcam kannst du jeden Kilometer zurückverfolgen. Was OpenGradient macht, ist, AI mit einer Dashcam auszustatten; bei jeder Inferenz gibt es einen kryptographischen Beweis, wer, welches Modell, in welcher Umgebung, was produziert hat — jeder kann es unabhängig überprüfen, man muss den Angaben des Anbieters nicht glauben.
Früher dachte ich, dass Überprüfbarkeit nur eine Macke von Ingenieuren ist, ohne echten Nutzerwert. Nachdem ich öffentliche Daten durchforstet habe, wurde ich eines Besseren belehrt: Über 2 Millionen verifizierbare Inferenzvorgänge, über 500.000 kryptographische Beweise, die über 2 Millionen Benutzer abdecken — das ist kein Demo, sondern echter Traffic, der bereits gelaufen ist. Verifizierbare AI hat zum ersten Mal ein Niveau für den Endverbraucher erreicht und ist kein zk-Spielzeug mehr aus wissenschaftlichen Arbeiten.
Ich stehe nicht für sie ein. Jeder Beweis hat einen Rechenaufwand; wenn zk auf Milliarden von Inferenzvorgängen hochskaliert wird, ist die Kostenkurve noch nicht gesenkt. Der Beweis kann nur garantieren, dass das Modell tatsächlich gelaufen ist, er übernimmt nicht die Verantwortung dafür, dass das Modell keinen Blödsinn erzählt. Die Black Box ist geöffnet, aber ob darin Betrüger sind, ist eine andere Frage; beim Upgrade des Beweissystems im Testnetz ändert sich die Qualität bestimmter Eigenschaften der alten Version.
Die Dinge, die ich selbst sehen möchte, sind recht klar. Ich möchte sehen, ob die End-to-End-Kosten dieses Beweissystems nach dem Start von OpenGradient auf dem Hauptnetz weiter gesenkt werden können, ich möchte sehen, ob unabhängige Überprüfungstools die gleichen Ergebnisse wie die offiziellen erzielen können und ich möchte sehen, wann eine AI-Anwendung bereit ist, den Hash jedes Outputs direkt an der Frontend für die Benutzer anzuzeigen. Bis diese Punkte nicht erreicht sind, ist es zwar gut, die Black Box zu öffnen, aber was darin ist, muss ich mir auch noch einmal ansehen. $HEI
#opg $OPG @OpenGradient