#opg $OPG @OpenGradient
Vor ein paar Tagen hat mein Internet während eines Videoanrufs kurz versagt.
Der seltsame Teil war nicht der Ausfall. Es war, wie schnell jeder es bemerkte. Niemand brauchte einen Bericht oder eine Quittung. Die Unterbrechung selbst war der Beweis, dass etwas schiefgelaufen war.
Das kam mir immer wieder in den Sinn, während ich über $OPG ansatz zur KI-Verifizierung nachdachte.
Früher dachte ich, dass Verifizierung hauptsächlich darum ging, einen bestehenden Resultat zu beweisen. Das Modell ausführen, den Beweis generieren, beides veröffentlichen. Einfach.
Aber je mehr ich darüber nachdachte, desto wichtiger schien mir die Reihenfolge zu sein.
Im Design von OpenGradient passiert die Ausführung vor der Beweisgenerierung. Zuerst fühlte sich das wie ein kleines Implementierungsdetail an. In letzter Zeit bin ich mir da weniger sicher.
Wenn Benutzer Ausgaben erhalten, bevor die Verifizierung abgeschlossen ist, worauf vertrauen sie genau in dieser Lücke? Vielleicht ist die Verzögerung gering. Vielleicht spielt es die meiste Zeit keine Rolle.
Aber Systeme zeigen sich in der Regel im großen Maßstab, nicht in Demos.
Ich frage mich ständig, wie sich die Anreize ändern, wenn Geschwindigkeit und Verifizierung getrennt sind. Optimieren die Betreiber zuerst für Latenz und dann für Beweise? Was passiert während einer Überlastung? Welche Fehler werden sichtbar und welche bleiben verborgen?
Ich bin mir nicht sicher, ob das Mängel sind. Es könnten einfach die Kosten sein, praktische Verifizierung um reale KI-Arbeitslasten herum aufzubauen.
Vielleicht ist die tiefere Frage nicht, ob eine Ausgabe letztendlich bewiesen werden kann.
Vielleicht ist es, ob Vertrauen durch den Beweis selbst oder durch den Zeitpunkt, zu dem der Beweis ankommt, bestimmt wird.
$SPCXB
Vor ein paar Tagen hat mein Internet während eines Videoanrufs kurz versagt.
Der seltsame Teil war nicht der Ausfall. Es war, wie schnell jeder es bemerkte. Niemand brauchte einen Bericht oder eine Quittung. Die Unterbrechung selbst war der Beweis, dass etwas schiefgelaufen war.
Das kam mir immer wieder in den Sinn, während ich über $OPG ansatz zur KI-Verifizierung nachdachte.
Früher dachte ich, dass Verifizierung hauptsächlich darum ging, einen bestehenden Resultat zu beweisen. Das Modell ausführen, den Beweis generieren, beides veröffentlichen. Einfach.
Aber je mehr ich darüber nachdachte, desto wichtiger schien mir die Reihenfolge zu sein.
Im Design von OpenGradient passiert die Ausführung vor der Beweisgenerierung. Zuerst fühlte sich das wie ein kleines Implementierungsdetail an. In letzter Zeit bin ich mir da weniger sicher.
Wenn Benutzer Ausgaben erhalten, bevor die Verifizierung abgeschlossen ist, worauf vertrauen sie genau in dieser Lücke? Vielleicht ist die Verzögerung gering. Vielleicht spielt es die meiste Zeit keine Rolle.
Aber Systeme zeigen sich in der Regel im großen Maßstab, nicht in Demos.
Ich frage mich ständig, wie sich die Anreize ändern, wenn Geschwindigkeit und Verifizierung getrennt sind. Optimieren die Betreiber zuerst für Latenz und dann für Beweise? Was passiert während einer Überlastung? Welche Fehler werden sichtbar und welche bleiben verborgen?
Ich bin mir nicht sicher, ob das Mängel sind. Es könnten einfach die Kosten sein, praktische Verifizierung um reale KI-Arbeitslasten herum aufzubauen.
Vielleicht ist die tiefere Frage nicht, ob eine Ausgabe letztendlich bewiesen werden kann.
Vielleicht ist es, ob Vertrauen durch den Beweis selbst oder durch den Zeitpunkt, zu dem der Beweis ankommt, bestimmt wird.
$SPCXB