#opg $OPG
Eine seltsame Frage ist mir gekommen, als ich über verifizierbare KI gelesen habe:

Was, wenn die Antwort echt ist, aber der Prompt still und heimlich geändert wurde, bevor das Modell ihn gesehen hat?

Das klingt klein, bis du dir vorstellst, dass ein KI-Agent einen Handel genehmigt, ein Dokument prüft oder eine Entscheidung erklärt, die Geld betrifft.

Eine normale KI-Antwort sagt mir, was zurückkam.

Sie beweist jedoch nicht immer, welche Frage tatsächlich beantwortet wurde.

Hier wird OpenGradient spannender als ein gewöhnliches Chat-Produkt.

Innerhalb von OpenGradient's privatem Inferenzpfad kann die Antwort durch das Enklave über drei Dinge signiert werden: den Request-Hash, den Output-Hash und einen Zeitstempel.

Das bedeutet: Der Client erhält nicht nur eine Antwort.

Er kann prüfen, ob die Antwort mit demselben Prompt verknüpft ist, der ursprünglich gesendet wurde, ob die Ausgabe geändert wurde und ob die Signatur aus der erwarteten, attestierten Umgebung stammt.

Das ist ein deutlich anderes Vertrauensmodell.

Anstatt zu sagen, „Hier ist das Ergebnis, glaub dem Server“, @OpenGradient gibt das System die Möglichkeit zu sagen: „Hier ist das Ergebnis — und hier ist ein kryptografischer Beleg dafür, welche Anfrage es erzeugt hat.“

Ich denke, das ist für Agents am wichtigsten.

Menschen können eine seltsame Antwort eher verzeihen und es erneut versuchen. Aber Agents können sofort handeln. Wenn der Prompt ausgetauscht wird, kann die Aktion nach außen weiterhin gültig aussehen, aber auf der falschen Anweisung basieren.

chat.opengradient.ai macht die Nutzerseite einfach, aber diese Verifikationsschicht ist es, die die Infrastruktur ernsthaft macht.

Würdest du KI-Agents mehr vertrauen, wenn jede Ausgabe beweisen könnte, welcher Prompt sie erzeugt hat?