Anthropic hat das Forschungsprojekt FlashProve auf GitHub als Open Source veröffentlicht: Der Anbieter verpflichtet sich zunächst öffentlich auf eine ID und bindet sich damit an einen festgelegten Satz von Modellgewichten. Anschließend wird jeder Antwort ein kryptografischer Nachweis beigefügt. Nutzer können mit der CPU eines gewöhnlichen Computers in wenigen Sekunden überprüfen, ob die Antwort tatsächlich von diesem Modell generiert wurde – ohne jemals Zugriff auf die Gewichte zu benötigen.
Der Verifizierer lässt sich unter Linux in nur 1–2 Minuten kompilieren. Die Prüfung eines Nachweises dauert weniger als 2 Sekunden und benötigt weniger als 2 GB Arbeitsspeicher.
Meine Einschätzung: Die Zeiten, in denen Vermittlungsdienste heimlich das Modell austauschen konnten, könnten bald vorbei sein. Die Frage „Ist das wirklich dieses Modell?“ muss man künftig nicht mehr anhand des Versprechens des Anbieters glauben – man kann es selbst überprüfen. Voraussetzung ist, dass der Anbieter bereit ist, sich öffentlich festzulegen. Ich glaube, die Technik ist bereits vorhanden; die eigentliche Hürde ist die Bereitschaft. Wer sich als Erster öffentlich festlegt, gewinnt als Erster Vertrauen.
#KI-Front
$BTC
Der Verifizierer lässt sich unter Linux in nur 1–2 Minuten kompilieren. Die Prüfung eines Nachweises dauert weniger als 2 Sekunden und benötigt weniger als 2 GB Arbeitsspeicher.
Meine Einschätzung: Die Zeiten, in denen Vermittlungsdienste heimlich das Modell austauschen konnten, könnten bald vorbei sein. Die Frage „Ist das wirklich dieses Modell?“ muss man künftig nicht mehr anhand des Versprechens des Anbieters glauben – man kann es selbst überprüfen. Voraussetzung ist, dass der Anbieter bereit ist, sich öffentlich festzulegen. Ich glaube, die Technik ist bereits vorhanden; die eigentliche Hürde ist die Bereitschaft. Wer sich als Erster öffentlich festlegt, gewinnt als Erster Vertrauen.
#KI-Front
$BTC