😂😂 Du gibst viel Geld für ein Premium-KI-Modell aus, aber woher weißt du, dass der Anbieter es nicht heimlich durch eine günstigere Alternative ersetzt?

Anthropic hat ein Open-Source-Projekt namens FlashProve vorgestellt, das dieses Problem mit einer Idee aus der Kryptografie angeht: Zero-Knowledge-Beweise (ZKPs).

Das Konzept ist faszinierend! Anbieter erstellen einen eindeutigen Fingerabdruck für ihr Modell, und jede Antwort wird mit einem kryptografischen Nachweis versehen, dass sie genau von diesem Modell erzeugt wurde – ohne das Modell selbst offenzulegen oder zu verlangen, dass Nutzer es unabhängig ausführen.

Noch interessanter: Claude hat bei der Entwicklung des Projekts geholfen! 🤖

Allerdings ist noch ein langer Weg zu gehen. Derzeit decken die Nachweise nur jeweils ein Token ab, und ihre Erzeugung erfordert etwa 70- bis 95-mal mehr Rechenleistung als die Erstellung der Antwort selbst.

Doch wenn diese Einschränkungen überwunden werden, könnte die Überprüfung von KI-Modellen zu einem echten Wendepunkt werden und heimliche Modellwechsel deutlich erschweren. 🚀

#Anthropic #AI #ZeroKnowledgeProofs #Crypto #ArtificialIntelligence