Die Aufgabe ist erledigt. Hab etwas Wasser eingeschenkt. Eine Sache bleibt mir noch im Kopf.
@OpenGradient $OPG #OPG präsentiert sich als Grundlage für vertrauenswürdige Intelligenz – jede Inferenz verifizierbar, jedes Modell prüfbar, der gesamte Stack darauf ausgelegt, KI zu entwickeln, auf die man tatsächlich vertrauen kann. Dieses Pitch hat ganz anders gewirkt, nachdem ich mich in die Model Hub-Dokumentation eingelesen habe.
Der Hub ist ausdrücklich erlaubenlos. Die Dokumentation sagt es direkt: Jeder kann ein Modell hochladen, ohne Gatekeeper und ohne Genehmigungswarteschlangen, sofort verfügbar für Inferenz über das Netzwerk. Über 2.000 Modelle von mehr als 100 Entwicklern sind bereits live. Und das Stück zur Integrität der Ausführung funktioniert wirklich – TEE-Bestätigung oder zkML bestätigt, dass ein bestimmtes hochgeladenes Modell mit bestimmten Eingaben lief und eine spezifische Ausgabe produzierte, alles vor der Abrechnung im Konsens verifiziert. Das Netzwerk hat 4,2 Millionen Blöcke und 1,85 Millionen Transaktionen mit über 500.000 kryptografischen Nachweisen abgewickelt.
Moment mal – aber. Der Nachweis belegt, dass das Modell treu ausgeführt wurde. Es sagt nichts darüber aus, ob das Modell selbst gut gebaut, unvoreingenommen, sicher oder vertrauenswürdig ist. Ein schlecht trainiertes Modell, das erlaubenlos hochgeladen wurde und in einem TEE lief, produziert eine vollständig bestätigte, aber potenziell minderwertige Ausgabe. Die Ausführung ist verifiziert. Die Intelligenz nicht.
Ich habe die Model Hub-Seite immer wieder gelesen und erwartet, dass ich eine Kurationsschicht übersehen habe. Gibt es nicht, aus Design.
Was bedeutet also "vertrauenswürdige Intelligenz" tatsächlich, wenn die Vertrauensgarantie nur für die Ausführung dessen gilt, was jemand hochgeladen hat, nicht für die Qualität oder Herkunft dessen, was hochgeladen wurde?
@OpenGradient $OPG #OPG präsentiert sich als Grundlage für vertrauenswürdige Intelligenz – jede Inferenz verifizierbar, jedes Modell prüfbar, der gesamte Stack darauf ausgelegt, KI zu entwickeln, auf die man tatsächlich vertrauen kann. Dieses Pitch hat ganz anders gewirkt, nachdem ich mich in die Model Hub-Dokumentation eingelesen habe.
Der Hub ist ausdrücklich erlaubenlos. Die Dokumentation sagt es direkt: Jeder kann ein Modell hochladen, ohne Gatekeeper und ohne Genehmigungswarteschlangen, sofort verfügbar für Inferenz über das Netzwerk. Über 2.000 Modelle von mehr als 100 Entwicklern sind bereits live. Und das Stück zur Integrität der Ausführung funktioniert wirklich – TEE-Bestätigung oder zkML bestätigt, dass ein bestimmtes hochgeladenes Modell mit bestimmten Eingaben lief und eine spezifische Ausgabe produzierte, alles vor der Abrechnung im Konsens verifiziert. Das Netzwerk hat 4,2 Millionen Blöcke und 1,85 Millionen Transaktionen mit über 500.000 kryptografischen Nachweisen abgewickelt.
Moment mal – aber. Der Nachweis belegt, dass das Modell treu ausgeführt wurde. Es sagt nichts darüber aus, ob das Modell selbst gut gebaut, unvoreingenommen, sicher oder vertrauenswürdig ist. Ein schlecht trainiertes Modell, das erlaubenlos hochgeladen wurde und in einem TEE lief, produziert eine vollständig bestätigte, aber potenziell minderwertige Ausgabe. Die Ausführung ist verifiziert. Die Intelligenz nicht.
Ich habe die Model Hub-Seite immer wieder gelesen und erwartet, dass ich eine Kurationsschicht übersehen habe. Gibt es nicht, aus Design.
Was bedeutet also "vertrauenswürdige Intelligenz" tatsächlich, wenn die Vertrauensgarantie nur für die Ausführung dessen gilt, was jemand hochgeladen hat, nicht für die Qualität oder Herkunft dessen, was hochgeladen wurde?
