Das wachsende Zuverlässigkeitsproblem in der künstlichen Intelligenz
In den letzten Jahren ist mir etwas Interessantes an künstlicher Intelligenz aufgefallen. Die Technologie wird unglaublich mächtig, aber gleichzeitig gibt es ein stilles Problem, über das die meisten Menschen nicht genug sprechen. KI kann sehr selbstbewusst wirken, selbst wenn sie falsch ist. Jeder, der moderne KI-Tools verwendet hat, hat wahrscheinlich dies erlebt. Man stellt eine Frage und das System gibt eine klare Antwort, manchmal sogar mit Erklärungen und Verweisen. Aber später merkt man, dass ein Teil der Antwort falsch war.
Dies geschieht, weil die meisten KI-Systeme arbeiten, indem sie das wahrscheinlichste nächste Wort vorhersagen, anstatt Fakten zu beweisen. Sie sind extrem gut darin, Sprache zu erzeugen, die korrekt aussieht, aber das bedeutet nicht, dass die Informationen immer genau sind. Dieses Problem wird oft als 'KI-Halluzination' bezeichnet. Selbst fortschrittliche Modelle produzieren manchmal falsche oder voreingenommene Informationen, was es schwierig macht, ihnen in wichtigen Bereichen wie Finanzen, Bildung, Gesundheitswesen oder Recht zu vertrauen.
Warum Verifizierung wichtiger sein könnte als Intelligenz
Das Konzept von Mira wird verständlicher, wenn man die Art und Weise betrachtet, wie Menschen Informationen bestätigen. In der Wissenschaft kann man kaum eine Behauptung glauben, die von einer Einzelperson aufgestellt wird. Die Aussage wird von anderen Forschern getestet, indem das Experiment reproduziert und die Beweise verifiziert werden. Erst wenn dieser Anspruch immer wieder bewiesen wird, verwandelt er sich in akzeptiertes Wissen.
Mira versucht, einen vergleichbaren Wert auf künstliche Intelligenz zu übertragen. Der Modelloutput eines einzelnen Modells wird im Netzwerk nicht automatisch vertraut. Stattdessen zerlegt es eine KI-Antwort in kleinere Ansprüche, die verifiziert werden können. Diese Aussagen werden dann einer Reihe unabhängiger Modelle oder Verifikationsknoten vorgelegt, die sie einzeln prüfen.
Was an diesem Design interessant ist, ist die Auffassung, dass Wahrheit etwas ist, das aus dem Konsens verschiedener Einstellungen hervorgeht, anstatt etwas zu sein, das zentral interpretiert wird.
Der Zweck der Dezentralisierung des Systems.
Der andere Aspekt, der Mira meiner Meinung nach auszeichnet, ist die Art und Weise, wie die Verifizierung organisiert ist. Das Netzwerk verlässt sich nicht auf ein Unternehmen oder einen zentralen Server, um die Verifizierung durchzuführen, sondern auf eine große Anzahl unabhängiger Teilnehmer. Diese Teilnehmer führen verschiedene KI-Modelle und Ansprüche, die an das Netzwerk gestellt werden, aus.
Diese dezentrale Organisation ist wichtig, da sie die Chancen auf Bevorzugung oder Manipulation ausschließt. Wenn die Verifizierung von einer einzigen Organisation durchgeführt wird, besteht die Möglichkeit, dass sie voreingenommen ist, was akzeptable Antworten angeht. Sobald jedoch die Anzahl der unabhängigen Validatoren groß ist, wird das Ergebnis ausgewogener sein.
Einfach gesagt, Mira versucht, eine Vertrauensschicht mit künstlicher Intelligenz zu etablieren.
Motive, die das System ehrlich machen.
Anreize sind eines der Dinge, die ich nie vernachlässige, wenn ich Krypto-Projekte studiere. Technologie ist kaum ausreichend. Diese Systeme tendieren dazu zu funktionieren, da Individuen bestraft werden, die sich nicht korrekt verhalten.
Mira schlägt ein Token-Anreizsystem vor, das die Validatoren motiviert, die korrekte Verifizierung einzureichen. Stakeholder können Wetten platzieren, um dem Netzwerk beizutreten und eine Belohnung zu erhalten, wenn sie die Verifizierung korrekt durchführen. Falls sie nachlässige oder unwahre Verifizierungen anbieten, kann ein Teil ihres Einsatzes verloren gehen.
Ein weiterer Ansatz zum Denken über KI-Infrastruktur.
Je weniger ich Mira betrachte, desto mehr erscheint es mir als ein Infrastrukturprojekt und nicht als ein weiteres Krypto-Token. Es zielt nicht darauf ab, einen besseren Chatbot oder ein intelligenteres Modell zu schaffen. Vielmehr beschäftigt es sich mit etwas Tieferem: Sicherzustellen, dass KI-Ausgaben glaubwürdig sind.
Mira sucht das Konzept, dass nicht nur die Intelligenz ausreicht. Das, was wir brauchen, ist die Intelligenz, auf die wir uns verlassen können.