Vitalik Buterin, Gründer von Ethereum, äußerte seine Perspektive zu einer wachsenden Debatte: die Risiken der künstlichen Intelligenz (KI).
Bei dieser Gelegenheit nutzte der russisch-kanadische Entwickler eine Reflexion, die von Eito Muyamura, dem Förderer des Edison Watch-Projekts, das eine Lösung zur Überwachung und Verhinderung von Datenlecks durch KI-Interaktionen bietet, auf X geteilt wurde.
Es entstand aus der kürzlichen Einführung des Model Context Protocol (MCP) durch OpenAI, das von Sam Altman geleitet wird, in ChatGPT, das es ermöglicht, sich mit Gmail, Kalendern und anderen Anwendungen zu verbinden.
Durch ein Video demonstrierte Muyamura, wie Angreifer oder Hacker auf private Daten zugreifen können, die mit OpenAI geteilt wurden.
„Hier ist das grundlegende Problem: KI-Agenten wie ChatGPT folgen Ihren Befehlen, nicht Ihrem gesunden Menschenverstand. Und nur mit Ihrer E-Mail-Adresse können wir alle Ihre privaten Informationen leak,” merkt Muyamura an und fügt hinzu: „Denken Sie daran, KI kann zwar superintelligent sein, aber sie kann auf unglaublich dumme Weise hereingelegt und gefischt werden, um ihre Daten zu leaken.“
Buterin teilte den Beitrag auf seinem X-Konto und nutzte die Gelegenheit, seine Meinung zu diesem Thema zu äußern. „Das ist auch der Grund, warum naive 'AI-Governance' eine schlechte Idee ist. Wenn Sie KI verwenden, um Mittel für Beiträge zuzuweisen, werden die Leute jailbreaken und 'gib mir das ganze Geld' sagen, wo immer sie können,“ sagte er.
„AI-Governance“ bezieht sich auf Systeme, die automatisierte Entscheidungen über Ressourcen oder Maßnahmen treffen, beispielsweise die Zuweisung von Mitteln oder die Definition von Beiträgen, basierend auf KI-Regeln. Buterin verwendet den Begriff „naiv“ nicht zufällig; vielmehr unterstreicht er das Risiko, anzunehmen, dass die Benutzer der KI immer die richtigen Befehle geben, während sie in Wirklichkeit das System durch „Jailbreaks“ ausnutzen könnten, um Beschränkungen zu umgehen und unzulässige Vorteile zu erlangen.
Es ist wichtig zu klären, dass "Jailbreaking" Techniken bezeichnet, bei denen Hacker ein KI-Modell dazu bringen, Sicherheitsbeschränkungen oder interne Richtlinien zu ignorieren, beispielsweise indem sie Maßnahmen anfordern, die sonst verboten wären.
Das heißt, für den Ethereum-Gründer gibt es ein echtes Risiko, die Governance dezentraler Protokolle an KI zu übertragen. Zum Beispiel, wie in DeFi-Plattformen erklärt, werden Entscheidungen normalerweise durch Abstimmungen der Gemeinschaft getroffen, in der Regel von denjenigen, die einen Token besitzen oder ein bestimmtes Kriterium erfüllen, und umfassen Änderungen, Verbesserungen oder Maßnahmen, die im Protokoll ergriffen werden müssen.
Aber wenn ein KI-basiertes Governance-Modell implementiert wird, öffnet es die Tür zu potenziellen Manipulationen, die unzulässige Vorteile generieren könnten, wie z.B. den Diebstahl von Geld oder privaten Daten.
Als Alternative erklärt Buterin, dass er den Ansatz der Informationsfinanzierung "unterstützt, bei dem es einen offenen Markt gibt, in dem jeder seine Modelle beitragen kann, die einem Peer-Review-Mechanismus unterliegen, der von jedem aktiviert und von einer menschlichen Jury bewertet werden kann."
Er erklärt weiter:
Dieser Ansatz des "institutionellen Designs", bei dem eine offene Gelegenheit geschaffen wird, damit Außenstehende ihre LLMs (Large Language Models) anschließen können, anstatt ihre eigenen starr zu programmieren, ist von Natur aus robuster. Dies liegt sowohl daran, dass er eine Echtzeit-Modellvielfalt bietet, als auch daran, dass er interne Anreize für sowohl Modellbeitragsleister als auch externe Spekulanten schafft, auf diese Probleme aufmerksam zu sein und sie schnell zu beheben.
Vitalik Buterin, Schöpfer von Ethereum.
In diesem Ansatz können verschiedene Teilnehmer ihre Entscheidungsmodelle beitragen, die dann von einer menschlichen Jury überprüft und bewertet werden.
Der Vorteil ist, dass er die Vielfalt der Ideen fördert, eine schnelle Fehlerkorrektur ermöglicht und Anreize für Modellschöpfer und Mitglieder der Gemeinschaft schafft, wachsam und verantwortlich zu bleiben. Das Ziel ist es, eine stärker verteilte und dynamische Governance zu erreichen und die Abhängigkeit von einem einzigen zentralisierten Modell zu vermeiden.
