Was der kalifornische KI-Killswitch-Gesetzentwurf für die dezentrale KI bedeutet

In der Branche herrscht geteilte Meinung über den umstrittenen kalifornischen Gesetzentwurf zur künstlichen Intelligenz, der am 28. August verabschiedet wurde.
Die neue Gesetzgebung wird KI-Unternehmen dazu zwingen, neue Sicherheitsprotokolle zu implementieren, darunter einen „Not-Aus“-Knopf für KI-Modelle.
Der kalifornische Senat hat am 28. August mit 29 zu 9 Stimmen das Gesetz „Sichere und sichere Innovationen für bahnbrechende Modelle der künstlichen Intelligenz“ (SB 1047) verabschiedet.
Der Gesetzentwurf geht nun zur Ratifizierung an Gouverneur Gavin Newson.
Elon Musk war einer von denen, die sich für den Gesetzentwurf aussprachen. Auf X sagte er, es sei eine „harte Entscheidung“, aber er befürworte die Gesetzgebung aufgrund des „potenziellen Risikos“ der KI.
Quelle: Elon Musk
Allerdings sind nicht alle Tech-Persönlichkeiten gleichermaßen überzeugt. Jason Kwon, Chief Strategy Officer von OpenAI, ist einer der Kritiker des Gesetzesentwurfs.
Calanthia Mei, Mitbegründerin des dezentralisierten KI-Netzwerks Masa, sagte, sie sei nicht für die neuen Regeln und meinte, diese seien das Ergebnis einer unangemessenen Eile bei der Gesetzgebung.
„Voreilige Regelungen wie diese werden nicht nur Talente aus Kalifornien vertreiben; sie werden Talente aus Amerika vertreiben“, sagte Mei gegenüber Cointelegraph. Sie fügte hinzu:
„Das Risiko besteht darin, dass die aktuellen und geplanten regulatorischen Rahmenbedingungen in Amerika das Wachstum der KI-Branche bremsen könnten.“
Raheel Govindji, der CEO des dezentralen KI-Projekts DecideAI, vertrat eine andere Ansicht.
„Wir sind für eine Gesetzgebung“, sagte Govindji gegenüber Cointelegraph.
Govindji sagte, DecideAI unterstütze einen Killswitch, der von einer dezentralisierten autonomen Organisation (DAO) gesteuert werde. Auf diese Weise wolle man einen Not-Stopp demokratisieren und dezentralisieren.
KI ist eine schnelllebige Branche
Die Schnelllebigkeit der KI-Industrie hat Befürchtungen hinsichtlich ihrer ungebremsten Entwicklung geschürt.
In einem Brief vom 22. August warnten ehemalige Mitarbeiter und Whistleblower von OpenAI: „Die Entwicklung bahnbrechender KI-Modelle ohne angemessene Sicherheitsvorkehrungen birgt vorhersehbare Risiken katastrophaler Schäden für die Öffentlichkeit.“
Andere wiederum betrachten die rasante Entwicklung der KI eher als begrüßenswert und nicht als fürchtenswert.
Neu: Lösungen ohne Probleme: Wie viele Ethereum-Layer 2 sind zu viele?
„Im Gegensatz zu anderen transformativen Technologien ist die Geschwindigkeit der KI-Innovation beispiellos. Entwickler bringen jeden Tag neue Produkte, Funktionen und Anwendungen auf den Markt“, sagte Mei.
„Wir als Entwickler wissen nicht einmal, wo die Obergrenze der KI liegt. Woher soll die Regierung die Obergrenze der KI kennen? Es ist unklug, Technologien mit hohem Potenzial Grenzen zu setzen.“
Mei warnte, dass die Folgen dieser Gesetzgebung letztlich darin bestehen würden, „Talente aus den USA zu vertreiben“, wie es „bei der Kryptowährung der Fall war“.
Die Befürworter
Govindji schlägt vor, dass ein „DAO-gesteuerter Killswitch“ die Anforderungen der Gesetzgebung unterstützen und gleichzeitig eine „kollektive und transparente Entscheidungsfindung“ beibehalten könnte.
In dem Gesetzentwurf heißt es zwar, dass jedes KI-Modell in der Lage sein sollte, „unverzüglich eine vollständige Abschaltung herbeizuführen“, allerdings wird nicht definiert, was „unverzüglich“ bedeutet, sodass erheblicher Interpretationsspielraum bleibt.
Derzeit ist nicht bekannt, ob ein DAO-Modell und sein demokratisches Abstimmungssystem schnell genug wären, um die Gesetzgeber zufriedenzustellen. Govindji ist zuversichtlich, dass dies der Fall sein wird. Laut Govindji wird DecideAI „bei der Bereitstellung von KI, die ein soziales Gut ist, die Nase vorn haben“.
Auch das KI-Unternehmen Anthropic hat den Gesetzentwurf öffentlich unterstützt.
In einem offenen Brief an Gouverneur Newsom sagte Dario Amodei, CEO von Anthropic: „Die Fähigkeiten von KI-Systemen entwickeln sich extrem schnell weiter, was sowohl vielversprechend für die kalifornische Wirtschaft als auch mit erheblichen Risiken verbunden ist. [...] Wir glauben, dass SB 1047, insbesondere nach den jüngsten Änderungen, wahrscheinlich eine machbare Compliance-Belastung für Unternehmen wie das unsere darstellt, angesichts der Bedeutung, einen katastrophalen Missbrauch abzuwenden.“
Eine frühere Version des Gesetzesentwurfs sah strafrechtliche Sanktionen für Unternehmen vor, die sich nicht an die Vorschriften hielten. Nach Konsultationen mit der Industrie wurde diese Bestimmung jedoch abgeschwächt und sieht nun lediglich zivilrechtliche Sanktionen vor.
Gesetzentwurf SB 1047
Der Gesetzentwurf SB 1047 gilt nur für „abgedeckte Modelle“, wobei sich die Definition der abgedeckten Modelle im Laufe der Zeit ändert.
Bei der Implementierung wird es sich bei einem abgedeckten Modell um eine KI handeln, deren Entwicklung über 100 Millionen US-Dollar kostet, oder „ein künstliches Intelligenzmodell, das mit einer Rechenleistung von mehr als 10^26 Ganzzahl- oder Gleitkommaoperationen trainiert wurde.“
Über Änderungen der Rechenleistungsschwelle wird von der Government Operations Agency der Bundesregierung entschieden.
Kürzlich: Fünf Kryptomarktprognosen, die noch nicht eingetroffen sind
In einem Brief an Gouverneur Newsom argumentierte Kwon von OpenAI, dass die Gesetzgebung zur KI nur auf Bundesebene behandelt werden sollte „und nicht als Flickenteppich aus Landesgesetzen“.
Angesichts der überwältigenden Konzentration von Technologie- und KI-Unternehmen in Kalifornien könnte SB 1047 wohl vorerst die de facto nationale Gesetzgebung sein.
Die Situation könnte sich ändern, wenn die Gesetzgebung eine Abwanderung von KI-Unternehmen in andere Bundesstaaten zur Folge hätte. Um SB 1047 jedoch gänzlich zu umgehen, müssten die Unternehmen auch in Kalifornien sämtliche Geschäftstätigkeiten und Dienstleistungen einstellen.