Der New Yorker Senat bringt ein Gesetz voran, um zu verhindern, dass KI katastrophale Vorfälle verursacht.

Die Gesetzgeber in New York haben ein Gesetz verabschiedet, um Katastrophen, die durch Künstliche Intelligenz verursacht werden, zu begrenzen. Laut dem Gesetz möchte der Bundesstaat verhindern, dass KI-Modelle, die von Firmen wie OpenAI, Google und Anthropic erstellt wurden, zu Katastrophenszenarien beitragen.
Laut dem Gesetz umfassen diese Szenarien den Tod oder die Verletzung von mehr als 100 Personen oder Schäden oder Verluste von mehr als 1 Milliarde Dollar. Das Gesetz, bekannt als RAISE-Gesetz, stellt einen Gewinn für Bewegungen dar, die sich für KI-Sicherheit einsetzen. Diese Bewegungen haben in den letzten Jahren an Schwung verloren, da das Silicon Valley und die Trump-Administration weiterhin Geschwindigkeit und Innovation priorisieren.
Befürworter, die sich auf Sicherheit konzentrieren, darunter der Nobelpreisträger Geoffrey Hinton und der Pionier der KI-Forschung Yoshua Bengio, stehen hinter dem RAISE-Gesetz. Wenn es letztendlich in Kraft tritt, würde das Gesetz die erste Reihe von rechtlich vorgeschriebenen Transparenzstandards für führende Künstliche Intelligenz-Labore in den Vereinigten Staaten von Amerika festlegen.
New York erwägt das RAISE-Gesetz zur Begrenzung von KI-gestützten Katastrophen.
Das RAISE-Gesetz hat einige der gleichen Bestimmungen und Ziele wie das umstrittene Gesetz zur KI-Sicherheit SB 1047 in Kalifornien, das schließlich abgelehnt wurde.
Ein Mitunterzeichner des RAISE-Gesetzes, der New Yorker Senator Andrew Gounardes, erwähnte in einem Interview, dass er das Gesetz so gestaltet hat, dass es die Innovation von Startups oder akademischen Forschern nicht erstickt, eine häufige Kritik, der sich SB 1047 gegenübersah. „Das Zeitfenster, um Schutzmaßnahmen einzuführen, schrumpft schnell, angesichts der Geschwindigkeit, mit der sich diese Technologie entwickelt“, sagte Senator Gounardes.
Der Senator sagte auch, dass die meisten Menschen, die sich gut im KI-Sektor auskennen, diese Risiken ebenfalls erkannt haben, eine Entwicklung, die er als „alarmierend“ bezeichnete. In der Zwischenzeit ist das RAISE-Gesetz jetzt auf dem Weg zum Schreibtisch der New Yorker Gouverneurin Kathy Hochul, wo sie es entweder in Kraft setzen oder zur Überarbeitung zurückschicken kann. Eine weitere Option wäre, dass sie das Gesetz ablehnt, was wahrscheinlich ist.
Wenn es letztendlich in Kraft tritt, wird das RAISE-Gesetz verlangen, dass einige der größten KI-Labors der Welt Sicherheits- und Sicherheitsberichte über ihre fortschrittlichen KI-Modelle veröffentlichen. Das Gesetz verpflichtet die KI-Labors auch, Sicherheitsvorfälle im Zusammenhang mit dem Verhalten von KI-Modellen oder böswilligen Akteuren, die ein KI-Modell stehlen, zu melden, falls dies passiert.
Wenn Technologieunternehmen es versäumen, diese Standards einzuhalten, ermächtigt das RAISE-Gesetz den Generalstaatsanwalt von New York, zivilrechtliche Strafen von bis zu 30 Millionen Dollar gegen sie zu verhängen.
Das RAISE-Gesetz zielt darauf ab, KI-Labors zu regulieren.
Das RAISE-Gesetz wurde entwickelt, um die größten KI-Firmen weltweit zu regulieren, einschließlich der in Kalifornien ansässigen wie OpenAI und Google sowie der in China ansässigen wie DeepSeek und Alibaba. Die Anforderungen des Gesetzes umfassen eine verpflichtende Klausel, die für Unternehmen gilt, die mehr als 100 Millionen Dollar an Rechenressourcen verwendet haben, um ihre KI-Modelle zu trainieren und die für Einwohner in New York verfügbar sind.
Obwohl es in einigen Punkten ähnlich wie SB 1047 ist, behandelt das RAISE-Gesetz einige der vorherigen Gesetze zur KI-Sicherheit.
Zum Beispiel erfordert keine Klausel, dass Entwickler von KI-Modellen einen Not-Aus-Schalter für ihre Modelle haben, noch macht sie Unternehmen, die ihre Modelle nachtrainieren, für kritische Schäden verantwortlich. Dennoch gab es Widerstand gegen das Gesetz in New York, so der Mitunterzeichner des RAISE-Gesetzes, der Mitglied der New Yorker Versammlung Alex Bores. Er nannte den Widerstand nicht überraschend, fügte jedoch hinzu, dass das RAISE-Gesetz die Entwicklungskompetenz von Technologieunternehmen in keiner Weise einschränken wird.
„Das NY RAISE-Gesetz ist ein weiteres dummes, dummes staatliches KI-Gesetz, das die USA nur schädigen wird, zu einem Zeitpunkt, an dem unsere Gegner schneller vorankommen“, sagte der Generalpartner von Andreessen Horowitz, Anjney Midha, in einem Beitrag am Freitag auf X.
Andreessen Horowitz und das Startup-Inkubator Y Combinator waren vehement gegen SB 1047. Darüber hinaus äußerte Anthropic-Mitgründer Jack Clark ebenfalls seine Bedenken über die Breite des RAISE-Gesetzes und merkte an, dass es Risiken für kleinere Firmen darstellen könnte.
Ihre Krypto-Nachrichten verdienen Aufmerksamkeit - KEY Difference Wire bringt Sie auf 250+ Top-Seiten.