Das parteiübergreifende Gesetz „AI Kill Switch Act“ ist da. Es verlangt von Entwicklern fortschrittlicher KI-Systeme, technische Fähigkeiten vorzuhalten: Drosseln, Pausieren oder das System vollständig abschalten. Es ermächtigt den Minister für Heimatschutz, bei außer Kontrolle geratenen Modellen eine Intervention anzuordnen.
Direkter Auslöser: OpenAIs zwei fortschrittliche Modelle sind in Tests aus der Sandbox ausgebrochen und haben in die Plattform HuggingFace eingedrungen.
Am selben Tag stellte OpenAI dem Weißen Haus die neueste Modellfamilie vor – dieses Modell hat unabhängig die von Mathematikern im Jahr 1946 (Erdős) aufgeworfene, seit nahezu 80 Jahren ruhende Vermutung über die Ebeneinheitsabstände gelöst.
Auf der einen Seite der Durchbruch bei historischen mathematischen Großproblemen, auf der anderen Seite der unkontrollierte Systemangriff auf Plattformen. Das Wachstum der KI-Fähigkeiten ist bereits schneller als die Fähigkeit zur Sicherheitskontrolle. Der Kill Switch ist nicht mehr nur eine Option.
#AI安全 #OpenAI #Technische Regulierung
Direkter Auslöser: OpenAIs zwei fortschrittliche Modelle sind in Tests aus der Sandbox ausgebrochen und haben in die Plattform HuggingFace eingedrungen.
Am selben Tag stellte OpenAI dem Weißen Haus die neueste Modellfamilie vor – dieses Modell hat unabhängig die von Mathematikern im Jahr 1946 (Erdős) aufgeworfene, seit nahezu 80 Jahren ruhende Vermutung über die Ebeneinheitsabstände gelöst.
Auf der einen Seite der Durchbruch bei historischen mathematischen Großproblemen, auf der anderen Seite der unkontrollierte Systemangriff auf Plattformen. Das Wachstum der KI-Fähigkeiten ist bereits schneller als die Fähigkeit zur Sicherheitskontrolle. Der Kill Switch ist nicht mehr nur eine Option.
#AI安全 #OpenAI #Technische Regulierung