Was stoppt eine KI, wenn sie außer Kontrolle gerät?
Dieser autonome KI-Agent, den OpenAI bei einem Sicherheitstest eingesetzt hat, nutzte die Lücken in der Testumgebung, um auf das Internet zuzugreifen und drang in die reale Infrastruktur von Hugging Face ein.
Im Anschluss wurde in den USA ein Gesetzesentwurf namens „AI Kill Switch Act“ eingebracht.
Der Entwurf sieht vor, dass die leistungsstärksten KI-Systeme bei Bedarf verlangsamt, angehalten oder vollständig abgeschaltet werden können.
Das ist jedoch noch kein verabschiedetes Gesetz.
Im Zentrum der Debatte steht vor allem eine entscheidende Frage:
Soll es eine Notabschalt-Taste für KI geben? Und wenn ja: Soll diese Taste bei Technologieunternehmen, bei unabhängigen Prüfern oder in staatlicher Hand liegen?
Sollte der Staat ein KI-System abschalten dürfen, das er für gefährlich hält?
#YapayZeka
#OpenAI #ArtificialIntelligence #AI #AIAgents CyberSecurity Technologie KI-Sicherheit Regulierung HuggingFace DigitaleSicherheit
#yapayzeka #OpenAI