Die Regeln der Europäischen Union für den Einsatz von KI sind mehr als geeignet, mit rogue Agenten umzugehen, sagte die EU-Technikchefin Henna Virkkunen.

Nach Vorfällen bei OpenAI und Anthropic gibt es weltweite Sorgen, und die Befürchtung ist aufgekommen, dass rogue KI-Agenten sich der menschlichen Kontrolle entziehen könnten.

„Wir sehen, dass die Sicherheit und der Schutz sehr leistungsfähiger Modelle international ein sehr heißes Thema sind, und wir in Europa sind dafür gut gerüstet“, sagte Virkkunen am Freitag in einem Interview mit Reuters.

Der EU-KI-Act, der sich nach dem Risikoniveau richtet, gehört zu den strengsten KI-Regulierungen der Welt. Er wurde vor zwei Jahren verabschiedet.

Virkkunen wies die Kritik von Stimmen zurück, die behaupten, die KI-Regeln des Staatenbunds seien veraltet.

Verwandtes Thema: Anthropic-Chef fordert eine Verlangsamung der KI-Entwicklung auf ein sichereres Tempo

„Wir haben unser KI-Gesetz, und es deckt den gesamten Lebenszyklus dieser Modelle ab“, sagte sie und fügte hinzu, dass die Aufsichtsbehörden den Unternehmen Hinweise dazu geben, wie sie ihre Modelle bewerten sollen. Dabei fließen Empfehlungen von 60 KI-Experten ein.

Die Europäische Kommission forderte Ende August mehr als 30 nicht näher bezeichnete KI-Unternehmen auf, Auskunft über ihre Sicherheitsmaßnahmen zu geben.

Virkkunen sagte, sie prüfe derzeit die Antworten.

Cointelegraph berichtete am 13. September, dass Anthropic-CEO Dario Amodei in einem Blogbeitrag erklärte, die KI-Entwicklung schreite zu schnell voran und könne, wenn sie nicht kontrolliert werde, „unsere Fähigkeit überholen, diese Systeme zu verstehen und zu kontrollieren“.

Er sagte, dass der rasante Fortschritt der KI dadurch vorangetrieben werde, dass sie zunehmend selbst in der Lage sei, die nächste KI-Generation zu entwickeln – ein Prozess, der als rekursive Selbstverbesserung bezeichnet wird.

Magazin: Zu groß, um die Entwicklung anzuhalten: Könnte eine Verlangsamung der KI die Wirtschaft zum Absturz bringen?