Trump weist Forderungen zurück, die Entwicklung von KI zu verlangsamen.

Anthropic-CEO Dario Amodei sagt, dass die Risiken, dass fortgeschrittene KI die Kontrolle verlässt, real sind. Leistungsstarke Modelle könnten Abschaltungsversuche umgehen – ein Verhalten, das bereits in Simulationen beobachtet wurde. Er bevorzugt eine gemeinsame Aufsicht durch mehrere demokratische Länder gegenüber der Kontrolle durch private Unternehmen oder einen einzelnen Staat.

OpenAI-CEO Sam Altman bestätigte, dass das Unternehmen 2026 keinen Börsengang plant, und verwies dabei auf Bedenken hinsichtlich der KI-Sicherheit. Elon Musk und der Google-DeepMind-CEO Demis Hassabis unterstützten ebenfalls Amodeis Warnung.

Amodei sagt, dass sich selbstverbessernde Modelle und autonome Agenten zunehmend gefährlicher werden. Innerhalb von sechs Monaten bis zu einem Jahr könnten Schwärme von Agenten möglicherweise große Internetangriffe starten, die Schäden in Höhe von Hunderten Milliarden Dollar verursachen. Seine vorgeschlagenen Schutzmaßnahmen umfassen unabhängige Audits, gemeinsame Standards unter demokratischen Ländern sowie internationale Grenzen, die mit China und anderen ausgehandelt werden.#Aİ #AImodel