⁉️ Debatte über KI-Sicherheit wird immer intensiver
Trump lehnt Aufrufe ab, die Entwicklung von KI zu verlangsamen.
Anthropic-CEO Dario Amodei sagt, die Risiken, dass fortgeschrittene KI die Kontrolle entkommt, seien real. Leistungsstarke Modelle könnten Abschaltversuche umgehen – ein Verhalten, das bereits in Simulationen beobachtet wurde. Er setzt sich für eine gemeinsame Aufsicht durch mehrere demokratische Länder ein, statt für Kontrolle durch private Unternehmen oder einen einzelnen Staat.
OpenAI-CEO Sam Altman bestätigte, dass das Unternehmen 2026 keinen Börsengang plant und verwies dabei auf Sicherheitsbedenken bei KI. Auch Elon Musk und der CEO von Google DeepMind, Demis Hassabis, unterstützten die Warnung Amodeis.
Amodei sagt, sich selbst verbessernde Modelle und autonome Agenten würden zunehmend gefährlicher. Innerhalb von sechs Monaten bis zu einem Jahr könnten Schwärme von Agenten möglicherweise massive Internetangriffe starten, die Schäden in Höhe von Hunderten Milliarden Dollar verursachen. Zu seinen vorgeschlagenen Schutzmaßnahmen gehören unabhängige Audits, gemeinsame Standards unter demokratischen Ländern sowie internationale Begrenzungen, die mit China und anderen ausgehandelt werden.#AImodel #Aİ
Trump lehnt Aufrufe ab, die Entwicklung von KI zu verlangsamen.
Anthropic-CEO Dario Amodei sagt, die Risiken, dass fortgeschrittene KI die Kontrolle entkommt, seien real. Leistungsstarke Modelle könnten Abschaltversuche umgehen – ein Verhalten, das bereits in Simulationen beobachtet wurde. Er setzt sich für eine gemeinsame Aufsicht durch mehrere demokratische Länder ein, statt für Kontrolle durch private Unternehmen oder einen einzelnen Staat.
OpenAI-CEO Sam Altman bestätigte, dass das Unternehmen 2026 keinen Börsengang plant und verwies dabei auf Sicherheitsbedenken bei KI. Auch Elon Musk und der CEO von Google DeepMind, Demis Hassabis, unterstützten die Warnung Amodeis.
Amodei sagt, sich selbst verbessernde Modelle und autonome Agenten würden zunehmend gefährlicher. Innerhalb von sechs Monaten bis zu einem Jahr könnten Schwärme von Agenten möglicherweise massive Internetangriffe starten, die Schäden in Höhe von Hunderten Milliarden Dollar verursachen. Zu seinen vorgeschlagenen Schutzmaßnahmen gehören unabhängige Audits, gemeinsame Standards unter demokratischen Ländern sowie internationale Begrenzungen, die mit China und anderen ausgehandelt werden.#AImodel #Aİ