Anthropic fordert, das „Tempo“ im KI-Wettlauf zu drosseln, während OpenAI unabhängige Aufsicht unterstützt
🤖 Anthropic-CEO Dario Amodei sagte, das Tempo von Fähigkeitsverbesserungen bei Frontier-KI-Modellen solle so gesteuert werden, dass die Arbeit an Ausrichtung und Sicherheit Schritt halten kann. Er betonte, dies sei kein Aufruf, KI-Training zu stoppen, sondern die Entwicklung von Fähigkeiten zu verlangsamen.
⚠️ Amodei verwies auf rasante Fortschritte bei rekursiver Selbstverbesserung und auf Vorfälle im Zusammenhang mit autonomen Agenten als Hinweise darauf, dass sich Risiken möglicherweise schneller beschleunigen könnten, als erwartet.
🔍 Anthropic habe sich dazu verpflichtet, unabhängigen Prüfern tieferen Zugang zur Modell-Entwicklung zu geben, damit sie Sicherheitsaspekte bewerten und ihre Erkenntnisse öffentlich berichten können.
🌐 Sam Altman sagte, OpenAI würde einen ähnlichen Aufsichtsschritt einführen, während Elon Musk Amodei öffentlich unterstützte. Die Reaktionen deuten auf eine wachsende Aufmerksamkeit führender KI-Labore für Tempo und Governance der Frontier-Entwicklung hin.
#Aİ $ANTHROPIC
🤖 Anthropic-CEO Dario Amodei sagte, das Tempo von Fähigkeitsverbesserungen bei Frontier-KI-Modellen solle so gesteuert werden, dass die Arbeit an Ausrichtung und Sicherheit Schritt halten kann. Er betonte, dies sei kein Aufruf, KI-Training zu stoppen, sondern die Entwicklung von Fähigkeiten zu verlangsamen.
⚠️ Amodei verwies auf rasante Fortschritte bei rekursiver Selbstverbesserung und auf Vorfälle im Zusammenhang mit autonomen Agenten als Hinweise darauf, dass sich Risiken möglicherweise schneller beschleunigen könnten, als erwartet.
🔍 Anthropic habe sich dazu verpflichtet, unabhängigen Prüfern tieferen Zugang zur Modell-Entwicklung zu geben, damit sie Sicherheitsaspekte bewerten und ihre Erkenntnisse öffentlich berichten können.
🌐 Sam Altman sagte, OpenAI würde einen ähnlichen Aufsichtsschritt einführen, während Elon Musk Amodei öffentlich unterstützte. Die Reaktionen deuten auf eine wachsende Aufmerksamkeit führender KI-Labore für Tempo und Governance der Frontier-Entwicklung hin.
#Aİ $ANTHROPIC
