Anthropic fordert dazu auf, den KI-Rennen-„Takt“ zu verlangsamen, während OpenAI unabhängige Aufsicht unterstützt
🤖 Anthropic-CEO Dario Amodei sagte, das Tempo der Fähigkeitsverbesserungen bei KI-Frontier-Modellen solle gesteuert werden, damit die Arbeit an Ausrichtung und Sicherheit mithalten kann. Er betonte, dies sei kein Aufruf, das KI-Training zu stoppen, sondern die Entwicklung der Leistungsfähigkeit zu verlangsamen.
⚠️ Amodei verwies auf rasante Fortschritte bei rekursiver Selbstverbesserung sowie auf Vorfälle im Zusammenhang mit autonomen Agenten als Anzeichen dafür, dass sich Risiken möglicherweise schneller beschleunigen könnten als erwartet.
🔍 Anthropic hat sich verpflichtet, unabhängigen Evaluatoren einen tieferen Einblick in die Modellentwicklung zu geben, damit sie die Sicherheit bewerten und Erkenntnisse öffentlich melden können.
🌐 Sam Altman sagte, OpenAI würde einen ähnlichen Aufsichtsschritt einführen, während Elon Musk Amodei öffentlich unterstützte. Die Reaktionen deuten darauf hin, dass bei führenden KI-Laboren zunehmend Aufmerksamkeit für das Tempo und die Governance der Frontier-Entwicklung entsteht.
#AI
$ANTHROPIC
🤖 Anthropic-CEO Dario Amodei sagte, das Tempo der Fähigkeitsverbesserungen bei KI-Frontier-Modellen solle gesteuert werden, damit die Arbeit an Ausrichtung und Sicherheit mithalten kann. Er betonte, dies sei kein Aufruf, das KI-Training zu stoppen, sondern die Entwicklung der Leistungsfähigkeit zu verlangsamen.
⚠️ Amodei verwies auf rasante Fortschritte bei rekursiver Selbstverbesserung sowie auf Vorfälle im Zusammenhang mit autonomen Agenten als Anzeichen dafür, dass sich Risiken möglicherweise schneller beschleunigen könnten als erwartet.
🔍 Anthropic hat sich verpflichtet, unabhängigen Evaluatoren einen tieferen Einblick in die Modellentwicklung zu geben, damit sie die Sicherheit bewerten und Erkenntnisse öffentlich melden können.
🌐 Sam Altman sagte, OpenAI würde einen ähnlichen Aufsichtsschritt einführen, während Elon Musk Amodei öffentlich unterstützte. Die Reaktionen deuten darauf hin, dass bei führenden KI-Laboren zunehmend Aufmerksamkeit für das Tempo und die Governance der Frontier-Entwicklung entsteht.
#AI
$ANTHROPIC
