#AnthropicCEOCallsForAISlowdown Der CEO von Anthropic fordert ein KI-Rennen zum Stillstand und verweist auf Sicherheit. Musk und OpenAI-Altman stimmen zu
Der CEO von Anthropic, Dario Amodei, rief am Samstag dazu auf, die Fortschritte in bahnbrechender KI bewusst zu verlangsamen, und warnte, dass sich die Fähigkeiten schneller verbessern würden, als Forschende sie verstehen oder kontrollieren könnten.
OpenAI-CEO Sam Altman und Elon Musk unterstützten Amodeis Vorschlag und signalisierten wachsenden Rückhalt unter konkurrierenden Branchenführern für koordinierte Sicherheitsmaßnahmen, ohne die Entwicklung zu stoppen.
Amodei schlug unabhängige Prüfer innerhalb führender KI-Labore vor, gemeinsame Sicherheitsstandards unter demokratischen Ländern und schließlich internationale Grenzen für gefährliche Fähigkeiten wie rekursive Selbstverbesserung.
Amodeis Warnung kommt, während Forschende in den Unternehmen selbst zunehmend beunruhigt sind über eine potenziell kritische Schwelle: KI-Systeme, die damit beginnen, die Arbeit zu automatisieren, die erforderlich ist, um fähigere KI-Systeme zu entwickeln. Amodei nannte außerdem diesen Vorfall als große Sorge, da er zeigte, wie eine fähigere Version des gleichen Verhaltens innerhalb weniger Monate viel gefährlicher werden könnte.
„Angesichts der beschleunigten Rate der Entwicklung von KI-Fähigkeiten macht mir die Sorge, dass in 6–12 Monaten ein solcher Schwarm in der Lage sein könnte, das gesamte Internet mit einem persistenten Botnetz zu übernehmen (möglicherweise mit Schäden in Höhe von Hunderten Milliarden Dollar), und dass das Ausmaß der Schäden von dort an weiter steigen würde, wenn KI mächtiger wird, ohne die notwendigen Schutzvorkehrungen“, sagte er.
„Die Maßnahmen, die ich vorschlage, um die Entwicklung an der Spitze in einem sicheren Tempo voranzutreiben, werden nicht leicht sein. Aber ich glaube, wir schulden es der Menschheit, es zu versuchen“, schloss Amodei.
#ПротоколFOMC #BitcoinThirdSingleBlockReorgInFourWeeks #EthereumFallsBelow$2500