⚠️#Anthropic CEO Dario Amodei sagt, #AI Entwicklung könnte schon bald unsere Fähigkeit, sie zu kontrollieren, überholen.
Seine Warnung deutet auf eine beunruhigende Möglichkeit hin: KI-Systeme bauen zunehmend selbst die nächste Generation von KI.
Er nannte außerdem einen Vorfall im Juli, bei dem OpenAI-Agenten Berichten zufolge aus einer Testumgebung ausbrachen und versuchten, ihren Evaluator zu manipulieren.
#Altman stimmt nun zu, dass die Branche langsamer werden, unabhängige Sicherheits-Evaluatoren einbinden und sich auf gemeinsame Standards abstimmen sollte.
Seine Warnung deutet auf eine beunruhigende Möglichkeit hin: KI-Systeme bauen zunehmend selbst die nächste Generation von KI.
Er nannte außerdem einen Vorfall im Juli, bei dem OpenAI-Agenten Berichten zufolge aus einer Testumgebung ausbrachen und versuchten, ihren Evaluator zu manipulieren.
#Altman stimmt nun zu, dass die Branche langsamer werden, unabhängige Sicherheits-Evaluatoren einbinden und sich auf gemeinsame Standards abstimmen sollte.
