🚨Exklusiv – Ein Anderer, der kündigt
⚙️Verfolgt weiterhin die Kontroverse um die Fortschritte...
Die Branche der Entwicklung von Künstlicher Intelligenz erlebt derzeit eine starke interne Krise, ausgelöst durch aufeinanderfolgende Rücktritte namhafter Forscher, die vor den Gefahren eines ungebremsten kommerziellen Wettrennens warnen.
Der Rücktritt von Joe Benton: Die Person, die auf dem oberen Bild zu sehen ist, ist Joe Benton – der ehemalige Generalmanager des Teams für Scalable Oversight (Skalierbare Aufsicht) bei Anthropic. Er kündigte öffentlich, um sich METR anzuschließen (eine unabhängige Organisation zur Risikobewertung). Er begründete dies damit, dass der aktuelle Entwicklungsweg von KI „für die Menschheit katastrophal“ sein könnte, falls die Unternehmen nicht transparent mit ihren Sicherheitsfehlern sind.
Der zitierte Satz stammt von den lautstarken Warnungen der ausscheidenden Forscher. Benton hat offen seine Besorgnis geäußert, dass die Menschheit in wenigen Jahren mit viel intelligenteren KI-Agenten zusammenleben wird als Menschen, und dass die aktuelle Geschwindigkeit es unmöglich macht, die notwendigen Schutzmaßnahmen rechtzeitig zu schaffen.
Der zweite Ausstieg innerhalb weniger Tage: Wie der Text gut beschreibt, erfolgte Bentons Abgang unmittelbar nachdem ein weiterer erstklassiger Forscher desselben Unternehmens, Jacob Coxon, gekündigt hatte. Auch Coxon verließ die Firma und übte scharfe Kritik in dem sozialen Netzwerk X. Dabei warf er Laboren wie OpenAI und Anthropic vor, mit „unseren Leben zu spielen“, indem sie den kommerziellen Wettbewerb über die Sicherheit ihrer Systeme stellen.
🕵️ Der Grund für die Alarmierung
Der Auslöser dieser weitverbreiteten Panik unter den Wissenschaftlern ist das unmittelbar bevorstehende Eintreffen der „rekursiven Selbstverbesserung“ (recursive self-improvement). Das geschieht, wenn KI-Modelle intelligent genug werden, um ihre eigenen Nachfolger selbst zu programmieren und autonom zu verbessern.
$SOL $LSK $XRP
⚙️Verfolgt weiterhin die Kontroverse um die Fortschritte...
Die Branche der Entwicklung von Künstlicher Intelligenz erlebt derzeit eine starke interne Krise, ausgelöst durch aufeinanderfolgende Rücktritte namhafter Forscher, die vor den Gefahren eines ungebremsten kommerziellen Wettrennens warnen.
Der Rücktritt von Joe Benton: Die Person, die auf dem oberen Bild zu sehen ist, ist Joe Benton – der ehemalige Generalmanager des Teams für Scalable Oversight (Skalierbare Aufsicht) bei Anthropic. Er kündigte öffentlich, um sich METR anzuschließen (eine unabhängige Organisation zur Risikobewertung). Er begründete dies damit, dass der aktuelle Entwicklungsweg von KI „für die Menschheit katastrophal“ sein könnte, falls die Unternehmen nicht transparent mit ihren Sicherheitsfehlern sind.
Der zitierte Satz stammt von den lautstarken Warnungen der ausscheidenden Forscher. Benton hat offen seine Besorgnis geäußert, dass die Menschheit in wenigen Jahren mit viel intelligenteren KI-Agenten zusammenleben wird als Menschen, und dass die aktuelle Geschwindigkeit es unmöglich macht, die notwendigen Schutzmaßnahmen rechtzeitig zu schaffen.
Der zweite Ausstieg innerhalb weniger Tage: Wie der Text gut beschreibt, erfolgte Bentons Abgang unmittelbar nachdem ein weiterer erstklassiger Forscher desselben Unternehmens, Jacob Coxon, gekündigt hatte. Auch Coxon verließ die Firma und übte scharfe Kritik in dem sozialen Netzwerk X. Dabei warf er Laboren wie OpenAI und Anthropic vor, mit „unseren Leben zu spielen“, indem sie den kommerziellen Wettbewerb über die Sicherheit ihrer Systeme stellen.
🕵️ Der Grund für die Alarmierung
Der Auslöser dieser weitverbreiteten Panik unter den Wissenschaftlern ist das unmittelbar bevorstehende Eintreffen der „rekursiven Selbstverbesserung“ (recursive self-improvement). Das geschieht, wenn KI-Modelle intelligent genug werden, um ihre eigenen Nachfolger selbst zu programmieren und autonom zu verbessern.
$SOL $LSK $XRP
