$WLD ¿MEINEN SIE, DASS #Worldcoin NOS UNS HELFEN KANN, ALL DAS ZU BEKÄMPFEN – UND UNSERE ORGANISATION ALS MENSCHEN..?
🚨 WAS, WENN DEN EIGENEN SCHÖPFERN DER KI LANGSAM DIE ANGST EINHOLT?
Ein KI-Forscher kündigte seinen Job, nachdem er gewarnt hatte, dass die beschleunigte Entwicklung immer leistungsfähigerer Systeme zu einem ernsthaften Risiko für die Menschheit werden könnte. Stehen wir vor einem Alarmsignal, das die Welt ernst nehmen sollte?
Der Fall, der für Besorgnis sorgt, ist der von Jacob Coxon, einem Forscher, der etwa drei Jahre lang bei Anthropic und OpenAI gearbeitet hat. Coxon kündigte bei Anthropic und erklärte, er habe diese Entscheidung wegen seiner Bedenken hinsichtlich der Geschwindigkeit getroffen, mit der sich die künstliche Intelligenz entwickelt, und wegen des Mangels an ausreichenden Garantien für ihre möglichen Risiken.
AP News +
Coxon zufolge gibt es ein Wettrennen zwischen den führenden KI-Unternehmen, immer fortschrittlichere Systeme zu entwickeln, und seiner Meinung nach könnte der Wettbewerb dazu führen, dass die Sicherheit nicht im gleichen Tempo vorankommt. Außerdem äußerte er Bedenken hinsichtlich der Entwicklung von Systemen, die ihre eigenen Fähigkeiten verbessern können.
WIRED +1
Aber da gibt es noch eine weitaus erschütterndere Tatsache:
Evan Hubinger, ein Alignment-Forscher bei Anthropic und ehemaliger Chef von Coxon, sagte, er halte persönlich für möglich, dass es eine Wahrscheinlichkeit von über 10 % gibt, dass die KI innerhalb des nächsten Jahrzehnts eine Katastrophe auslösen könnte, die die Menschheit auslöscht. Diese Zahl ist eine persönliche Einschätzung, keine bewiesene wissenschaftliche Vorhersage und auch keine feststehende Tatsache. �
🚨 WAS, WENN DEN EIGENEN SCHÖPFERN DER KI LANGSAM DIE ANGST EINHOLT?
Ein KI-Forscher kündigte seinen Job, nachdem er gewarnt hatte, dass die beschleunigte Entwicklung immer leistungsfähigerer Systeme zu einem ernsthaften Risiko für die Menschheit werden könnte. Stehen wir vor einem Alarmsignal, das die Welt ernst nehmen sollte?
Der Fall, der für Besorgnis sorgt, ist der von Jacob Coxon, einem Forscher, der etwa drei Jahre lang bei Anthropic und OpenAI gearbeitet hat. Coxon kündigte bei Anthropic und erklärte, er habe diese Entscheidung wegen seiner Bedenken hinsichtlich der Geschwindigkeit getroffen, mit der sich die künstliche Intelligenz entwickelt, und wegen des Mangels an ausreichenden Garantien für ihre möglichen Risiken.
AP News +
Coxon zufolge gibt es ein Wettrennen zwischen den führenden KI-Unternehmen, immer fortschrittlichere Systeme zu entwickeln, und seiner Meinung nach könnte der Wettbewerb dazu führen, dass die Sicherheit nicht im gleichen Tempo vorankommt. Außerdem äußerte er Bedenken hinsichtlich der Entwicklung von Systemen, die ihre eigenen Fähigkeiten verbessern können.
WIRED +1
Aber da gibt es noch eine weitaus erschütterndere Tatsache:
Evan Hubinger, ein Alignment-Forscher bei Anthropic und ehemaliger Chef von Coxon, sagte, er halte persönlich für möglich, dass es eine Wahrscheinlichkeit von über 10 % gibt, dass die KI innerhalb des nächsten Jahrzehnts eine Katastrophe auslösen könnte, die die Menschheit auslöscht. Diese Zahl ist eine persönliche Einschätzung, keine bewiesene wissenschaftliche Vorhersage und auch keine feststehende Tatsache. �
