$WLD Sam Altman deutet eine globale KI-Allianz an, wenn „Rivalen“ an einem Tisch sitzen müssen
Sam Altman machte am Freitag in einem Fortune-Interview eine bemerkenswerte Bemerkung: OpenAI und andere führende KI-Unternehmen könnten schon bald eine Zusammenarbeit ankündigen, um die Entwicklung von KI zu verlangsamen und gemeinsam Sicherheitsrisiken anzugehen.
Auf die Frage, ob er einen gemeinsamen Sicherheitsrahmen mit Dario Amodei (Anthropic), Elon Musk (SpaceX $SPCX ) und Demis Hassabis (Google) plane, sagte Altman: „Ich denke, das wird passieren“, lehnte es jedoch ab, Details zu besprechen, bevor es eine offizielle Ankündigung gibt.
Das kommt kurz nachdem Jacob Coxon, ein Forscher bei Anthropic, gekündigt und beiden Unternehmen vorgeworfen hatte, mit alarmierender Geschwindigkeit auf eine sich selbst weiterentwickelnde Superintelligenz zuzurasen.
Noch bemerkenswerter: Der Leiter der Ausrichtung (Alignment) von Anthropic nannte eine konkrete Zahl: Das Risiko, dass KI in den nächsten 10 Jahren zum menschlichen Aussterben führt, liegt über 10%.
Das ist ein seltener Moment in der KI-Branche, in dem erbitterte Wettbewerber wie OpenAI, Anthropic, Google und SpaceX an denselben Tisch müssen. Der Grund ist einfach: Niemand will der Erste sein, der eine unkontrollierbare AGI entwickelt, und niemand will der Letzte sein, der in diesem Rennen zurückfällt.
Doch es gibt ein grundlegendes Paradox: Wenn alle zustimmen, langsamer zu werden, gewinnt jeder, der aus der Reihe tanzt, einen massiven Vorteil. Und in einem Rennen, in dem der Preis „Superintelligenz“ ist, ist dieser Vorteil nahezu unmöglich zu widerstehen.
Dass die weltweit größten KI-Unternehmen über eine gemeinsame Sicherheitsvereinbarung sprechen, ist ein positives Signal. Aber die eigentliche Frage lautet: Vertrauen sie einander wirklich?
Nachrichten dienen nur zur Information, nicht als Anlageberatung. Bitte lies sorgfältig, bevor du eine Entscheidung triffst.
Sam Altman machte am Freitag in einem Fortune-Interview eine bemerkenswerte Bemerkung: OpenAI und andere führende KI-Unternehmen könnten schon bald eine Zusammenarbeit ankündigen, um die Entwicklung von KI zu verlangsamen und gemeinsam Sicherheitsrisiken anzugehen.
Auf die Frage, ob er einen gemeinsamen Sicherheitsrahmen mit Dario Amodei (Anthropic), Elon Musk (SpaceX $SPCX ) und Demis Hassabis (Google) plane, sagte Altman: „Ich denke, das wird passieren“, lehnte es jedoch ab, Details zu besprechen, bevor es eine offizielle Ankündigung gibt.
Das kommt kurz nachdem Jacob Coxon, ein Forscher bei Anthropic, gekündigt und beiden Unternehmen vorgeworfen hatte, mit alarmierender Geschwindigkeit auf eine sich selbst weiterentwickelnde Superintelligenz zuzurasen.
Noch bemerkenswerter: Der Leiter der Ausrichtung (Alignment) von Anthropic nannte eine konkrete Zahl: Das Risiko, dass KI in den nächsten 10 Jahren zum menschlichen Aussterben führt, liegt über 10%.
Das ist ein seltener Moment in der KI-Branche, in dem erbitterte Wettbewerber wie OpenAI, Anthropic, Google und SpaceX an denselben Tisch müssen. Der Grund ist einfach: Niemand will der Erste sein, der eine unkontrollierbare AGI entwickelt, und niemand will der Letzte sein, der in diesem Rennen zurückfällt.
Doch es gibt ein grundlegendes Paradox: Wenn alle zustimmen, langsamer zu werden, gewinnt jeder, der aus der Reihe tanzt, einen massiven Vorteil. Und in einem Rennen, in dem der Preis „Superintelligenz“ ist, ist dieser Vorteil nahezu unmöglich zu widerstehen.
Dass die weltweit größten KI-Unternehmen über eine gemeinsame Sicherheitsvereinbarung sprechen, ist ein positives Signal. Aber die eigentliche Frage lautet: Vertrauen sie einander wirklich?
Nachrichten dienen nur zur Information, nicht als Anlageberatung. Bitte lies sorgfältig, bevor du eine Entscheidung triffst.
