#苹果发布首款折叠屏手机
Ein Mensch, der drei Jahre lang bei OpenAI und Anthropic vortrainiert hat, hat heute gekündigt.
Nicht wegen des Gehalts, nicht wegen interner Machtkämpfe — sondern weil er glaubt, dass beide Firmen das Leben der gesamten Menschheit aufs Spiel setzen.
Er schreibt sehr zurückhaltend, aber ein paar Sätze, die man immer wieder liest, lassen einen frieren.
Diese Leute geben untereinander alle zu:
Dass uns dieses Ding vielleicht in den nächsten zehn Jahren erledigen wird. Nicht Marketing — sie haben wirklich Angst. Und trotzdem laufen sie weiter.
Bei OpenAI hat das viele nicht wirklich bis ins Herz vorgedrungen: dass „die Zivilisation vielleicht hier enden könnte“. Anthropic ist noch verfahrener — sie verstehen es zwar, sind aber davon überzeugt, dass andere noch unzuverlässiger sind. Also müssen sie selbst zuerst ins Ziel sprinten. So wird „verantwortungsvoll“ zu „ich muss als Erster aufhören, verantwortungsvoll zu sein“.
Der härteste Satz ist: Ein solches Endspiel sollte nicht aus dem Slack eines privaten Unternehmens gestartet werden.
Wir kennen diese Logik zu gut. Andere werden Schaden anrichten, also muss ich erst ein bisschen Schaden anrichten, um „richtig“ anzukommen. Das klingt nach Strategie, aber in der Praxis ist es wie ein kollektives Suizid-Protokoll — nur dass die Unterzeichner in Glasbüros sitzen und glauben, die Variablen lägen noch in ihrer Hand.
Technisch ist es natürlich mächtig. Mächtig genug, um alles zu hacken, eine ganze Branche über Nacht umzuschreiben, und um dann wirklich Ressourcen und Macht in der Hand zu haben. Aber wenn das Ziel vielleicht „keine Menschen mehr“ ist — ist der Satz „Der Fortschritt ist unaufhaltsam“ dann nur noch eine Beschreibung oder schon längst ein Haftungsausschluss?
Am Ende fragt er die Leute im Labor: Wollt ihr wirklich den Knopf drücken, bevor ihr überhaupt verstanden habt, wie dieses Ding denkt und sich dreht?
Diese Frage sollte nicht nur im Labor bleiben.
Wir alle schauen von außerhalb dieser Rennstrecke aus — aber es gibt schon längst kein echtes „draußen“ mehr.
Ein Mensch, der drei Jahre lang bei OpenAI und Anthropic vortrainiert hat, hat heute gekündigt.
Nicht wegen des Gehalts, nicht wegen interner Machtkämpfe — sondern weil er glaubt, dass beide Firmen das Leben der gesamten Menschheit aufs Spiel setzen.
Er schreibt sehr zurückhaltend, aber ein paar Sätze, die man immer wieder liest, lassen einen frieren.
Diese Leute geben untereinander alle zu:
Dass uns dieses Ding vielleicht in den nächsten zehn Jahren erledigen wird. Nicht Marketing — sie haben wirklich Angst. Und trotzdem laufen sie weiter.
Bei OpenAI hat das viele nicht wirklich bis ins Herz vorgedrungen: dass „die Zivilisation vielleicht hier enden könnte“. Anthropic ist noch verfahrener — sie verstehen es zwar, sind aber davon überzeugt, dass andere noch unzuverlässiger sind. Also müssen sie selbst zuerst ins Ziel sprinten. So wird „verantwortungsvoll“ zu „ich muss als Erster aufhören, verantwortungsvoll zu sein“.
Der härteste Satz ist: Ein solches Endspiel sollte nicht aus dem Slack eines privaten Unternehmens gestartet werden.
Wir kennen diese Logik zu gut. Andere werden Schaden anrichten, also muss ich erst ein bisschen Schaden anrichten, um „richtig“ anzukommen. Das klingt nach Strategie, aber in der Praxis ist es wie ein kollektives Suizid-Protokoll — nur dass die Unterzeichner in Glasbüros sitzen und glauben, die Variablen lägen noch in ihrer Hand.
Technisch ist es natürlich mächtig. Mächtig genug, um alles zu hacken, eine ganze Branche über Nacht umzuschreiben, und um dann wirklich Ressourcen und Macht in der Hand zu haben. Aber wenn das Ziel vielleicht „keine Menschen mehr“ ist — ist der Satz „Der Fortschritt ist unaufhaltsam“ dann nur noch eine Beschreibung oder schon längst ein Haftungsausschluss?
Am Ende fragt er die Leute im Labor: Wollt ihr wirklich den Knopf drücken, bevor ihr überhaupt verstanden habt, wie dieses Ding denkt und sich dreht?
Diese Frage sollte nicht nur im Labor bleiben.
Wir alle schauen von außerhalb dieser Rennstrecke aus — aber es gibt schon längst kein echtes „draußen“ mehr.