Man sagt, dass diese Maschine mit einer Wahrscheinlichkeit von einem Zehntel Menschenleben kosten könnte.
Der Mann, der das sagte, heißt Jacob Coxon. Er trat am 10. September bei Anthropic zurück; zuvor war er bei OpenAI. In seinen eigenen Worten: Entwickler von Künstlicher Intelligenz glauben selbst, dass die Wahrscheinlichkeit, dass fortgeschrittene KI die Menschheit innerhalb der nächsten zehn Jahre auslöscht, über zehn Prozent liegt. Auch Evan Hubinger, der in demselben Unternehmen für die Ausrichtung (Alignment) zuständig ist, hat diese Zahl genannt. Zwei Personen, die eine ist bereits gegangen, die andere sitzt noch immer an ihrem Platz.
Die BBC berichtete am 19. September, dass in den Labors mittlerweile mehr Menschen solche Warnungen hören. Ihre Reaktion ist nicht Panik, sondern Lachen. Sie kennen diese Maschine im Grunde besser als die Leute draußen.
Die Zahl „ein Zehntel“ ist gerade deshalb so bemerkenswert, weil sie nirgends konkret greift. Groß genug, um ernsthafte Zurückhaltung auszulösen, klein genug, um es nicht nötig zu machen, heute schon zu gehen. So sagt der eine, was er sagen will, und der andere lacht weiter; die Bewertung steigt ebenfalls weiter. Sobald eine Risikogeschichte zu einem geläufigen Spruch wird, kann sie niemanden mehr aufhalten.
Wenn man Risiken wirklich beurteilen will, ist das Sichtbare nie die Maschine, sondern die Hand, die drückt – und danach die Frage, wer dafür verantwortlich ist. Die paar Firmen auf der Liste – OpenAI, Anthropic, Meta und DeepMind – stehen alle da. Niemand hat als Erster die Maschinen ausgeschaltet. Verantwortung ist etwas, das, wenn man es auf „in zehn Jahren“ verschiebt, im Grunde gleichbedeutend mit „nicht vorhanden“ wird.
Die Leute, die „Der Wolf kommt!“ rufen, glauben den Wolf nicht unbedingt. Die, die lachen, wenn der Wolf kommt, haben möglicherweise auch keine Furcht. Dass in einem Raum niemand als Erster geht, ist wohl die derzeit am häufigsten anzutreffende Art von stiller Ruhe.
Wenn zehn Leute „Gefahr!“ rufen, lachen neun – und am Ende passiert es dem elften.
#AI安全 #Künstliche Intelligenz
Der Mann, der das sagte, heißt Jacob Coxon. Er trat am 10. September bei Anthropic zurück; zuvor war er bei OpenAI. In seinen eigenen Worten: Entwickler von Künstlicher Intelligenz glauben selbst, dass die Wahrscheinlichkeit, dass fortgeschrittene KI die Menschheit innerhalb der nächsten zehn Jahre auslöscht, über zehn Prozent liegt. Auch Evan Hubinger, der in demselben Unternehmen für die Ausrichtung (Alignment) zuständig ist, hat diese Zahl genannt. Zwei Personen, die eine ist bereits gegangen, die andere sitzt noch immer an ihrem Platz.
Die BBC berichtete am 19. September, dass in den Labors mittlerweile mehr Menschen solche Warnungen hören. Ihre Reaktion ist nicht Panik, sondern Lachen. Sie kennen diese Maschine im Grunde besser als die Leute draußen.
Die Zahl „ein Zehntel“ ist gerade deshalb so bemerkenswert, weil sie nirgends konkret greift. Groß genug, um ernsthafte Zurückhaltung auszulösen, klein genug, um es nicht nötig zu machen, heute schon zu gehen. So sagt der eine, was er sagen will, und der andere lacht weiter; die Bewertung steigt ebenfalls weiter. Sobald eine Risikogeschichte zu einem geläufigen Spruch wird, kann sie niemanden mehr aufhalten.
Wenn man Risiken wirklich beurteilen will, ist das Sichtbare nie die Maschine, sondern die Hand, die drückt – und danach die Frage, wer dafür verantwortlich ist. Die paar Firmen auf der Liste – OpenAI, Anthropic, Meta und DeepMind – stehen alle da. Niemand hat als Erster die Maschinen ausgeschaltet. Verantwortung ist etwas, das, wenn man es auf „in zehn Jahren“ verschiebt, im Grunde gleichbedeutend mit „nicht vorhanden“ wird.
Die Leute, die „Der Wolf kommt!“ rufen, glauben den Wolf nicht unbedingt. Die, die lachen, wenn der Wolf kommt, haben möglicherweise auch keine Furcht. Dass in einem Raum niemand als Erster geht, ist wohl die derzeit am häufigsten anzutreffende Art von stiller Ruhe.
Wenn zehn Leute „Gefahr!“ rufen, lachen neun – und am Ende passiert es dem elften.
#AI安全 #Künstliche Intelligenz
