In den letzten beiden Tagen wurde in der KI-Community viel diskutiert.
Die Richtung hat sich dabei ziemlich deutlich verändert.
Früher riefen vor allem externe Forscher am lautesten vor den größten KI-Risiken. Heute beginnen jedoch sogar mehrere Unternehmen, die an der Spitze der modernsten Modelle arbeiten, von sich aus zu fordern, das Tempo etwas zu drosseln.
Anthropic’s Dario Amodei hat vorgeschlagen, die Entwicklung hochmoderner KI zu kontrollieren, und außerdem empfohlen, dass unabhängige Prüfinstitutionen direkt in die KI-Labore aufgenommen werden, um die Systeme langfristig zu kontrollieren.
Das Ergebnis: Sam Altman hat öffentlich zugestimmt, und auch OpenAI bereitet sich darauf vor, ein ähnliches unabhängiges Evaluierungsmechanismus einzuführen. Musk reagierte ebenfalls direkt: „Dario hat recht“.
Derzeit diskutiert der US-Senat sogar schon neue Regulierungspläne. Demnach müssen KI-Unternehmen nachweisen, dass sie angemessene Maßnahmen ergriffen haben, um schwere Schäden durch Modelle zu verhindern. Außerdem könnte die Regierung möglicherweise das Recht erhalten, die Modelle direkt zu testen.
Das Feinste daran ist genau hier.
Die Menschen weltweit, die am motiviertesten sind, Modelle weiter voranzutreiben, sind nun auch diejenigen, die am häufigsten darüber reden, ob die Entwicklung vielleicht zu schnell ist.
#OpenAI商讨新一轮融资估值约1.2万亿美元 $NVDAB $AAPL.US $AAPLB
Die Richtung hat sich dabei ziemlich deutlich verändert.
Früher riefen vor allem externe Forscher am lautesten vor den größten KI-Risiken. Heute beginnen jedoch sogar mehrere Unternehmen, die an der Spitze der modernsten Modelle arbeiten, von sich aus zu fordern, das Tempo etwas zu drosseln.
Anthropic’s Dario Amodei hat vorgeschlagen, die Entwicklung hochmoderner KI zu kontrollieren, und außerdem empfohlen, dass unabhängige Prüfinstitutionen direkt in die KI-Labore aufgenommen werden, um die Systeme langfristig zu kontrollieren.
Das Ergebnis: Sam Altman hat öffentlich zugestimmt, und auch OpenAI bereitet sich darauf vor, ein ähnliches unabhängiges Evaluierungsmechanismus einzuführen. Musk reagierte ebenfalls direkt: „Dario hat recht“.
Derzeit diskutiert der US-Senat sogar schon neue Regulierungspläne. Demnach müssen KI-Unternehmen nachweisen, dass sie angemessene Maßnahmen ergriffen haben, um schwere Schäden durch Modelle zu verhindern. Außerdem könnte die Regierung möglicherweise das Recht erhalten, die Modelle direkt zu testen.
Das Feinste daran ist genau hier.
Die Menschen weltweit, die am motiviertesten sind, Modelle weiter voranzutreiben, sind nun auch diejenigen, die am häufigsten darüber reden, ob die Entwicklung vielleicht zu schnell ist.
#OpenAI商讨新一轮融资估值约1.2万亿美元 $NVDAB $AAPL.US $AAPLB