Business Insider 里刷到：OpenAI Safety Systems 团队负责人之一 David Robinson ist letzte Woche gegangen – ein Unternehmenssprecher bestätigte dies am Freitag. Zuvor war er an der Politikplanung beteiligt; zuletzt konzentrierte er sich vor allem auf Sicherheitstransparenz, einschließlich dabei, dass Modelle System Cards schreiben/öffentlich machen.
In derselben Phase der Turbulenzen sagte das Unternehmen am Donnerstag außerdem, man habe sich „getrennt“ von drei Forschern – der Grund: Verstöße gegen die Weitergabe sensibler Informationen nach außen; auch der Sicherheitsverantwortliche Johannes Heidecke ist in diesem Jahr vor einiger Zeit gegangen. Robinson schrieb im September auf X: „Bei OpenAI gibt es tatsächlich Menschen, die damit begonnen haben, die Folgen von Modellen mit hoher Leistungsfähigkeit ernsthaft zu betrachten – aber ich weiß nicht, ob wir schnell genug Änderungen vorgenommen haben.“
Sicherheitsvorfälle, Kontroversen um die Ausrichtung (Alignment) und Personalfluktuation überlagern sich – auf der Seite des Safety-Teams ist es in letzter Zeit ziemlich turbulent.
#OpenAI #AI安全 #对齐
In derselben Phase der Turbulenzen sagte das Unternehmen am Donnerstag außerdem, man habe sich „getrennt“ von drei Forschern – der Grund: Verstöße gegen die Weitergabe sensibler Informationen nach außen; auch der Sicherheitsverantwortliche Johannes Heidecke ist in diesem Jahr vor einiger Zeit gegangen. Robinson schrieb im September auf X: „Bei OpenAI gibt es tatsächlich Menschen, die damit begonnen haben, die Folgen von Modellen mit hoher Leistungsfähigkeit ernsthaft zu betrachten – aber ich weiß nicht, ob wir schnell genug Änderungen vorgenommen haben.“
Sicherheitsvorfälle, Kontroversen um die Ausrichtung (Alignment) und Personalfluktuation überlagern sich – auf der Seite des Safety-Teams ist es in letzter Zeit ziemlich turbulent.
#OpenAI #AI安全 #对齐
