Nampaknya Business Insider: Salah satu pimpinan tim Sistem Keamanan OpenAI, David Robinson, mengundurkan diri minggu lalu—dan pihak perusahaan mengonfirmasi pada hari Jumat. Sebelumnya ia menangani perencanaan kebijakan, dan belakangan fokus utamanya adalah keamanan dan transparansi, termasuk membantu model menulis/mempublikasikan system card.
Dalam gelombang gejolak yang sama, pada hari Kamis perusahaan juga mengatakan mereka “berpisah jalan” dengan tiga peneliti, dengan alasan pelanggaran yang membagikan informasi sensitif kepada pihak luar; Kepala keamanan, Johannes Heidecke, juga sudah pergi lebih awal tahun ini. Pada bulan September, Robinson menulis di X: di OpenAI memang ada orang yang mulai serius melihat konsekuensi dari model berkemampuan tinggi, “tapi tidak tahu apakah perubahan yang kita buat cukup cepat.”
Insiden keamanan, perdebatan soal alignment, dan perpindahan personel terjadi berbarengan—dari sisi tim keamanan, belakangan ini cukup sibuk dan berantakan.
#OpenAI #AI安全 #对齐
Dalam gelombang gejolak yang sama, pada hari Kamis perusahaan juga mengatakan mereka “berpisah jalan” dengan tiga peneliti, dengan alasan pelanggaran yang membagikan informasi sensitif kepada pihak luar; Kepala keamanan, Johannes Heidecke, juga sudah pergi lebih awal tahun ini. Pada bulan September, Robinson menulis di X: di OpenAI memang ada orang yang mulai serius melihat konsekuensi dari model berkemampuan tinggi, “tapi tidak tahu apakah perubahan yang kita buat cukup cepat.”
Insiden keamanan, perdebatan soal alignment, dan perpindahan personel terjadi berbarengan—dari sisi tim keamanan, belakangan ini cukup sibuk dan berantakan.
#OpenAI #AI安全 #对齐
