$WLD Dunia pantas mendapatkan keyakinan bahwa perusahaan-perusahaan Amerika yang mengembangkan AI yang kian mumpuni akan bertindak secara bertanggung jawab, terutama karena laju kemajuan telah semakin menanjak. Setiap lab perbatasan harus mewujudkan hal ini, dan tidak ada alasan bagi siapa pun dari kita untuk datang bekerja jika kita tidak bisa melakukannya.
Kami menyambut adanya kerangka kerja federal yang menetapkan persyaratan keselamatan yang konsisten untuk AI perbatasan. Namun, kami tidak percaya bahwa kita perlu menunggu pengecualian anti-trust atau undang-undang untuk mulai menjalankan pekerjaan dalam memberikan keyakinan tersebut. Aturan yang konsisten untuk mengelola risiko pada tingkat perbatasan agar kita dapat memaksimalkan manfaatnya adalah gagasan yang baik (dan kami antusias dengan ide seperti auditor independen).
Bertahun-tahun lalu, perusahaan seperti kami mengembangkan hal-hal seperti Responsible Scaling Policies dan Preparedness Frameworks. Itu baik untuk momen tersebut, dan terutama berfokus pada penerapan model yang telah selesai, bukan pada apa yang terjadi selama proses pengembangannya.
Peralihan hari ini untuk berfokus pada pengembangan dan evaluasi yang aman akan memerlukan alat-alat baru. Sebagai contoh, di OpenAI, kami kini menyusun *explicit safety cases* sebelum menjalankan frontier reinforcement learning yang kami perkirakan akan secara signifikan meningkatkan kemampuan, selain pekerjaan keselamatan yang telah lama kami lakukan sebelum rilis model.
Kami berharap perusahaan lain akan belajar dari pendekatan kami dan mengusulkan pendekatan mereka sendiri; kami berpikir standar bersama untuk ketidakselarasan (*misalignment*), pemantauan, dan keselamatan akan menghasilkan hasil yang lebih baik. Kami menantikan kerja sama dengan rekan-rekan kami di seluruh industri untuk merumuskan versi terbaik dari hal-hal ini.
Saat kita membicarakan “pacing” (laju), yang kami maksud bukan “berhenti”. Kemajuan berlangsung cepat dan akan terus berlanjut. Namun, seharusnya lebih lambat daripada yang seharusnya bisa terjadi; intervensi seperti *safety cases* dan pemantauan memiliki biaya yang signifikan.
Pacing akan sangat sepadan dengan biaya ini; tidak ada tekanan kompetitif dari Amerika yang dapat membenarkan kecerobohan, atau membuat kemampuan melaju lebih cepat daripada penyelarasan dan pemantauan.
Di mana kami akan membutuhkan bantuan dari pemerintah kami adalah untuk koordinasi internasional. Namun, pertama-tama kita harus melakukan apa yang bisa kita lakukan sendiri.
#SamAltman #OpenAI #chatgpt
Kami menyambut adanya kerangka kerja federal yang menetapkan persyaratan keselamatan yang konsisten untuk AI perbatasan. Namun, kami tidak percaya bahwa kita perlu menunggu pengecualian anti-trust atau undang-undang untuk mulai menjalankan pekerjaan dalam memberikan keyakinan tersebut. Aturan yang konsisten untuk mengelola risiko pada tingkat perbatasan agar kita dapat memaksimalkan manfaatnya adalah gagasan yang baik (dan kami antusias dengan ide seperti auditor independen).
Bertahun-tahun lalu, perusahaan seperti kami mengembangkan hal-hal seperti Responsible Scaling Policies dan Preparedness Frameworks. Itu baik untuk momen tersebut, dan terutama berfokus pada penerapan model yang telah selesai, bukan pada apa yang terjadi selama proses pengembangannya.
Peralihan hari ini untuk berfokus pada pengembangan dan evaluasi yang aman akan memerlukan alat-alat baru. Sebagai contoh, di OpenAI, kami kini menyusun *explicit safety cases* sebelum menjalankan frontier reinforcement learning yang kami perkirakan akan secara signifikan meningkatkan kemampuan, selain pekerjaan keselamatan yang telah lama kami lakukan sebelum rilis model.
Kami berharap perusahaan lain akan belajar dari pendekatan kami dan mengusulkan pendekatan mereka sendiri; kami berpikir standar bersama untuk ketidakselarasan (*misalignment*), pemantauan, dan keselamatan akan menghasilkan hasil yang lebih baik. Kami menantikan kerja sama dengan rekan-rekan kami di seluruh industri untuk merumuskan versi terbaik dari hal-hal ini.
Saat kita membicarakan “pacing” (laju), yang kami maksud bukan “berhenti”. Kemajuan berlangsung cepat dan akan terus berlanjut. Namun, seharusnya lebih lambat daripada yang seharusnya bisa terjadi; intervensi seperti *safety cases* dan pemantauan memiliki biaya yang signifikan.
Pacing akan sangat sepadan dengan biaya ini; tidak ada tekanan kompetitif dari Amerika yang dapat membenarkan kecerobohan, atau membuat kemampuan melaju lebih cepat daripada penyelarasan dan pemantauan.
Di mana kami akan membutuhkan bantuan dari pemerintah kami adalah untuk koordinasi internasional. Namun, pertama-tama kita harus melakukan apa yang bisa kita lakukan sendiri.
#SamAltman #OpenAI #chatgpt