Profil Sam Altman (Parody)

Dunia layak memiliki keyakinan bahwa perusahaan-perusahaan Amerika yang mengembangkan AI yang semakin mampu akan bertindak secara bertanggung jawab, terutama ketika lintasan kemajuan telah menjadi semakin curam. Setiap lab perintis harus mewujudkan ini, dan tidak ada alasan bagi siapa pun dari kita untuk datang bekerja jika kita tidak bisa.

Kami menyambut adanya kerangka kerja federal yang menetapkan persyaratan keselamatan yang konsisten untuk AI perintis. Namun kami tidak percaya bahwa kita perlu menunggu adanya pengecualian anti-trust atau legislasi untuk memulai pekerjaan memberi keyakinan tersebut. Aturan yang konsisten untuk mengelola risiko pada AI perintis agar kita dapat memaksimalkan manfaatnya adalah ide yang baik (dan kami sangat antusias dengan gagasan seperti auditor independen).

Bertahun-tahun lalu, perusahaan seperti kami mengembangkan hal-hal seperti Kebijakan Responsible Scaling dan Kerangka Kesiapsiagaan. Itu baik untuk konteks saat itu, dan terutama berfokus pada penerapan model yang sudah selesai, bukan pada apa yang terjadi selama proses pengembangannya.

Peralihan hari ini untuk berfokus pada pengembangan dan evaluasi yang aman akan membutuhkan alat-alat baru. Sebagai contoh, di OpenAI, kami sekarang merumuskan kasus-kasus keselamatan yang eksplisit sebelum menjalankan reinforcement learning di tingkat perintis yang kami perkirakan akan secara signifikan meningkatkan kemampuan, selain pekerjaan keselamatan yang sudah lama kami lakukan sebelum rilis model.

Kami berharap perusahaan lain akan belajar dari pendekatan kami dan mengusulkan pendekatan mereka sendiri; kami berpendapat bahwa standar bersama untuk misalignment, pemantauan, dan keselamatan akan menghasilkan hasil yang lebih baik. Kami menantikan untuk berkolaborasi dengan rekan-rekan kami di seluruh industri guna merumuskan versi terbaik dari hal-hal ini.

Saat kita membicarakan “pacing”, yang kami maksud bukan “berhenti”. Kemajuan sudah cepat dan akan terus berlanjut. Namun ia seharusnya lebih lambat daripada yang mungkin terjadi; intervensi seperti kasus keselamatan dan pemantauan memiliki biaya yang signifikan.

Pacing akan sangat sepadan dengan biaya ini; tidak ada tekanan kompetitif dari Amerika yang dapat membenarkan tindakan ceroboh, atau membuat kemampuan melampaui keselarasan (alignment) dan pemantauan.

Di mana kita akan membutuhkan bantuan pemerintah adalah untuk koordinasi internasional. Namun pertama-tama, kita harus melakukan apa yang bisa kita lakukan sendiri.

Sam Altman (Parody)

Topik Sedang Tren