OpenAI, pembuat ChatGPT, menulis ulang Model Spec OpenAI dengan lima aturan agar perangkat AI yang bertindak sendiri tetap lebih selaras dengan keinginan pengguna dan tidak mudah melakukan kesalahan berisiko.
Poin-Poin Utama
OpenAI merevisi Model Spec-nya berdasarkan lima nilai inti, dengan menghadirkan pedoman yang diperbarui untuk sistem AI yang lebih cakap
OpenAI mengumumkan pembaruan itu pukul 17.00 GMT dan merumuskannya berdasarkan penilaian yang baik, kendali manusia, serta kesetiaan pada maksud pengguna
Draf tersebut memajukan tata kelola dengan memasukkan panduan perilaku ke dalam instruksi dasar yang membentuk respons sistem
Sebuah unggahan teknis terpisah menyebutkan bahwa OpenAI menggunakan pemantauan berlapis untuk mendeteksi ketidakselarasan dan perilaku agen yang tidak sah sebelum insiden memburuk
OpenAI membingkainya sebagai persoalan penilaian yang baik, kendali manusia, dan kesetiaan pada maksud pengguna. Dalam unggahan teknis terpisah, OpenAI mengatakan bahwa mereka menggunakan pemantauan berlapis untuk mendeteksi ketidakselarasan dan perilaku agen yang tidak sah sebelum insiden memburuk.
Perilaku Agen Digeser ke Lapisan Lebih Awal
Draf baru ini menggeser tata kelola ke tahap yang lebih awal dalam tumpukan sistem.
Alih-alih hanya mengandalkan moderasi di tahap akhir atau aturan aplikasi, OpenAI menambahkan lebih banyak panduan perilaku ke instruksi dasar yang membentuk respons sistem. Ini menandakan upaya sengaja untuk menanamkan prioritas Perilaku Agen ke dalam pengoperasian model dasar, alih-alih menyerahkannya pada kontrol di lapisan aplikasi.
Hal ini penting bagi pengguna bisnis dan pengembang yang membangun agen, karena agen dapat mencari, merangkum, menggunakan alat, dan bertindak melalui banyak langkah. Ini membuka lebih banyak peluang bagi agen untuk menyimpang dari tujuan pengguna. Spesifikasi memberikan model seperangkat prioritas yang tetap sebelum penyimpangan itu terlihat dalam jawaban akhir.
Pembaruan ini juga sejalan dengan unggahan OpenAI lainnya pada hari Kamis tentang deteksi ketidakselarasan. Ini menunjukkan bahwa perusahaan memandang kebijakan perilaku dan pemantauan sebagai kontrol yang saling terkait, bukan lapisan keselamatan yang terpisah: yang satu menetapkan perilaku yang diharapkan, sedangkan yang lain mengawasi penyimpangannya.
Baca Juga: Apa Itu Agen AI? Bagaimana Alat, Memori, dan Aturan Mengubah Chatbot Menjadi Pekerja
Dari Chatbot Statis ke Agen yang Menggunakan Alat
Kebutuhan akan buku aturan yang lebih ketat meningkat seiring model terdepan berkembang melampaui sekadar memberikan satu balasan.
Chatbot konsumen terdahulu umumnya hanya menghasilkan teks dalam satu giliran, sedangkan sistem yang lebih baru dapat menjelajahi situs web, memeriksa file, dan merangkai tindakan dari waktu ke waktu.
Siklus tindakan yang lebih panjang ini menimbulkan masalah yang lebih sulit daripada sekadar menyaring keluaran beracun, karena model harus menentukan instruksi mana yang paling penting ketika permintaan pengguna, perintah dari situs web, dan aturan platform saling bertentangan.
Spesifikasi yang diperbarui ini merupakan upaya OpenAI untuk menentukan urutan prioritas tersebut sebelum penerapan.
OpenAI telah memperluas bidang kerja ini selama berbulan-bulan, dan pembaruan hari Kamis menyusul periode ketika perusahaan memperluas fitur agen serta menerbitkan lebih banyak riset tentang evaluasi keselamatan, termasuk cara mendeteksi ketidakselarasan tersembunyi sebelum agen mengambil tindakan berisiko.
Bagaimana Spesifikasi Model OpenAI Memandu Pilihan Model
Struktur lima nilai OpenAI paling tepat dipahami sebagai sistem untuk menentukan prioritas dalam kasus-kasus sulit, bukan sebagai materi pemasaran.
Ketika model OpenAI menerima perintah yang bertentangan dengan instruksi lain, OpenAI Model Spec memberi tahu model tujuan mana yang harus didahulukan. Ini dapat berarti mempertahankan kendali pengguna, menolak permintaan berbahaya, atau tetap setia pada hal yang sebenarnya diminta pengguna, alih-alih mengikuti perintah yang disisipkan oleh sebuah situs web.
Bagi pengembang yang menggunakan agen OpenAI, dampak praktisnya adalah konsistensi, sebab alat pengambilan informasi, peramban, dan eksekutor kode masing-masing dapat menghadirkan instruksi serta pola kegagalan tersendiri.
Dalam unggahan tentang pemantauan, OpenAI menyebutkan bahwa tim penanggap mengawasi ketidakselarasan dan perilaku agen yang tidak sah. Sementara itu, spesifikasi berada satu lapisan lebih awal dengan membentuk perilaku sebelum pemantauan perlu turun tangan, sekaligus menyediakan titik audit untuk mengevaluasi perubahan Perilaku Agen pada setiap peluncuran produk.
Ujian berikutnya adalah perilaku produk, bukan uraian kebijakan.
Jika OpenAI memperbarui agen ChatGPT dan API agar sesuai dengan OpenAI Model Spec, pembeli perusahaan dan auditor akan memiliki acuan yang lebih jelas untuk mengevaluasi kegagalan dan menentukan apakah perilaku model berubah setelah peluncuran mendatang.
Baca Selanjutnya: Taruhan Microsoft pada OpenAI Menghapus Kerugian $4 Miliar dan Meningkatkan Laba