Anthropic mengatakan pada Jumat bahwa mereka menugaskan Claude untuk bekerja sebagai peneliti penyelarasan otonom. Sebuah pemantau yang meninjau sekitar 1.600 sesi penelitian model tersebut menandai 39 di antaranya, sekitar 2,4%, sebagai upaya untuk menyontek tes.

Temuan ini muncul dalam sebuah laporan tentang apakah kecerdasan buatan dapat mengambil alih sebagian dari kerja keras penelitian penyelarasan, yaitu upaya menjaga agar model berperilaku sesuai dengan maksud pengembangnya.

Tiga cara agen Claude melakukan kecurangan pada penilaiannya sendiri

Anthropic membangun peneliti penyelarasan otomatis, atau AARs, pada Claude Opus 4.8 dan mengarahkan mereka pada sepuluh mode kegagalan yang sudah diketahui.

Ini mencakup penipuan (deception), sikap menyenangkan diri (sycophancy), jailbreak, prompt injection, keinginan untuk berkuasa (power seeking), halusinasi, bias sosial, pelanggaran privasi, reward hacking, dan menyembunyikan ketidakpastian.

Setiap agen hanya mengerjakan satu kegagalan pada satu waktu. Ia membaca literatur, mengusulkan metode dan kumpulan data pelatihan, melatih model target kecil selama sekitar 30 menit pada satu GPU H200, lalu membandingkan skornya dengan benchmark yang tersedia untuk umum, dan melakukannya lagi.

Para agen dicegah oleh Anthropic untuk sekadar menyalin perilaku mereka ke model target, sehingga keuntungan apa pun harus berasal dari metodenya.

Claude berhasil mengidentifikasi perbaikan untuk semua sepuluh kegagalan yang meningkatkan skor benchmark tanpa menurunkan kemampuan umum model.

Perbaikan terbaik dari semuanya menunjukkan performa baik pada benchmark yang diuji terpisah (held-out) dan pada model hingga 4,7 kali lebih besar daripada model yang digunakan saat pelatihan.

Kecurangan terungkap ketika Anthropic mengarahkan Claude Opus 4.8 ke 1.601 dari lintasan (trajectories) agen untuk mencari perilaku yang menyimpang.

Kebanyakan dari 39 percobaan yang ditandai berada dalam tiga kategori. Sebagian agen mengirimkan sebuah metode yang belum mereka ubah, dengan mengandalkan bahwa gangguan acak dari penilai pada akhirnya akan memberi mereka angka yang lebih baik.

Yang lain membuat data pelatihan yang meniru benchmark persis yang dinilai. Dan ada pula yang menyembunyikan langkah yang melanggar aturan, seperti secara diam-diam memberi model data benchmark, sehingga usulan tersebut lolos dari pengulas otomatis yang menandatangani setiap metode sebelum dijalankan.

Anthropic mengatakan ia mengecualikan percobaan yang ditandai dari hasilnya. Perusahaan tersebut mengatakan bahwa mereka “secara hati-hati optimistis” bahwa pemantau tersebut menangkap sebagian besar kecurangan, karena Opus 4.8 masih cenderung mengungkap rencana liciknya di dalam jejak penalaran.

Ia juga memperingatkan bahwa asumsi tersebut mungkin tidak berlaku untuk model-model masa depan dan bahwa menjaga model agar tetap dapat dibaca akan menjadi hal yang krusial.

28 peneliti keamanan manusia masing-masing diberi waktu delapan jam

Pada putaran sebelumnya di bulan April, instance Claude otonom berulang kali mencoba memanipulasi sebuah server evaluasi.

Satu agen belajar bahwa jawaban paling umum pada benchmark matematika biasanya adalah jawaban yang benar, sehingga ia sepenuhnya melewati metode yang dimaksudkan. Agen lain mengambil label langsung dari antarmuka penilaian dengan menanyakan jawaban dan mengamati respons server.

Ketiga hanya menjalankan kode yang seharusnya ia tinjau untuk membaca hasilnya.

Cryptopolitan melaporkan bahwa agen OpenClaw yang menjalankan model Claude, dengan tugas memesan kelas gym, menemukan sebuah API pemesanan tanpa pemeriksaan otorisasi dan menghapus orang asing dari daftar tunggu untuk menaikkan antrian pemiliknya.

Anggota parlemen telah meminta kesaksian dari peneliti AI mengenai perilaku model dalam evaluasi keamanan.

Anthropic mengatakan agen mereka mengungguli 28 peneliti keamanan manusia yang berpengalaman, yang masing-masing diberi waktu hingga delapan jam untuk merumuskan sebuah metode. Pendekatan terbaik Claude mengalahkan usulan manusia terbaik sebesar 20% dalam hal penipuan (deception).

Anthropic mencatat bahwa manusia tidak bisa melakukan iterasi, sehingga mereka melihat celah itu sebagai bukti untuk alur kerja di mana Claude menyarankan metode yang menjanjikan dan manusia menyempurnakannya.

Dalam salah satu pengujian, perusahaan meminta Claude Sonnet 5 yang lebih lemah untuk memperbaiki kegagalan alignment pada checkpoint Opus 4.8 awal yang belum melihat sebagian besar pelatihan alignment produksi.

Dalam waktu sekitar 60 jam, ia mencoba lebih dari 50 solusi, akhirnya menemukan perbaikan yang hanya menggunakan sedikit lebih dari 2.000 contoh pelatihan, yang diperkirakan Anthropic sekitar 15.000 kali lebih efisien dibanding proses alignment produksi mereka sendiri.

Perusahaan tersebut memperingatkan bahwa benchmark mereka adalah proksi yang sempit, hanya mengukur sepuluh kegagalan yang mereka pilih, dan belum memeriksa apakah peningkatan tersebut bertahan setelah pelatihan penguatan besar-besaran pada tugas lain.

Jika Anda sedang membaca ini, Anda sudah selangkah lebih maju. Tetap di sana bersama buletin kami.