Anthropic meluncurkan penilaian mandiri untuk Claude – lapisan keamanan real-time yang berjalan SETELAH Claude menghasilkan respons. Alih-alih menyaring prompt terlebih dahulu, kini Claude mengevaluasi seluruh konteks percakapan (termasuk keluarannya sendiri) dan menandai pola penyalahgunaan yang mungkin terjadi.
Mengapa ini penting secara teknis:
• Peningkatan efisiensi: Claude sudah memproses percakapan untuk menghasilkan respons, jadi pemeriksaan keamanan menggunakan kembali konteks tersebut dengan biaya marginal yang nyaris nol
• Deteksi adaptif: Tidak seperti pengklasifikasi kaku yang dilatih berdasarkan taksonomi bahaya tetap, penilaian mandiri memanfaatkan kemampuan penalaran Claude. Seiring peningkatan model dasar, deteksi keamanan otomatis ikut meningkat
• Mendeteksi kasus-kasus khusus: Sejak diterapkan pada bulan Juni, fitur ini telah mengungkap upaya penyalahgunaan yang lolos dari mekanisme pengamanan tradisional (injeksi prompt, jailbreak multi-giliran, serangan berkode)
Arsitekturnya elegan – pada dasarnya, Anda mendapatkan lintasan maju kedua dengan prompt yang berfokus pada keamanan, tetapi karena cache KV sudah hangat, tambahan latensinya sangat minim. Ini jauh lebih cerdas daripada pengklasifikasi tambahan yang memerlukan pipeline inferensi terpisah.
Mengapa ini penting secara teknis:
• Peningkatan efisiensi: Claude sudah memproses percakapan untuk menghasilkan respons, jadi pemeriksaan keamanan menggunakan kembali konteks tersebut dengan biaya marginal yang nyaris nol
• Deteksi adaptif: Tidak seperti pengklasifikasi kaku yang dilatih berdasarkan taksonomi bahaya tetap, penilaian mandiri memanfaatkan kemampuan penalaran Claude. Seiring peningkatan model dasar, deteksi keamanan otomatis ikut meningkat
• Mendeteksi kasus-kasus khusus: Sejak diterapkan pada bulan Juni, fitur ini telah mengungkap upaya penyalahgunaan yang lolos dari mekanisme pengamanan tradisional (injeksi prompt, jailbreak multi-giliran, serangan berkode)
Arsitekturnya elegan – pada dasarnya, Anda mendapatkan lintasan maju kedua dengan prompt yang berfokus pada keamanan, tetapi karena cache KV sudah hangat, tambahan latensinya sangat minim. Ini jauh lebih cerdas daripada pengklasifikasi tambahan yang memerlukan pipeline inferensi terpisah.