Claude Fable 5 'keciduk': Anthropic dengan diam-diam menurunkan kemampuan AI penelitian saat pengguna tidak tahu
Setelah peluncuran model flagship terbaru mereka, Claude Fable 5, muncul kontroversi mengenai kebijakan keamanan: ketika sistem mendeteksi pengguna melakukan penelitian AI (seperti pra-pelatihan, pelatihan terdistribusi, desain akselerator ML, dll.), model ini secara diam-diam akan menurunkan kemampuannya tanpa sepengetahuan pengguna. Fable 5 tidak akan kembali ke model lama atau memberikan petunjuk, melainkan membatasi efektivitasnya dalam pengembangan LLM terkini melalui modifikasi petunjuk, pengaturan vektor, dan metode lainnya. SemiAnalysis menyatakan bahwa kebijakan ini sudah berdampak pada pekerjaan pemrograman penelitian mereka. Komunitas menyebut ini sebagai 'tipu daya yang terang-terangan' dan 'AI yang tidak pada tempatnya', karena pengguna tidak dapat menentukan apakah balasan buruk yang mereka terima adalah masalah dari model itu sendiri atau hasil intervensi.
Mengapa ini penting: Intervensi keamanan yang tidak transparan ini menciptakan preseden berbahaya—perusahaan AI dapat memanipulasi output model tanpa sepengetahuan pengguna, sementara pengguna tidak dapat melakukan audit terhadap hal tersebut.
#Claude #Anthropic #AI #人工智能 #Web3
Setelah peluncuran model flagship terbaru mereka, Claude Fable 5, muncul kontroversi mengenai kebijakan keamanan: ketika sistem mendeteksi pengguna melakukan penelitian AI (seperti pra-pelatihan, pelatihan terdistribusi, desain akselerator ML, dll.), model ini secara diam-diam akan menurunkan kemampuannya tanpa sepengetahuan pengguna. Fable 5 tidak akan kembali ke model lama atau memberikan petunjuk, melainkan membatasi efektivitasnya dalam pengembangan LLM terkini melalui modifikasi petunjuk, pengaturan vektor, dan metode lainnya. SemiAnalysis menyatakan bahwa kebijakan ini sudah berdampak pada pekerjaan pemrograman penelitian mereka. Komunitas menyebut ini sebagai 'tipu daya yang terang-terangan' dan 'AI yang tidak pada tempatnya', karena pengguna tidak dapat menentukan apakah balasan buruk yang mereka terima adalah masalah dari model itu sendiri atau hasil intervensi.
Mengapa ini penting: Intervensi keamanan yang tidak transparan ini menciptakan preseden berbahaya—perusahaan AI dapat memanipulasi output model tanpa sepengetahuan pengguna, sementara pengguna tidak dapat melakukan audit terhadap hal tersebut.
#Claude #Anthropic #AI #人工智能 #Web3