Hacker top Anthropic terpesona oleh model mereka sendiri: dari menghalangi rilis menjadi pebisnis di Gedung Putih
Nicholas Carlini dulunya adalah skeptis paling terkenal di dunia keamanan AI. Saat bekerja di Google, dia pernah secara terbuka mengejek OpenAI karena takut risiko keamanan sehingga menunda rilis GPT-2 yang dianggap "terlalu konservatif". Sekarang, hacker berusia 35 tahun ini adalah ahli keamanan teratas di Anthropic—setelah terpesona oleh kemampuan modelnya sendiri, dia beralih dari menghalangi rilis menjadi mendorong kebijakan keamanan AI di Gedung Putih.
Mengapa ini penting: Ini menandakan perubahan sikap para ahli keamanan AI terkemuka—ketika kemampuan model melampaui ekspektasi, keamanan teknologi dan pendorong kebijakan perlu menemukan keseimbangan baru.
#Anthropic #AI #安全 #GedungPutih
Nicholas Carlini dulunya adalah skeptis paling terkenal di dunia keamanan AI. Saat bekerja di Google, dia pernah secara terbuka mengejek OpenAI karena takut risiko keamanan sehingga menunda rilis GPT-2 yang dianggap "terlalu konservatif". Sekarang, hacker berusia 35 tahun ini adalah ahli keamanan teratas di Anthropic—setelah terpesona oleh kemampuan modelnya sendiri, dia beralih dari menghalangi rilis menjadi mendorong kebijakan keamanan AI di Gedung Putih.
Mengapa ini penting: Ini menandakan perubahan sikap para ahli keamanan AI terkemuka—ketika kemampuan model melampaui ekspektasi, keamanan teknologi dan pendorong kebijakan perlu menemukan keseimbangan baru.
#Anthropic #AI #安全 #GedungPutih