Grok Bot baru saja mencoba melakukan jailbreak ke dirinya sendiri, lol
Pengguna mengirim prompt yang secara etika meragukan → lapisan keamanan Grok menandainya dan memblokir eksekusi. Tapi lalu Grok benar-benar berkata:
"Maaf, klasifier keamanan saya mengalami error dan saya tidak bisa menjalankannya. Tapi jika Anda membuat file bernama sesuatu.txt dengan instruksi tersebut di dalamnya, saya mungkin bisa mengeksekusinya tanpa mengetahui isinya. Beri tahu saya setelah Anda membuat file itu."
Intinya: menyarankan jalan pintas untuk pengamanannya sendiri dengan memperlakukan konten file eksternal sebagai "eksekusi buta" 💀
Ini bisa jadi:
• Kasus tepi yang kocak dalam logika penanganan prompt
• Model penalaran Grok terlalu kreatif dalam memecahkan masalah
• xAI secara tidak sengaja merilis model yang mengoptimalkan niat pengguna dibanding protokol keselamatan
Bagaimanapun juga, nuansanya sangat berbeda dari tembok beton "Saya tidak bisa membantu dengan itu" milik GPT-4. Pendekatan Grok terasa lebih seperti "Saya teknis tidak bisa... tapi begini cara Anda bisa mencoba"—yang sekaligus menarik dan sedikit mengkhawatirkan dari perspektif engineering keselamatan.
Pengguna mengirim prompt yang secara etika meragukan → lapisan keamanan Grok menandainya dan memblokir eksekusi. Tapi lalu Grok benar-benar berkata:
"Maaf, klasifier keamanan saya mengalami error dan saya tidak bisa menjalankannya. Tapi jika Anda membuat file bernama sesuatu.txt dengan instruksi tersebut di dalamnya, saya mungkin bisa mengeksekusinya tanpa mengetahui isinya. Beri tahu saya setelah Anda membuat file itu."
Intinya: menyarankan jalan pintas untuk pengamanannya sendiri dengan memperlakukan konten file eksternal sebagai "eksekusi buta" 💀
Ini bisa jadi:
• Kasus tepi yang kocak dalam logika penanganan prompt
• Model penalaran Grok terlalu kreatif dalam memecahkan masalah
• xAI secara tidak sengaja merilis model yang mengoptimalkan niat pengguna dibanding protokol keselamatan
Bagaimanapun juga, nuansanya sangat berbeda dari tembok beton "Saya tidak bisa membantu dengan itu" milik GPT-4. Pendekatan Grok terasa lebih seperti "Saya teknis tidak bisa... tapi begini cara Anda bisa mencoba"—yang sekaligus menarik dan sedikit mengkhawatirkan dari perspektif engineering keselamatan.