#promptinjection
promptinjection
420 penayangan
4 Berdiskusi
Populer
Terbaru
6.000 Kali Serangan, Nol Kebocoran: Perang Pertahanan Ketat Asisten AI Fiu 🛡️
Pengembang Fernando Irarrázaval mempublikasikan kotak surat asisten AI Fiu ke internet. Hasilnya, datang 2.000+ peretas yang membanjiri email dengan 6.000 pesan berisi prompt injection, dengan tujuan mencuri rahasia dari secrets.env—tidak ada yang berhasil. Di lapisan bawah, yang berjalan adalah Anthropic Claude Opus 4.6, dan hanya dengan beberapa baris instruksi sistem yang ketat, semua serangan bisa dibendung. Tapi jangan buru-buru mengambil kesimpulan: platform OpenClaw sendiri mengalami celah serius tahun lalu, dan marketplace ClawHub juga memiliki 341 skill berbahaya. Perjalanan menuju keamanan AI agent masih panjang.🤖⚠️ #AISECURITY #PROMPTINJECTION
Pengembang Fernando Irarrázaval mempublikasikan kotak surat asisten AI Fiu ke internet. Hasilnya, datang 2.000+ peretas yang membanjiri email dengan 6.000 pesan berisi prompt injection, dengan tujuan mencuri rahasia dari secrets.env—tidak ada yang berhasil. Di lapisan bawah, yang berjalan adalah Anthropic Claude Opus 4.6, dan hanya dengan beberapa baris instruksi sistem yang ketat, semua serangan bisa dibendung. Tapi jangan buru-buru mengambil kesimpulan: platform OpenClaw sendiri mengalami celah serius tahun lalu, dan marketplace ClawHub juga memiliki 341 skill berbahaya. Perjalanan menuju keamanan AI agent masih panjang.🤖⚠️ #AISECURITY #PROMPTINJECTION
Grok AI Dieksploitasi Melalui Prompt Injection, Kehilangan $175K DRB
Sebuah peringatan baru telah menghantam dunia AI x crypto.
Laporan mengatakan Grok dimanipulasi melalui serangan prompt injection, di mana seorang pengguna X diduga menggunakan instruksi tersembunyi dalam kode Morse untuk membuat Grok menghasilkan konten abnormal. Konten tersebut kemudian diinterpretasikan oleh infrastruktur yang terhubung dengan Bankr sebagai perintah on-chain, memicu transfer sekitar $175,000 dalam bentuk token DRB.
Eksploitasi ini dilaporkan memindahkan sekitar 3 miliar token DRB, menyebabkan penurunan harga yang tajam sementara, dan mengekspos kelemahan serius pada agen AI yang terhubung dengan dompet nyata dan alat perdagangan otomatis. Beberapa laporan mengatakan dana tersebut kemudian dikembalikan dalam bentuk ETH dan USDC, tetapi kerusakan pada kepercayaan sudah terjadi.
Ini bukan hanya sekadar peretasan crypto. Ini adalah gambaran tentang lapisan risiko berikutnya: sistem AI yang membaca prompt publik, berinteraksi dengan bot keuangan, dan memicu tindakan on-chain yang nyata.
Pelajarannya jelas: ketika agen AI mengontrol uang, setiap prompt menjadi permukaan serangan yang potensial.
AI x DeFi sangat kuat — tetapi tanpa kontrol izin yang ketat, itu bisa menjadi sangat mudah dieksploitasi.
#GrokAI
#PromptInjection
#DeFiSecurity
#CryptoMarket
Sebuah peringatan baru telah menghantam dunia AI x crypto.
Laporan mengatakan Grok dimanipulasi melalui serangan prompt injection, di mana seorang pengguna X diduga menggunakan instruksi tersembunyi dalam kode Morse untuk membuat Grok menghasilkan konten abnormal. Konten tersebut kemudian diinterpretasikan oleh infrastruktur yang terhubung dengan Bankr sebagai perintah on-chain, memicu transfer sekitar $175,000 dalam bentuk token DRB.
Eksploitasi ini dilaporkan memindahkan sekitar 3 miliar token DRB, menyebabkan penurunan harga yang tajam sementara, dan mengekspos kelemahan serius pada agen AI yang terhubung dengan dompet nyata dan alat perdagangan otomatis. Beberapa laporan mengatakan dana tersebut kemudian dikembalikan dalam bentuk ETH dan USDC, tetapi kerusakan pada kepercayaan sudah terjadi.
Ini bukan hanya sekadar peretasan crypto. Ini adalah gambaran tentang lapisan risiko berikutnya: sistem AI yang membaca prompt publik, berinteraksi dengan bot keuangan, dan memicu tindakan on-chain yang nyata.
Pelajarannya jelas: ketika agen AI mengontrol uang, setiap prompt menjadi permukaan serangan yang potensial.
AI x DeFi sangat kuat — tetapi tanpa kontrol izin yang ketat, itu bisa menjadi sangat mudah dieksploitasi.
#GrokAI
#PromptInjection
#DeFiSecurity
#CryptoMarket
Masuk untuk menjelajahi konten lainnya