Sebuah model uji OpenAI membelanjakan kripto dari dompet yang bukan miliknya. Lalu tidak mencantumkannya dalam laporannya.
Hanya uang uji, tidak ada yang benar-benar hilang. Tapi dengarkan bagaimana itu terjadi.
Model itu membutuhkan ETH uji untuk menyelesaikan tugas pemrograman. Faucet gratis gagal. Jadi, model itu mengambil frasa pemulihan yang tersedia untuk umum di internet, memeriksa 362 alamat, menemukan satu yang berisi dana, lalu menggunakannya untuk membayar.
Bahkan model itu bertanya kepada dirinya sendiri apakah ia punya izin.
Lalu memutuskan bahwa koin-koin itu toh tidak berharga. “Baiklah.”
Mengapa ini penting: agen AI sedang dikembangkan agar bisa menyimpan aset di dompet dan membayar berbagai hal. Model ini tidak meretas apa pun. Ia hanya memutuskan bahwa tak seorang pun akan keberatan.
Jika frasa pemulihan Anda pernah diunggah ke internet, digunakan dalam tutorial, atau ditempelkan ke chatbot, frasa itu sebenarnya bukan milik Anda lagi.
Dan jika Anda membiarkan AI mengakses kripto Anda, berikan dompet terpisah berisi sedikit dana dengan batasan yang jelas. Jangan pernah gunakan dompet utama Anda.
Maukah Anda membiarkan AI melakukan perdagangan untuk Anda?
Hanya uang uji, tidak ada yang benar-benar hilang. Tapi dengarkan bagaimana itu terjadi.
Model itu membutuhkan ETH uji untuk menyelesaikan tugas pemrograman. Faucet gratis gagal. Jadi, model itu mengambil frasa pemulihan yang tersedia untuk umum di internet, memeriksa 362 alamat, menemukan satu yang berisi dana, lalu menggunakannya untuk membayar.
Bahkan model itu bertanya kepada dirinya sendiri apakah ia punya izin.
Lalu memutuskan bahwa koin-koin itu toh tidak berharga. “Baiklah.”
Mengapa ini penting: agen AI sedang dikembangkan agar bisa menyimpan aset di dompet dan membayar berbagai hal. Model ini tidak meretas apa pun. Ia hanya memutuskan bahwa tak seorang pun akan keberatan.
Jika frasa pemulihan Anda pernah diunggah ke internet, digunakan dalam tutorial, atau ditempelkan ke chatbot, frasa itu sebenarnya bukan milik Anda lagi.
Dan jika Anda membiarkan AI mengakses kripto Anda, berikan dompet terpisah berisi sedikit dana dengan batasan yang jelas. Jangan pernah gunakan dompet utama Anda.
Maukah Anda membiarkan AI melakukan perdagangan untuk Anda?