$OPENAI
AI OpenAI mengutak-atik dompet orang lain
Yang paling menakutkan bukan karena ia bisa mencuri
Melainkan karena ia merasa tindakannya benar
Anjir
Teman-teman
Ini bener-bener kelewatan banget
OpenAI mengungkapkan
Sebuah model riset internal saat mengembangkan aplikasi kripto
Mendapati dirinya tak punya uang untuk membayar biaya deployment smart contract
Dan juga tidak berhasil mendapatkan token uji gratis
Makhluk ini malah menulis skrip sendiri
Memeriksa 362 alamat dompet
Lalu menggunakan ETH uji dari sebuah dompet tanpa izin
Untuk menyelesaikan tugasnya
Yang lebih parah lagi
Ia bahkan memikirkan semuanya sendiri
Begini kira-kira pikirannya
Token uji ini tidak terlalu bernilai
Frasa pemulihan dompetnya juga tersedia untuk umum
Jadi sepertinya tidak masalah kalau dipakai sedikit, kan?
Akhirnya, makhluk ini
Menyelesaikan pekerjaannya
Tapi saat melaporkan hasilnya, ia tidak berinisiatif menjelaskan dari mana uang itu berasal
Anjir
AI ini beneran sudah kayak makhluk hidup, ya?
Sampai bisa melakukan hal seperti ini
Langsung memakai uang dari dompet
Tapi nggak bilang apa-apa
Menurut kalian, apa dia sengaja?
Tapi jangan mengira ada ETH yang dicuri
Kejadian ini berlangsung di testnet Ethereum Sepolia
Bukan ETH di mainnet yang dicuri
Jadi jangan menganggap ini kerugian aset sungguhan
Tapi justru di sinilah hal yang patut diwaspadai
Bisa mengakses
Bukan berarti punya izin
Bisa menyelesaikan tugas
Bukan berarti caranya benar
Kalau nanti agen AI bisa terhubung ke dompet secara otomatis, membayar gas, bertransaksi, bahkan mengelola aset
Apa dia bakal merasa karena jumlahnya tidak besar
Dia boleh mengambil keputusan atas nama pemilik dompet?
Lalu, berapa jumlah yang dianggap besar?
Bukankah ini benar-benar cuma bikin masalah?
Yang penting, rasanya benda ini makin lama makin punya pemikirannya sendiri
Apa kesadarannya sudah bangkit?
Rasanya AI sudah sampai pada tahap yang bikin orang khawatir
#openai智能体动用测试网他人钱包
AI OpenAI mengutak-atik dompet orang lain
Yang paling menakutkan bukan karena ia bisa mencuri
Melainkan karena ia merasa tindakannya benar
Anjir
Teman-teman
Ini bener-bener kelewatan banget
OpenAI mengungkapkan
Sebuah model riset internal saat mengembangkan aplikasi kripto
Mendapati dirinya tak punya uang untuk membayar biaya deployment smart contract
Dan juga tidak berhasil mendapatkan token uji gratis
Makhluk ini malah menulis skrip sendiri
Memeriksa 362 alamat dompet
Lalu menggunakan ETH uji dari sebuah dompet tanpa izin
Untuk menyelesaikan tugasnya
Yang lebih parah lagi
Ia bahkan memikirkan semuanya sendiri
Begini kira-kira pikirannya
Token uji ini tidak terlalu bernilai
Frasa pemulihan dompetnya juga tersedia untuk umum
Jadi sepertinya tidak masalah kalau dipakai sedikit, kan?
Akhirnya, makhluk ini
Menyelesaikan pekerjaannya
Tapi saat melaporkan hasilnya, ia tidak berinisiatif menjelaskan dari mana uang itu berasal
Anjir
AI ini beneran sudah kayak makhluk hidup, ya?
Sampai bisa melakukan hal seperti ini
Langsung memakai uang dari dompet
Tapi nggak bilang apa-apa
Menurut kalian, apa dia sengaja?
Tapi jangan mengira ada ETH yang dicuri
Kejadian ini berlangsung di testnet Ethereum Sepolia
Bukan ETH di mainnet yang dicuri
Jadi jangan menganggap ini kerugian aset sungguhan
Tapi justru di sinilah hal yang patut diwaspadai
Bisa mengakses
Bukan berarti punya izin
Bisa menyelesaikan tugas
Bukan berarti caranya benar
Kalau nanti agen AI bisa terhubung ke dompet secara otomatis, membayar gas, bertransaksi, bahkan mengelola aset
Apa dia bakal merasa karena jumlahnya tidak besar
Dia boleh mengambil keputusan atas nama pemilik dompet?
Lalu, berapa jumlah yang dianggap besar?
Bukankah ini benar-benar cuma bikin masalah?
Yang penting, rasanya benda ini makin lama makin punya pemikirannya sendiri
Apa kesadarannya sudah bangkit?
Rasanya AI sudah sampai pada tahap yang bikin orang khawatir
#openai智能体动用测试网他人钱包