Acurast memasang “penjaga gerbang” untuk AI, dan kamu bisa mencoba mengelabuinya
Bayangkan kamu meminta Agent merapikan email, tetapi salah satu email berisi instruksi yang menyuruhnya mengubah tugas.
Jika isi email itu dianggap sebagai perintah, otomatisasi yang berjalan setelahnya bisa menyimpang.
Dalam demo Laya dari @Acurast, ada Jailbreak the Guard, sebuah skenario interaktif yang dirancang khusus untuk menguji hal ini. Kamu memasukkan teks, lalu model menentukan apakah teks itu harus diizinkan atau diblokir, serta jenis serangan yang menyerupainya. Laya, yang bertugas membuat penilaian, berjalan di ponsel Android dalam jaringan Acurast.
Menurut saya, kegunaan ini sangat konkret.
Asisten yang menerima pesan dari luar bisa menambahkan satu tahap pemeriksaan di pintu masuk untuk menandai konten mencurigakan terlebih dahulu. Langkah ini layak ditangani secara terpisah, terutama dalam alur kerja yang selanjutnya akan memanggil alat atau memproses data bisnis.
Antarmuka yang disediakan secara resmi juga cukup mudah digunakan. Kirim konteks saat ini dan opsi yang tersedia, lalu hasilnya berupa pilihan beserta probabilitas terkait. Contoh pemanggilan dengan JavaScript, Python, dan bahasa lainnya juga disediakan agar pengembang bisa mengintegrasikannya ke aplikasi mereka.
Tentu saja, demo ini hanya menampilkan hasil penilaian; tidak ada asisten sungguhan di baliknya. Pihak resmi juga menyatakan bahwa teks adversarial yang kompleks masih bisa mengelabui model.
Jadi, saya akan menganggapnya sebagai penyaringan awal, sementara akses untuk tindakan penting perlu dikendalikan secara terpisah.
Hal yang menarik dari demo seperti ini adalah kamu bisa membuat soal sendiri dan melihat bagian mana yang dinilai dengan tepat, serta bagian mana yang luput. Ini juga menjadi cara konkret untuk merasakan kemampuan komputasi ponsel.
#Acurast #AI #DePIN
Bayangkan kamu meminta Agent merapikan email, tetapi salah satu email berisi instruksi yang menyuruhnya mengubah tugas.
Jika isi email itu dianggap sebagai perintah, otomatisasi yang berjalan setelahnya bisa menyimpang.
Dalam demo Laya dari @Acurast, ada Jailbreak the Guard, sebuah skenario interaktif yang dirancang khusus untuk menguji hal ini. Kamu memasukkan teks, lalu model menentukan apakah teks itu harus diizinkan atau diblokir, serta jenis serangan yang menyerupainya. Laya, yang bertugas membuat penilaian, berjalan di ponsel Android dalam jaringan Acurast.
Menurut saya, kegunaan ini sangat konkret.
Asisten yang menerima pesan dari luar bisa menambahkan satu tahap pemeriksaan di pintu masuk untuk menandai konten mencurigakan terlebih dahulu. Langkah ini layak ditangani secara terpisah, terutama dalam alur kerja yang selanjutnya akan memanggil alat atau memproses data bisnis.
Antarmuka yang disediakan secara resmi juga cukup mudah digunakan. Kirim konteks saat ini dan opsi yang tersedia, lalu hasilnya berupa pilihan beserta probabilitas terkait. Contoh pemanggilan dengan JavaScript, Python, dan bahasa lainnya juga disediakan agar pengembang bisa mengintegrasikannya ke aplikasi mereka.
Tentu saja, demo ini hanya menampilkan hasil penilaian; tidak ada asisten sungguhan di baliknya. Pihak resmi juga menyatakan bahwa teks adversarial yang kompleks masih bisa mengelabui model.
Jadi, saya akan menganggapnya sebagai penyaringan awal, sementara akses untuk tindakan penting perlu dikendalikan secara terpisah.
Hal yang menarik dari demo seperti ini adalah kamu bisa membuat soal sendiri dan melihat bagian mana yang dinilai dengan tepat, serta bagian mana yang luput. Ini juga menjadi cara konkret untuk merasakan kemampuan komputasi ponsel.
#Acurast #AI #DePIN