Lima dokumen palsu saja sudah cukup untuk membuat proses pengambilan informasi pada pencarian AI meleset.
Crypto Briefing melaporkan sebuah penelitian Google yang menyebutkan bahwa sistem semacam ini rentan terhadap serangan “query echo”: penyerang membuat dokumen yang sangat sesuai dengan kueri pengguna, sehingga dokumen tersebut muncul di urutan atas hasil pencarian dan memengaruhi jawaban akhir.
· Bagian yang terdampak adalah proses pengambilan informasi, bukan pengetahuan model itu sendiri.
· Laporan tersebut tidak menyebutkan model yang diuji, kumpulan data, atau tingkat keberhasilan. Kesimpulannya hanya sampai pada “kerentanan semacam ini memang ada”.
Jika Anda menggunakan alat AI dengan fitur pencarian, apakah Anda akan lebih dulu melihat berapa banyak sumber yang dikutip, atau memeriksa apakah sumbernya bisa dibuka dan diverifikasi?
Crypto Briefing melaporkan sebuah penelitian Google yang menyebutkan bahwa sistem semacam ini rentan terhadap serangan “query echo”: penyerang membuat dokumen yang sangat sesuai dengan kueri pengguna, sehingga dokumen tersebut muncul di urutan atas hasil pencarian dan memengaruhi jawaban akhir.
· Bagian yang terdampak adalah proses pengambilan informasi, bukan pengetahuan model itu sendiri.
· Laporan tersebut tidak menyebutkan model yang diuji, kumpulan data, atau tingkat keberhasilan. Kesimpulannya hanya sampai pada “kerentanan semacam ini memang ada”.
Jika Anda menggunakan alat AI dengan fitur pencarian, apakah Anda akan lebih dulu melihat berapa banyak sumber yang dikutip, atau memeriksa apakah sumbernya bisa dibuka dan diverifikasi?
