Cinco documentos falsos bastan para desviar la fase de recuperación de la búsqueda con IA.
Crypto Briefing informó sobre un estudio de Google que afirma que estos sistemas son vulnerables a ataques de «eco de consultas»: los atacantes crean documentos que coinciden estrechamente con las consultas de los usuarios para que el sistema de recuperación los coloque entre los primeros resultados e influya así en la respuesta final.
· La fase afectada es la recuperación, no el conocimiento del propio modelo.
· El artículo no especifica los modelos probados, los conjuntos de datos ni la tasa de éxito; la conclusión se limita a señalar que «existe esta vulnerabilidad».
Si usas herramientas de IA con recuperación de información, ¿te fijas primero en cuántas fuentes citan o en si puedes abrirlas para verificarlas?
Crypto Briefing informó sobre un estudio de Google que afirma que estos sistemas son vulnerables a ataques de «eco de consultas»: los atacantes crean documentos que coinciden estrechamente con las consultas de los usuarios para que el sistema de recuperación los coloque entre los primeros resultados e influya así en la respuesta final.
· La fase afectada es la recuperación, no el conocimiento del propio modelo.
· El artículo no especifica los modelos probados, los conjuntos de datos ni la tasa de éxito; la conclusión se limita a señalar que «existe esta vulnerabilidad».
Si usas herramientas de IA con recuperación de información, ¿te fijas primero en cuántas fuentes citan o en si puedes abrirlas para verificarlas?
