Cinco documentos falsificados bastam para fazer com que a etapa de recuperação da pesquisa com IA falhe.
A Crypto Briefing noticiou uma pesquisa da Google que afirma que estes sistemas são vulneráveis a ataques do tipo «eco da consulta»: os atacantes criam documentos que correspondem de perto às consultas dos utilizadores, fazendo com que a recuperação os coloque no topo e, assim, influenciando a resposta final.
· A etapa afetada é a recuperação, não o conhecimento do próprio modelo.
· A notícia não especifica os modelos testados, os conjuntos de dados nem a taxa de sucesso; a conclusão limita-se a afirmar que «esta vulnerabilidade existe».
Se utiliza ferramentas de IA com recuperação de informação, verifica primeiro quantas fontes são citadas ou se é possível abrir as fontes para as confirmar?
A Crypto Briefing noticiou uma pesquisa da Google que afirma que estes sistemas são vulneráveis a ataques do tipo «eco da consulta»: os atacantes criam documentos que correspondem de perto às consultas dos utilizadores, fazendo com que a recuperação os coloque no topo e, assim, influenciando a resposta final.
· A etapa afetada é a recuperação, não o conhecimento do próprio modelo.
· A notícia não especifica os modelos testados, os conjuntos de dados nem a taxa de sucesso; a conclusão limita-se a afirmar que «esta vulnerabilidade existe».
Se utiliza ferramentas de IA com recuperação de informação, verifica primeiro quantas fontes são citadas ou se é possível abrir as fontes para as confirmar?
