Schon fünf gefälschte Dokumente reichen aus, um die Retrieval-Komponente einer KI-Suche aus dem Takt zu bringen.
Crypto Briefing berichtete über eine Google-Studie, der zufolge solche Systeme anfällig für sogenannte „Query-Echo“-Angriffe sind: Angreifer erstellen Dokumente, die genau auf die Suchanfrage der Nutzer zugeschnitten sind, sodass sie bei der Suche weiter oben erscheinen und dadurch die endgültige Antwort beeinflussen.
· Betroffen ist die Retrieval-Komponente, nicht das Wissen des Modells selbst.
· Im Bericht werden weder die getesteten Modelle noch Datensätze oder Erfolgsquoten genannt. Die Schlussfolgerung beschränkt sich darauf, dass „eine solche Schwachstelle besteht“.
Wenn du ein KI-Tool mit Retrieval-Funktion nutzt: Achte zuerst darauf, wie viele Quellen es zitiert, oder darauf, ob sich die Quellen anklicken und überprüfen lassen?
Crypto Briefing berichtete über eine Google-Studie, der zufolge solche Systeme anfällig für sogenannte „Query-Echo“-Angriffe sind: Angreifer erstellen Dokumente, die genau auf die Suchanfrage der Nutzer zugeschnitten sind, sodass sie bei der Suche weiter oben erscheinen und dadurch die endgültige Antwort beeinflussen.
· Betroffen ist die Retrieval-Komponente, nicht das Wissen des Modells selbst.
· Im Bericht werden weder die getesteten Modelle noch Datensätze oder Erfolgsquoten genannt. Die Schlussfolgerung beschränkt sich darauf, dass „eine solche Schwachstelle besteht“.
Wenn du ein KI-Tool mit Retrieval-Funktion nutzt: Achte zuerst darauf, wie viele Quellen es zitiert, oder darauf, ob sich die Quellen anklicken und überprüfen lassen?
