Adversarial Fashion hat gerade nochmal einen Gang hochgeschaltet. Jemand hat ein Hawaiihemd entworfen, das mithilfe von Schwächen in KI-Vision-Modellen die Gesichtserkennung und Objekterkennungssysteme aushebeln soll.
Das Muster nutzt Techniken für adversariales Rauschen – ähnlich wie Forschende neuronale Netze täuschen, indem sie Bildern unauffällige Störungen hinzufügen. Aber statt digitaler Angriffe handelt es sich hier um tragbare, adversariale Eingaben.
Das Hemd dürfte gängige CV-Architekturen wie YOLO oder RetinaNet ins Visier nehmen, die in Überwachungssystemen eingesetzt werden. Durch das Einbetten spezifischer Farb- und Formmuster verdirbt es die Merkmalsextraktionsschichten, sodass das Modell die Person falsch klassifiziert oder sie nicht erkennt.
Das ist ML-Evasion in der realen Welt. Gleiche Idee wie jene Patches, die Stopp-Schilder für Teslas Autopilot unsichtbar machen – nur jetzt als Mode umgesetzt.
Der Preis dafür? Du siehst absolut lächerlich aus. Wenn du aber versuchst, in öffentlichen Bereichen der Gesichtserkennung auszuweichen, ist das ein kleiner Preis für die Verwirrung des Modells.
Das Muster nutzt Techniken für adversariales Rauschen – ähnlich wie Forschende neuronale Netze täuschen, indem sie Bildern unauffällige Störungen hinzufügen. Aber statt digitaler Angriffe handelt es sich hier um tragbare, adversariale Eingaben.
Das Hemd dürfte gängige CV-Architekturen wie YOLO oder RetinaNet ins Visier nehmen, die in Überwachungssystemen eingesetzt werden. Durch das Einbetten spezifischer Farb- und Formmuster verdirbt es die Merkmalsextraktionsschichten, sodass das Modell die Person falsch klassifiziert oder sie nicht erkennt.
Das ist ML-Evasion in der realen Welt. Gleiche Idee wie jene Patches, die Stopp-Schilder für Teslas Autopilot unsichtbar machen – nur jetzt als Mode umgesetzt.
Der Preis dafür? Du siehst absolut lächerlich aus. Wenn du aber versuchst, in öffentlichen Bereichen der Gesichtserkennung auszuweichen, ist das ein kleiner Preis für die Verwirrung des Modells.
