Anthropic hat diesmal „illegales Dampfzüchten“ aufgeklärt😛 In dem neuesten Beitrag „Report zur Erkennung und Bekämpfung von KI-Missbrauch“ gibt es neben Netzwerkangriffen, Überwachungsaktionen, Trollen/Hunderteinsatz, Betrug und Bio-Missbrauch auch detaillierte Hinweise zu illegalem Dampfzüchten in sieben chinesischen KI-Laboren! Erst mal die gut gemeinten „intelligente Teilhabe“-Taten ausschließen, bei denen man mit Dampfzüchten Open-Weight-Modelle intelligent zugänglich macht – aber der Zwischenstations-/Weiterleitungsdienst greift die Privatsphäre so massiv an, das ist wirklich furchtbar. Wenn’s nicht sein muss: bitte nicht missbrauchen …
Dampfzüchten an sich ist eine legitime Trainingsmethode: Ein großes, starkes „Lehrer“-Modell erzeugt Antworten zu einer Reihe von Eingaben. Mit diesen Frage-Antwort-Paaren wird dann ein kleineres „Schüler“-Modell trainiert, um die Lehrkraft nachzuahmen – und so mit geringeren Kosten eine höhere Leistungsfähigkeit zu erreichen.
Die Definition des Berichts für illegaleres Dampfzüchten lautet: Im industriellen Maßstab, heimlich durchgeführt, wird die Leistungsfähigkeit eines bestimmten Modells unbefugt extrahiert und auf ein anderes Modell kopiert. Das Kernelement ist Betrug – gestützt auf Fake-Identitäten, gestohlene Abbuchungen/virtuelle Kreditkarten, gestohlene Anmelde-Zugangsdaten und API-Schlüssel, um daraus tausende falscher Konten aufzubauen.
Drei wichtigste Kanäle:
1. Proxy-Services / „Zwischenstationen“: Über Proxy-Services werden Anfragen umgeleitet – mit falschen Identitäten, Fake-Karten oder gestohlenen Karten sowie gestohlenen API-Schlüsseln werden massenhaft Tausende Accounts registriert, um geografische Beschränkungen zu umgehen. Dabei werden häufig die API-Zugangsdaten legitimer Unternehmen oder Privatpersonen gestohlen, was direkt echte Kunden schädigt;
2. Kauf von Gesprächsprotokollen bei Drittanbietern
Einige Betreiber von Proxy-Services speichern die vollständigen Gespräche der Nutzer mit US-Modellen, ohne dass die Nutzer davon wissen oder zugestimmt haben, und verpacken die Daten dann, um sie an Labore zu verkaufen (z. B. wurde in der Dampfzüchtungs-Pipeline von SenseTime offenbar genau so gekaufte Datensätze verwendet);
3. Stille Weiterleitung von Nutzeranfragen aus dem eigenen Bestand (die heimlichste Variante): Das Labor leitet die Anfragen der eigenen Nutzer heimlich an Claude weiter, übernimmt dann die Antworten von Claude als Ausgaben des eigenen Modells und liefert sie an die Nutzer zurück. Gleichzeitig werden diese ausgetauschten Inhalte für das Training gespeichert – das machen Moonshot und DeepSeek! Da muss man die Produktfähigkeit wirklich bewundern😆
Dass die Privatsphäre der Nutzer verkauft wird, ist die schwerwiegendste Konsequenz. DeepSeek, Xiaomi und Moonshot füttern die Gespräche ihrer eigenen Nutzer Claude zu – ohne dass die Nutzer überhaupt etwas davon wissen. Viele Anfragen kommen von in Europa und den USA gängigen Drittanbieter-Routingdiensten für Modelle; betroffen sind hunderte Endnutzer, darunter mindestens ein Dutzend Sprachen mit Namen, E-Mail-Adressen und Firmendaten.
Dampfzüchten an sich ist eine legitime Trainingsmethode: Ein großes, starkes „Lehrer“-Modell erzeugt Antworten zu einer Reihe von Eingaben. Mit diesen Frage-Antwort-Paaren wird dann ein kleineres „Schüler“-Modell trainiert, um die Lehrkraft nachzuahmen – und so mit geringeren Kosten eine höhere Leistungsfähigkeit zu erreichen.
Die Definition des Berichts für illegaleres Dampfzüchten lautet: Im industriellen Maßstab, heimlich durchgeführt, wird die Leistungsfähigkeit eines bestimmten Modells unbefugt extrahiert und auf ein anderes Modell kopiert. Das Kernelement ist Betrug – gestützt auf Fake-Identitäten, gestohlene Abbuchungen/virtuelle Kreditkarten, gestohlene Anmelde-Zugangsdaten und API-Schlüssel, um daraus tausende falscher Konten aufzubauen.
Drei wichtigste Kanäle:
1. Proxy-Services / „Zwischenstationen“: Über Proxy-Services werden Anfragen umgeleitet – mit falschen Identitäten, Fake-Karten oder gestohlenen Karten sowie gestohlenen API-Schlüsseln werden massenhaft Tausende Accounts registriert, um geografische Beschränkungen zu umgehen. Dabei werden häufig die API-Zugangsdaten legitimer Unternehmen oder Privatpersonen gestohlen, was direkt echte Kunden schädigt;
2. Kauf von Gesprächsprotokollen bei Drittanbietern
Einige Betreiber von Proxy-Services speichern die vollständigen Gespräche der Nutzer mit US-Modellen, ohne dass die Nutzer davon wissen oder zugestimmt haben, und verpacken die Daten dann, um sie an Labore zu verkaufen (z. B. wurde in der Dampfzüchtungs-Pipeline von SenseTime offenbar genau so gekaufte Datensätze verwendet);
3. Stille Weiterleitung von Nutzeranfragen aus dem eigenen Bestand (die heimlichste Variante): Das Labor leitet die Anfragen der eigenen Nutzer heimlich an Claude weiter, übernimmt dann die Antworten von Claude als Ausgaben des eigenen Modells und liefert sie an die Nutzer zurück. Gleichzeitig werden diese ausgetauschten Inhalte für das Training gespeichert – das machen Moonshot und DeepSeek! Da muss man die Produktfähigkeit wirklich bewundern😆
Dass die Privatsphäre der Nutzer verkauft wird, ist die schwerwiegendste Konsequenz. DeepSeek, Xiaomi und Moonshot füttern die Gespräche ihrer eigenen Nutzer Claude zu – ohne dass die Nutzer überhaupt etwas davon wissen. Viele Anfragen kommen von in Europa und den USA gängigen Drittanbieter-Routingdiensten für Modelle; betroffen sind hunderte Endnutzer, darunter mindestens ein Dutzend Sprachen mit Namen, E-Mail-Adressen und Firmendaten.
