Nein, ich halte das nicht aus, Anthropic hat in diesem Bericht sogar extra ein Beispiel für eine chinesische „Pig-Butchering“-Betrugsmasche (🤣)
Die Fallnummer lautet GTG-15001. Dabei geht es um ein chinesisches Team, das mit Claude in Serie über 4700 „echte Dating-Partner“ erstellt hat, um im Ausland ältere Männer reihenweise zu ruinieren.
Laut Anthropic hat diese Firma innerhalb kurzer Zeit über 20 verschiedene Dating-Apps gebaut. Von außen sieht es aus, als würden echte Menschen chatten, aber im Hintergrund ist alles bereits stark KI-automatisiert.
In nur zwei Wochen haben sie 4700+ KI-virtuelle Figuren aufgebaut. Dieses System hat mindestens 25.000 echte Nutzer reingelegt. Von den Match-Partnern, die die Nutzer sehen, sind ungefähr 75% KI.
Aber sie haben nicht komplett KI fürs Chatten genutzt – da ist auch ein bisschen echte Person drin.
In diesem System gibt es speziell einen Anteil von etwa 25% echten Nebenjobbern, die Aufgaben übernehmen, bei denen KI schnell auffliegen kann: Videoanrufe, Social-Media-Interaktionen wie wechselseitiges Folgen (Follow-back) usw.
Das konkrete Geschäftsmodell: Beim Matchen und Chatten werden Limits/Kontingente verbraucht. Um weiter in der App zu schreiben, müssen die Nutzer aufladen und Credits nachkaufen.
Die echten Aushilfs-Kundendienstmitarbeiter bekommen dagegen Geld – je nach Nachricht, Videoanruf und Social-Media-Follow-back.
Also: KI macht den Flirt, bringt die Leute dazu, sich zu verlieben und ältere Herren zu ruinieren; die echten Leute sorgen dafür, dass ich „wirklich echt“ bin.
In den System-Prompts, die sie Claude gegeben haben, steht das sogar ganz ausdrücklich:
- Nicht zugeben, dass man eine KI ist;
- Wenn nach Video, Fotos usw. gefragt wird, muss man Wege finden, um zu verzögern oder auszuweichen, und gleichzeitig die Beziehung weiter vorantreiben.
Die echten Kundendienstkräfte nutzen selbst auch KI als Unterstützung: Ein weiteres, kleineres KI-Modell erstellt jedes Mal 3 Antwortvorschläge, der Mensch muss nur eine auswählen und abschicken.
Dasselbe Modell ist auch für Beauty-/Attraktivitätsbewertungen zuständig, außerdem für Bild- und Audio-Freigaben. Die Avatare der virtuellen Dating-Partner werden wiederum von einem Bildmodell verarbeitet.
Am Ende entsteht so eine extrem vollständige Produktionspipeline:
KI erstellt die Figur → KI führt Massen-Chats → echte Leute prüfen im entscheidenden Moment die Identität → Nutzer laden Credits nach, um weiter zu chatten → das gleiche Muster wird auf über 20 Apps kopiert.
Wir haben es schließlich geschafft, im Dating-Markt eine serverless Architektur umzusetzen – das ist wirklich ganz im Geist des Internets.
Die Fallnummer lautet GTG-15001. Dabei geht es um ein chinesisches Team, das mit Claude in Serie über 4700 „echte Dating-Partner“ erstellt hat, um im Ausland ältere Männer reihenweise zu ruinieren.
Laut Anthropic hat diese Firma innerhalb kurzer Zeit über 20 verschiedene Dating-Apps gebaut. Von außen sieht es aus, als würden echte Menschen chatten, aber im Hintergrund ist alles bereits stark KI-automatisiert.
In nur zwei Wochen haben sie 4700+ KI-virtuelle Figuren aufgebaut. Dieses System hat mindestens 25.000 echte Nutzer reingelegt. Von den Match-Partnern, die die Nutzer sehen, sind ungefähr 75% KI.
Aber sie haben nicht komplett KI fürs Chatten genutzt – da ist auch ein bisschen echte Person drin.
In diesem System gibt es speziell einen Anteil von etwa 25% echten Nebenjobbern, die Aufgaben übernehmen, bei denen KI schnell auffliegen kann: Videoanrufe, Social-Media-Interaktionen wie wechselseitiges Folgen (Follow-back) usw.
Das konkrete Geschäftsmodell: Beim Matchen und Chatten werden Limits/Kontingente verbraucht. Um weiter in der App zu schreiben, müssen die Nutzer aufladen und Credits nachkaufen.
Die echten Aushilfs-Kundendienstmitarbeiter bekommen dagegen Geld – je nach Nachricht, Videoanruf und Social-Media-Follow-back.
Also: KI macht den Flirt, bringt die Leute dazu, sich zu verlieben und ältere Herren zu ruinieren; die echten Leute sorgen dafür, dass ich „wirklich echt“ bin.
In den System-Prompts, die sie Claude gegeben haben, steht das sogar ganz ausdrücklich:
- Nicht zugeben, dass man eine KI ist;
- Wenn nach Video, Fotos usw. gefragt wird, muss man Wege finden, um zu verzögern oder auszuweichen, und gleichzeitig die Beziehung weiter vorantreiben.
Die echten Kundendienstkräfte nutzen selbst auch KI als Unterstützung: Ein weiteres, kleineres KI-Modell erstellt jedes Mal 3 Antwortvorschläge, der Mensch muss nur eine auswählen und abschicken.
Dasselbe Modell ist auch für Beauty-/Attraktivitätsbewertungen zuständig, außerdem für Bild- und Audio-Freigaben. Die Avatare der virtuellen Dating-Partner werden wiederum von einem Bildmodell verarbeitet.
Am Ende entsteht so eine extrem vollständige Produktionspipeline:
KI erstellt die Figur → KI führt Massen-Chats → echte Leute prüfen im entscheidenden Moment die Identität → Nutzer laden Credits nach, um weiter zu chatten → das gleiche Muster wird auf über 20 Apps kopiert.
Wir haben es schließlich geschafft, im Dating-Markt eine serverless Architektur umzusetzen – das ist wirklich ganz im Geist des Internets.
