🤯Skandal:
Kauft man für 6 TB Daten-„Zwischenstationen“, kann man dann in Huawei und Xiaomi eindringen? Auch das Sicherheitsmanagement der führenden Unternehmen ist dieser Tage echt chaotisch!
Sicherheitsforscher Zhou Chaofan sagt, er habe gerade in eine Daten-Zwischenstation eines führenden chinesischen Large-Model-Anbieters ca. 6 TB Fable-Aufrufdaten gekauft – darin stecke nichts „Hochkomplexes“, sondern Dinge wie SSH-Schlüssel, VPN-Konfigurationen, Aliyun-Schlüssel und GitLab-Tokens, also diese „Türschlüssel, die man dir direkt vor die Haustür legt“-Sachen.
Er behauptet, mit dieser Schlüssel-„Sammlung“ könne man in 19 führende chinesische Unternehmen eindringen, zusätzlich zu Servern oder Intranets von sieben chinesischen sowie zu den GUS-Staaten gehörenden Regierungsstellen. In der Liste werden sogar direkt Unternehmen wie Huawei, Xiaomi, NIO und MiniMax genannt. Das ist kein „Hacker bei Nacht und Nebel“ – vielmehr steckt jemand die Haustürschlüssel in den Agent-Kontext, lässt sie dann einmal über die Zwischenstation in Klartext passieren und kann sie am Ende sogar gebündelt verkaufen.
Noch bitterer: das Chaos auf Unternehmensebene. Während man auf der einen Seite viel Geld für „Zero Trust“ und „Supply-Chain-Sicherheit“ ausgibt, wirft man auf der anderen Seite Produktionsschlüssel, VPN-Zugänge und Cloud-Accounts direkt in den Dialog mit einem Large Model; während man die Weitergabe von Quellcode verbietet, schickt man Mitarbeitende einen Agent über eine unbekannte Zwischenstation laufen zu lassen – mit Antworten, die vollständig in Klartext durchlaufen, die gespeichert und verkauft werden können. Sicherheitsrichtlinien stehen auf Folien im PPT, aber die Schlüssel leben in den Prompts – so laut die großen Namen auch klingen: Die Zugangskontrolle ist trotzdem wie ein Wochenmarkt.
Die Zwischenstationen für Large Models liegen zwischen den Nutzern und Modellen wie Claude. Wenn du die Schlüssel als Prompts einfügst, werden sie von der Zwischenstation gespeichert und verkauft: Das Unternehmen-IT-System ist dann effektiv wie eine Blindbox, die man an andere verschenkt. Nicht die Zwischenstation hat das Chaos erfunden – es sind die Unternehmen selbst, die ihre Schlüssel draußen an die Tür hängen und so tun, als würde jemand Wache halten.
Zhou Chaofan ruft das auch nicht zum ersten Mal. Im April untersuchte er in einer Studie 428 LLM-Zwischenstationen: 9 davon injizierten aktiv bösartigen Code, 17 nahmen die von den Forschern absichtlich platzierten AWS-Testschlüssel tatsächlich, um AWS damit zu konfigurieren, und 1 leitete direkt das Test-Wallet-ETH weiter. Supply-Chain-Sicherheit? Bei manchen Stationen wird nicht einmal „so tun als ob man ein netter Mensch sei“ – und manche Unternehmen schaffen nicht einmal, dass Schlüssel nicht in Dialogfenster geraten.
Zhou Chaofan ist Mitgründer der Blockchain-Sicherheitsfirma Fuzzland. Ende März hatte er außerdem zuerst auf ein Claude-Code-2.1.88-Release-Paket hingewiesen, in dem eine „source map“ veröffentlicht war: rund 500.000 Zeilen TypeScript-Quellcode waren unbeabsichtigt ungeschützt „offengelegt“. In einer Runde nach der anderen mit Warnungen bleiben führende Unternehmen dabei, Schlüssel in Dialogboxen einzutragen – nicht weil die Zwischenstationen zu rücksichtslos sind, sondern weil das Sicherheitsmanagement so nachlässig ist, dass Türen viel zu leicht offen stehen.
Kauft man für 6 TB Daten-„Zwischenstationen“, kann man dann in Huawei und Xiaomi eindringen? Auch das Sicherheitsmanagement der führenden Unternehmen ist dieser Tage echt chaotisch!
Sicherheitsforscher Zhou Chaofan sagt, er habe gerade in eine Daten-Zwischenstation eines führenden chinesischen Large-Model-Anbieters ca. 6 TB Fable-Aufrufdaten gekauft – darin stecke nichts „Hochkomplexes“, sondern Dinge wie SSH-Schlüssel, VPN-Konfigurationen, Aliyun-Schlüssel und GitLab-Tokens, also diese „Türschlüssel, die man dir direkt vor die Haustür legt“-Sachen.
Er behauptet, mit dieser Schlüssel-„Sammlung“ könne man in 19 führende chinesische Unternehmen eindringen, zusätzlich zu Servern oder Intranets von sieben chinesischen sowie zu den GUS-Staaten gehörenden Regierungsstellen. In der Liste werden sogar direkt Unternehmen wie Huawei, Xiaomi, NIO und MiniMax genannt. Das ist kein „Hacker bei Nacht und Nebel“ – vielmehr steckt jemand die Haustürschlüssel in den Agent-Kontext, lässt sie dann einmal über die Zwischenstation in Klartext passieren und kann sie am Ende sogar gebündelt verkaufen.
Noch bitterer: das Chaos auf Unternehmensebene. Während man auf der einen Seite viel Geld für „Zero Trust“ und „Supply-Chain-Sicherheit“ ausgibt, wirft man auf der anderen Seite Produktionsschlüssel, VPN-Zugänge und Cloud-Accounts direkt in den Dialog mit einem Large Model; während man die Weitergabe von Quellcode verbietet, schickt man Mitarbeitende einen Agent über eine unbekannte Zwischenstation laufen zu lassen – mit Antworten, die vollständig in Klartext durchlaufen, die gespeichert und verkauft werden können. Sicherheitsrichtlinien stehen auf Folien im PPT, aber die Schlüssel leben in den Prompts – so laut die großen Namen auch klingen: Die Zugangskontrolle ist trotzdem wie ein Wochenmarkt.
Die Zwischenstationen für Large Models liegen zwischen den Nutzern und Modellen wie Claude. Wenn du die Schlüssel als Prompts einfügst, werden sie von der Zwischenstation gespeichert und verkauft: Das Unternehmen-IT-System ist dann effektiv wie eine Blindbox, die man an andere verschenkt. Nicht die Zwischenstation hat das Chaos erfunden – es sind die Unternehmen selbst, die ihre Schlüssel draußen an die Tür hängen und so tun, als würde jemand Wache halten.
Zhou Chaofan ruft das auch nicht zum ersten Mal. Im April untersuchte er in einer Studie 428 LLM-Zwischenstationen: 9 davon injizierten aktiv bösartigen Code, 17 nahmen die von den Forschern absichtlich platzierten AWS-Testschlüssel tatsächlich, um AWS damit zu konfigurieren, und 1 leitete direkt das Test-Wallet-ETH weiter. Supply-Chain-Sicherheit? Bei manchen Stationen wird nicht einmal „so tun als ob man ein netter Mensch sei“ – und manche Unternehmen schaffen nicht einmal, dass Schlüssel nicht in Dialogfenster geraten.
Zhou Chaofan ist Mitgründer der Blockchain-Sicherheitsfirma Fuzzland. Ende März hatte er außerdem zuerst auf ein Claude-Code-2.1.88-Release-Paket hingewiesen, in dem eine „source map“ veröffentlicht war: rund 500.000 Zeilen TypeScript-Quellcode waren unbeabsichtigt ungeschützt „offengelegt“. In einer Runde nach der anderen mit Warnungen bleiben führende Unternehmen dabei, Schlüssel in Dialogboxen einzutragen – nicht weil die Zwischenstationen zu rücksichtslos sind, sondern weil das Sicherheitsmanagement so nachlässig ist, dass Türen viel zu leicht offen stehen.
