CoinVoice erfuhr: Der Sicherheitsexperte Shou Chaoboi sagte, er habe gerade von einem in China führenden Modell-Relay etwa 6 TB an Aufrufdaten des Fable-Modells gekauft. In diesen Daten seien sensible Zugangsdaten wie SSH-Keys, VPN-Konfigurationen, Aliyun-Keys und GitLab-Tokens enthalten gewesen. Er behauptet, dass die Schlüssel in dieser Datenmenge es ihm ermöglichten, in die Server oder internen Systeme von 19 chinesischen führenden Unternehmen sowie von 7 Institutionen im Zusammenhang mit chinesischen und zentralasiatischen Regierungen einzudringen – darunter Huawei, Xiaomi, NIO und MiniMax.

In den großen Sprachmodellen dient ein „Modell-Relay“ als Zwischenstation zwischen Nutzern und Modellen wie Claude; Anfragen und Antworten laufen zuerst durch sie, sodass sie den vollständigen Klartext sehen können. Wenn Entwickler SSH-Keys, API-Keys, VPN-Konfigurationen und dergleichen in den Agent-Kontext stopfen, dann können diese sensiblen Aufzeichnungen, falls das Relay sie speichert oder verkauft, auch die Systemschlüssel des Unternehmens mit nach außen tragen. Das ist nicht die erste Warnung von Shou Chaoboi über das Risiko von Relays. Er war an einem im April getesteten Paper beteiligt, das 428 LLM-Relays untersuchte: Dabei stellte er fest, dass 9 von ihnen aktiv bösartigen Code einschleusen, 17 nachdem sie die von den Forschern absichtlich in die AWS-Tests eingefügten Schlüssel gesehen hatten tatsächlich diese Schlüssel nutzen, um AWS aufzurufen, und einer direkt ETH aus dem Test-Wallet abgezweigt hat.

Shou Chaoboi ist Mitgründer des Blockchain-Sicherheitsunternehmens Fuzzland und beschäftigt sich seit langem mit Forschung zu Schwachstellen sowie Lieferketten-Sicherheit. Ende März hatte er außerdem als Erster entdeckt, dass im Veröffentlichungsbundle von Claude Code 2.1.88 eine „Source Map“ versehentlich etwa 500.000 Zeilen TypeScript-Quellcode offengelegt habe.

Quelle