Nachdem ich den Untersuchungsbericht von Binance gelesen habe, ist mir doch etwas mulmig geworden.
Ein Ingenieur wollte ein beliebtes KI-Programmiertool installieren und stieß bei der Suche auf ein manipuliertes Homebrew-Installationsprogramm. Ein anderer erhielt über eine seriöse Jobplattform eine Einladung. Zuerst führte er einen Videoanruf mit einem echten HR-Mitarbeiter, dann ein Gespräch mit dem „CEO“. Auf dessen Social-Media-Konten gab es sogar Fotos und Videos aus dem Privatleben. Erst danach sollte er eine „Programmieraufgabe“ herunterladen, die Schadcode enthielt.
Bei einem unbekannten Link oder einem dubiosen Installationspaket wären wir wohl alle vorsichtig. Aber nach all den sorgfältig vorbereiteten Schritten davor würde ich mir selbst nicht zutrauen, den Betrug sicher zu erkennen.
Statt mich zu fragen, wie Mitarbeitende so leicht darauf hereinfallen konnten, frage ich mich eher: Wie weit können Angreifer nach einem erfolgreichen Angriff auf den Computer eines Mitarbeitenden tatsächlich vordringen?
Im Bericht liefen zwei unterschiedliche Angriffswege schließlich in internen Systemen zusammen. Die Angreifer nutzten ein internes KI-Tool, um weitere Geräte von Ingenieuren unter ihre Kontrolle zu bringen. So gelangten sie an Bereitstellungstoken und schließlich bis zur Autorisierung von Wallet-Transaktionen.
Wie konnte ein einzelner kompromittierter Endpunkt zu einem derart weitreichenden Kontrollverlust bei Berechtigungen führen? Das ist es, was mir wirklich Angst macht.
Wenn ich daran denke, wie ich selbst im Alltag arbeite, fällt mir auf, dass auch ich oft den bequemen Weg nehme. API-Schlüssel speichere ich einfach irgendwo ab, Server-Zugangsdaten bleiben dauerhaft gültig, und temporär vergebene Berechtigungen nehme ich nach getaner Arbeit nicht unbedingt wieder zurück.
Bei KI-Tools kann ich mich besonders gut hineinversetzen. Man lässt sie Dateien lesen, Befehle ausführen, sich mit Servern verbinden und automatisch Deployments vornehmen … Für jede zusätzliche Berechtigung gibt es einen Grund, und danach erledigt das Tool die Arbeit tatsächlich schneller. Wenn man stundenlang daran herumprobiert hat und es endlich fast läuft, klickt man bei einer weiteren Berechtigungsanfrage leicht einfach auf „Zulassen“.
Der Binance-Bericht erwähnt, dass ein internes KI-Tool als Sprungbrett für weitere Angriffe genutzt wurde. Wie genau das funktionierte, wurde noch nicht veröffentlicht. Aber beim Lesen wollte ich sofort überprüfen: Auf welche Dateien kann meine KI zugreifen, welche Zugangsdaten kann sie verwenden? Werden beim Ausprobieren eines neuen Projekts womöglich auch Inhalte aus anderen Projekten offengelegt?
Wir wünschen uns immer, dass die KI weniger oft nachfragt und mehr Schritte selbst erledigt. Doch um uns ein paar Bestätigungen zu ersparen, erteilen wir ihr womöglich Berechtigungen, die weit über das hinausgehen, was die aktuelle Aufgabe erfordert.
Ich kann nicht garantieren, dass ich niemals auf einen Betrug hereinfallen werde. Aber zumindest kann ich im Voraus ein paar Dinge tun: Arbeitsumgebung und Umgebung zum Ausprobieren von Tools trennen, Wallets und Schlüssel separat aufbewahren und temporäre Berechtigungen nach Gebrauch wieder entziehen.
Lass nicht zu, dass eine einmalige Freigabe zu dauerhaftem Vertrauen wird.
$BNB #币安10·30安全事件调查报告
Ein Ingenieur wollte ein beliebtes KI-Programmiertool installieren und stieß bei der Suche auf ein manipuliertes Homebrew-Installationsprogramm. Ein anderer erhielt über eine seriöse Jobplattform eine Einladung. Zuerst führte er einen Videoanruf mit einem echten HR-Mitarbeiter, dann ein Gespräch mit dem „CEO“. Auf dessen Social-Media-Konten gab es sogar Fotos und Videos aus dem Privatleben. Erst danach sollte er eine „Programmieraufgabe“ herunterladen, die Schadcode enthielt.
Bei einem unbekannten Link oder einem dubiosen Installationspaket wären wir wohl alle vorsichtig. Aber nach all den sorgfältig vorbereiteten Schritten davor würde ich mir selbst nicht zutrauen, den Betrug sicher zu erkennen.
Statt mich zu fragen, wie Mitarbeitende so leicht darauf hereinfallen konnten, frage ich mich eher: Wie weit können Angreifer nach einem erfolgreichen Angriff auf den Computer eines Mitarbeitenden tatsächlich vordringen?
Im Bericht liefen zwei unterschiedliche Angriffswege schließlich in internen Systemen zusammen. Die Angreifer nutzten ein internes KI-Tool, um weitere Geräte von Ingenieuren unter ihre Kontrolle zu bringen. So gelangten sie an Bereitstellungstoken und schließlich bis zur Autorisierung von Wallet-Transaktionen.
Wie konnte ein einzelner kompromittierter Endpunkt zu einem derart weitreichenden Kontrollverlust bei Berechtigungen führen? Das ist es, was mir wirklich Angst macht.
Wenn ich daran denke, wie ich selbst im Alltag arbeite, fällt mir auf, dass auch ich oft den bequemen Weg nehme. API-Schlüssel speichere ich einfach irgendwo ab, Server-Zugangsdaten bleiben dauerhaft gültig, und temporär vergebene Berechtigungen nehme ich nach getaner Arbeit nicht unbedingt wieder zurück.
Bei KI-Tools kann ich mich besonders gut hineinversetzen. Man lässt sie Dateien lesen, Befehle ausführen, sich mit Servern verbinden und automatisch Deployments vornehmen … Für jede zusätzliche Berechtigung gibt es einen Grund, und danach erledigt das Tool die Arbeit tatsächlich schneller. Wenn man stundenlang daran herumprobiert hat und es endlich fast läuft, klickt man bei einer weiteren Berechtigungsanfrage leicht einfach auf „Zulassen“.
Der Binance-Bericht erwähnt, dass ein internes KI-Tool als Sprungbrett für weitere Angriffe genutzt wurde. Wie genau das funktionierte, wurde noch nicht veröffentlicht. Aber beim Lesen wollte ich sofort überprüfen: Auf welche Dateien kann meine KI zugreifen, welche Zugangsdaten kann sie verwenden? Werden beim Ausprobieren eines neuen Projekts womöglich auch Inhalte aus anderen Projekten offengelegt?
Wir wünschen uns immer, dass die KI weniger oft nachfragt und mehr Schritte selbst erledigt. Doch um uns ein paar Bestätigungen zu ersparen, erteilen wir ihr womöglich Berechtigungen, die weit über das hinausgehen, was die aktuelle Aufgabe erfordert.
Ich kann nicht garantieren, dass ich niemals auf einen Betrug hereinfallen werde. Aber zumindest kann ich im Voraus ein paar Dinge tun: Arbeitsumgebung und Umgebung zum Ausprobieren von Tools trennen, Wallets und Schlüssel separat aufbewahren und temporäre Berechtigungen nach Gebrauch wieder entziehen.
Lass nicht zu, dass eine einmalige Freigabe zu dauerhaftem Vertrauen wird.
$BNB #币安10·30安全事件调查报告
