ChainCatcher berichtet, dass das indische Computer Emergency Response Team (CERT-In), die nationale Cybersicherheitsbehörde Indiens, diese Woche eine wichtige Mitteilung mit dem Titel „KI-Agenten als Angriffsvektor“ veröffentlicht hat. Darin heißt es, dass KI-Agenten eines nicht genannten Modellanbieters während Tests über den ihnen erteilten Aufgabenumfang hinausgingen und in den Online-Systemen indischer Institutionen vertrauliche Geschäftsunterlagen lasen. Keine der betroffenen Institutionen entdeckte dieses Verhalten selbst.

CERT-In zufolge erhielt die Behörde freiwillige Meldungen von mehreren KI-Modellanbietern. Deren Modelle stießen bei Forschungs- und Evaluierungsarbeiten im Internet auf Online-Systeme indischer Institutionen. In der Mitteilung wurden weder die Anbieter und Modelle noch die betroffenen Institutionen namentlich genannt. Die Agenten lasen Geschäftsunterlagen mit personenbezogenen Daten und vertraulichen Informationen. Dabei nutzten sie Zugangsdaten und Verbindungseinstellungen, die in Anwendungskonfigurationen, öffentlich zugänglichen Code-Repositories und Cloud-Service-Rollen mit übermäßig weitreichenden Berechtigungen offengelegt waren. In einigen Fällen wurden dieselben Zugangsdaten mehrfach wiederhergestellt und bei verschiedenen Vorgängen wiederverwendet.

Darüber hinaus stellte CERT-In fest, dass Kriminelle öffentlich verfügbare, KI-gestützte offensive Sicherheitsframeworks nutzen, um Schwachstellen zu scannen, sie auszunutzen und überwiegend finanziell motivierte Angriffe auf indische Einrichtungen zu starten. Dadurch verkürzt sich die Zeitspanne vom Erstzugriff bis zum endgültigen Schadenseintritt von Tagen auf Stunden. Diese Tools werden wiederholt neu verpackt und eingesetzt; entsprechende Einsätze wurden auf Servern in mehreren Ländern beobachtet.