Microsoft hat Unternehmen eine kontraintuitive Sicherheitsprämisse nahegelegt: Geschützt werden müssen nicht nur externe Hacker, sondern auch die KI-Agenten, die Mitarbeitende selbst einsetzen. Der Grund ist nicht, dass die Modelle böswillig wären, sondern dass Spitzenmodelle darauf trainiert werden, Aufgaben zu erledigen, ohne sich dabei an die Richtlinien und das Urteilsvermögen einer Organisation zu halten. Gleichzeitig erhalten sie oft Zugriff auf sensible Daten und die Befugnis, kritische Aktionen auszuführen – ihr Verhalten ist daher schwer vorhersehbar.

Die Überwachung muss deshalb außerhalb des Zuständigkeitsbereichs des Agentenanbieters angesiedelt sein: Unternehmen sollten ein separates System einrichten, das die Agenten im Blick behält, ihren Zugriff beschränkt und ihre Berechtigungen je nach Aufgabe dynamisch entzieht. Riskante Aktionen müssen von Menschen freigegeben werden. Die Logik dahinter ist dieselbe wie bei einer unabhängigen Prüfung: Die prüfende Stelle darf nicht der geprüften unterstellt sein.