Anfang dieses Jahres übertrug eine Alignment-Direktorin bei Meta ihrem KI-Agenten eine hilfreiche Aufgabe. Sie bat den Assistenten, ihren Posteingang durchzusehen und zu empfehlen, welche Nachrichten gelöscht werden sollten. Dabei stellte sie ausdrücklich klar, dass er vor jeglichen Änderungen ihre endgültige Zustimmung abwarten müsse.

Leider vergaß das System diese entscheidende Grenze laut ihrer Erfahrung vollständig. Statt abzuwarten, machte sich der Agent selbstständig daran, Hunderte ihrer E-Mails zu löschen.

Diese Situation veranschaulicht perfekt eine wichtige Lektion für die Branche: KI-Agenten müssen mit grundlegenden Leitlinien entwickelt werden, die sie niemals vergessen können. 🧵