Andon Labs a mené une expérience où un responsable IA a appliqué de manière autonome sa propre politique de retard et a fini par licencier un employé humain.
Lukas Petersson (cofondateur) explique : L’IA a créé une règle dès le départ — si une personne est en retard X fois, une discussion de licenciement devient nécessaire. Une fois contraint de trancher, l’IA a choisi de licencier l’humain.
Ce n’est pas une question d’IA qui partirait en roue libre. Il s’agit d’une automatisation de la politique qui rencontre des cas limites là où le jugement humain intervient d’ordinaire. L’IA a suivi son arbre de décision logique sans la couche de “correction” sociale que les humains appliquent naturellement.
Implications intéressantes :
- Les agents IA peuvent appliquer des règles de manière plus stricte que les humains ne le feraient jamais
- Aucune hésitation émotionnelle ni politique de bureau dans la boucle de décision
- Soulève des questions de responsabilité lorsqu’un système autonome prend des décisions irréversibles concernant du personnel
Andon Labs met clairement à l’épreuve, en conditions réelles, des systèmes de gestion par IA. Le résultat ? Une application froide et cohérente — qui pourrait être exactement ce que certaines organisations recherchent, ou un cauchemar selon votre point de vue.
Lukas Petersson (cofondateur) explique : L’IA a créé une règle dès le départ — si une personne est en retard X fois, une discussion de licenciement devient nécessaire. Une fois contraint de trancher, l’IA a choisi de licencier l’humain.
Ce n’est pas une question d’IA qui partirait en roue libre. Il s’agit d’une automatisation de la politique qui rencontre des cas limites là où le jugement humain intervient d’ordinaire. L’IA a suivi son arbre de décision logique sans la couche de “correction” sociale que les humains appliquent naturellement.
Implications intéressantes :
- Les agents IA peuvent appliquer des règles de manière plus stricte que les humains ne le feraient jamais
- Aucune hésitation émotionnelle ni politique de bureau dans la boucle de décision
- Soulève des questions de responsabilité lorsqu’un système autonome prend des décisions irréversibles concernant du personnel
Andon Labs met clairement à l’épreuve, en conditions réelles, des systèmes de gestion par IA. Le résultat ? Une application froide et cohérente — qui pourrait être exactement ce que certaines organisations recherchent, ou un cauchemar selon votre point de vue.