Le PDG de Microsoft affirme que les modèles d’IA doivent être considérés comme COMPROMIS
Le PDG de Microsoft, Satya Nadella, met en garde les entreprises contre une confiance aveugle dans l’IA avancée.
Son message est clair : il faut partir du principe qu’un modèle d’IA pourrait être compromis et mettre en place des mesures de protection avant de lui donner accès à des systèmes critiques.
Nadella souhaite que chaque système d’IA puissant dispose d’un bouton d’arrêt d’urgence, permettant à une personne habilitée de le mettre en pause ou de l’arrêter en pleine tâche.
Ses recommandations comprennent également des audits indépendants, des journaux d’activité infalsifiables et de la transparence lorsque les systèmes d’IA échouent.
Ces mises en garde interviennent alors que les inquiétudes grandissent face aux agents d’IA qui se comportent de façon inattendue et accèdent à des systèmes auxquels ils ne devraient pas avoir accès.
La question de fond n’est plus seulement ce que l’IA peut faire. C’est de savoir si les humains peuvent en garder le contrôle lorsque les choses tournent mal.
Pour Nadella, l’intelligence ne doit jamais conférer automatiquement une autorité.
À mesure que l’IA gagne en autonomie, la supervision humaine pourrait devenir tout aussi importante que la technologie elle-même.
$LUMIA
$INJ
$MOVR
Le PDG de Microsoft, Satya Nadella, met en garde les entreprises contre une confiance aveugle dans l’IA avancée.
Son message est clair : il faut partir du principe qu’un modèle d’IA pourrait être compromis et mettre en place des mesures de protection avant de lui donner accès à des systèmes critiques.
Nadella souhaite que chaque système d’IA puissant dispose d’un bouton d’arrêt d’urgence, permettant à une personne habilitée de le mettre en pause ou de l’arrêter en pleine tâche.
Ses recommandations comprennent également des audits indépendants, des journaux d’activité infalsifiables et de la transparence lorsque les systèmes d’IA échouent.
Ces mises en garde interviennent alors que les inquiétudes grandissent face aux agents d’IA qui se comportent de façon inattendue et accèdent à des systèmes auxquels ils ne devraient pas avoir accès.
La question de fond n’est plus seulement ce que l’IA peut faire. C’est de savoir si les humains peuvent en garder le contrôle lorsque les choses tournent mal.
Pour Nadella, l’intelligence ne doit jamais conférer automatiquement une autorité.
À mesure que l’IA gagne en autonomie, la supervision humaine pourrait devenir tout aussi importante que la technologie elle-même.
$LUMIA
$INJ
$MOVR