L’IA VIENT D’ÊTRE UTILISÉE COMME OUTIL D’INFLUENCE POLITIQUE.
OpenAI affirme avoir récemment démantelé et interdit deux opérations d’influence clandestines liées à la Russie et à l’Iran, qui utilisaient ChatGPT pour créer des contenus trompeurs.
L’opération russe aurait utilisé ChatGPT pour soutenir un faux « groupe de réflexion » et mener des activités d’influence ciblant des publics en Amérique latine, tandis que l’opération iranienne s’appuyait sur plusieurs faux profils de journalistes pour proposer des articles géopolitiques à des médias en ligne.
Il ne s’agit plus seulement de générer du texte avec l’IA.
Il s’agit de s’en servir pour bâtir toute l’infrastructure des campagnes d’influence : fausses identités, contenus, diffusion et crédibilité.
Le plus inquiétant ?
L’IA n’a pas besoin d’être la propagande. Elle peut en être l’usine de production.
À quel point sera-t-il plus difficile de distinguer le vrai du faux lorsque les opérations d’influence pourront prendre de l’ampleur grâce à l’IA ?
OpenAI affirme avoir récemment démantelé et interdit deux opérations d’influence clandestines liées à la Russie et à l’Iran, qui utilisaient ChatGPT pour créer des contenus trompeurs.
L’opération russe aurait utilisé ChatGPT pour soutenir un faux « groupe de réflexion » et mener des activités d’influence ciblant des publics en Amérique latine, tandis que l’opération iranienne s’appuyait sur plusieurs faux profils de journalistes pour proposer des articles géopolitiques à des médias en ligne.
Il ne s’agit plus seulement de générer du texte avec l’IA.
Il s’agit de s’en servir pour bâtir toute l’infrastructure des campagnes d’influence : fausses identités, contenus, diffusion et crédibilité.
Le plus inquiétant ?
L’IA n’a pas besoin d’être la propagande. Elle peut en être l’usine de production.
À quel point sera-t-il plus difficile de distinguer le vrai du faux lorsque les opérations d’influence pourront prendre de l’ampleur grâce à l’IA ?