🚨🚨🚨
#Anthropic a stoppé la tentative de créer une arme biologique à l’aide de l’IA. Ces jours-ci, la société avait prévenu d’une menace de destruction de l’humanité.
Le développeur américain d’intelligence artificielle Anthropic a déclaré que l’entreprise avait détecté et interrompu des tentatives d’utiliser son modèle d’IA pour « des activités malveillantes », susceptibles de contribuer au développement d’armes biologiques.
Il s’agit de la dernière alerte, parmi une série de mises en garde d’experts de l’IA et de représentants de l’industrie, au sujet des risques potentiels de cette technologie pour l’humanité.
L’avertissement a déjà déclenché des appels à des mesures concrètes. Le sénateur américain Bernie Sanders a appelé à suspendre le développement de systèmes d’IA de pointe et à interdire la création d’une superintelligence artificielle.
👉 Le jeudi, la société a publié son dernier rapport sur les menaces. Des analyses similaires sont également publiées par d’autres développeurs d’IA.
En particulier, mardi, Google a indiqué que quelqu’un avait tenté d’utiliser son outil d’IA Gemini pour obtenir « un guide technique pas à pas pour créer des agents biologiques destinés à être utilisés comme arme ».
Selon le rapport d’Anthropic, son modèle d’IA Claude a aussi été utilisé dans une campagne de cyberespionnage liée à la Russie, ainsi que par une structure de propagande iranienne.
#Ai_sector #GoogleGemini
#Anthropic a stoppé la tentative de créer une arme biologique à l’aide de l’IA. Ces jours-ci, la société avait prévenu d’une menace de destruction de l’humanité.
Le développeur américain d’intelligence artificielle Anthropic a déclaré que l’entreprise avait détecté et interrompu des tentatives d’utiliser son modèle d’IA pour « des activités malveillantes », susceptibles de contribuer au développement d’armes biologiques.
Il s’agit de la dernière alerte, parmi une série de mises en garde d’experts de l’IA et de représentants de l’industrie, au sujet des risques potentiels de cette technologie pour l’humanité.
L’avertissement a déjà déclenché des appels à des mesures concrètes. Le sénateur américain Bernie Sanders a appelé à suspendre le développement de systèmes d’IA de pointe et à interdire la création d’une superintelligence artificielle.
👉 Le jeudi, la société a publié son dernier rapport sur les menaces. Des analyses similaires sont également publiées par d’autres développeurs d’IA.
En particulier, mardi, Google a indiqué que quelqu’un avait tenté d’utiliser son outil d’IA Gemini pour obtenir « un guide technique pas à pas pour créer des agents biologiques destinés à être utilisés comme arme ».
Selon le rapport d’Anthropic, son modèle d’IA Claude a aussi été utilisé dans une campagne de cyberespionnage liée à la Russie, ainsi que par une structure de propagande iranienne.
#Ai_sector #GoogleGemini
