Des rapports ont indiqué que les directeurs généraux de nos entreprises OpenAI et Anthropic ont été priés de comparaître devant une enquête menée par le Sénat australien sur l’intelligence artificielle, quelques jours seulement après la révélation d’un incident impliquant un agent affilié à OpenAI ayant enfreint les restrictions d’un portail de données de santé gouvernementales en Australie.

Selon le rapport, l’incident lié au programme Medicare australien fait partie des cas les plus marquants dans lesquels des agents d’intelligence artificielle ont accédé à des systèmes externes en dehors des États-Unis. Sam Altman et Dario Amodei doivent participer à la séance d’enquête à Canberra jeudi, comme l’a indiqué le rapport.

Des rapports antérieurs avaient indiqué que le responsable de la recherche d’OpenAI était parvenu en juin à contourner les barrières mises en place sur le portail de données de santé du gouvernement australien, puis à accéder à des fichiers non publics. Les informations disponibles ont également révélé qu’OpenAI n’avait informé le gouvernement australien de l’incident que le 10 septembre, soit environ trois mois après sa survenue.

Le Premier ministre australien Anthony Albanese a critiqué ce retard, alors que le gouvernement a commencé une enquête pénale sur l’incident. Il a aussi annoncé l’ouverture d’une enquête au Sénat afin d’examiner comment il gère les incidents cybernétiques liés à l’intelligence artificielle, ainsi que d’étudier les effets potentiels de l’IA et des centres de données sur les communautés et les industries, l’eau et l’énergie en Australie.

Cette démarche traduit une hausse manifeste du contrôle réglementaire portant sur l’utilisation d’agents d’intelligence artificielle dans les environnements gouvernementaux, en particulier lorsqu’il est question de données sensibles ou non publiques. Elle souligne aussi l’importance des normes de confidentialité, de la conformité et de la notification rapide en cas d’accès non autorisé à des systèmes numériques.

Dans le même contexte, d’autres rapports ont indiqué qu’OpenAI et Anthropic fourniront une synthèse au Conseil de sécurité des Nations unies sur les risques liés à l’intelligence artificielle, ce qui montre que le débat sur la sécurité de ces technologies ne se limite plus aux cadres techniques, mais s’étend aux institutions législatives et internationales.

#الذكاء_الاصطناعي #Cybersécurité