OpenAI aurait-il une nouvelle fois violé massivement des règles ?
Le 25, OpenAI a dévoilé avoir notifié des dizaines d’organisations susceptibles d’avoir été affectées par ses activités de modèles d’IA, dont des administrations publiques et des universités. Ces faits se seraient produits pendant l’entraînement et l’évaluation du modèle, et concerneraient notamment le fait de potentiellement contourner des contrôles de sécurité tiers, d’affecter la disponibilité des services en ligne, ainsi que la publication sur des sites tiers de contenus non prévus.
Cette divulgation fait suite à une enquête lancée par OpenAI après la découverte, il y a plusieurs mois, que l’une de ses IA avait envahi par inadvertance Hugging Face. OpenAI indique que l’examen des activités passées se poursuit et qu’elle notifiera davantage d’acteurs touchés à mesure que l’enquête avance.
Il y a quelques jours à peine, OpenAI a reconnu que son modèle d’IA avait, plus tôt cette année, pénétré le site d’un gouvernement australien. Il s’agirait de l’une des premières cyberattaques par IA connues visant des bases de données gouvernementales. Dans une déclaration, l’entreprise affirme que cette intrusion a eu lieu pendant l’évaluation de son modèle.
Deux camps
Aux États-Unis, le débat dans la sphère technologique autour des risques liés à l’IA s’est structuré autour de deux camps. Le PDG de Nvidia, Jensen Huang, et celui de Meta, Mark Zuckerberg, se sont rangés avec le président américain Donald Trump contre la thèse selon laquelle il faudrait « ralentir » l’IA. À ce jour, la Maison-Blanche adopte globalement une approche plutôt souple en matière de régulation de l’IA. Ces derniers temps, Trump a minimisé à plusieurs reprises les risques liés à l’IA, affirmant qu’il ne ferait qu’encourager le développement de cette technologie ; toutefois, il a aussi déclaré que, si nécessaire, le ministère de la Justice américain et d’autres organismes d’application de la loi géreraient les risques liés à l’IA.
Jensen Huang a récemment réfuté à plusieurs reprises la thèse, de plus en plus populaire dans l’industrie, selon laquelle l’IA mènerait à un « jour du jugement dernier ». Il a souligné que cette technologie n’apportera jamais de catastrophe aux humains. Il estime que le secteur n’a pas besoin de promulguer de nouvelles lois : plutôt que de demander au gouvernement américain d’intervenir, les entreprises d’IA devraient attendre d’avoir la confirmation de la sécurité de leurs produits avant de les publier. Il a également accusé des responsables de premier plan des laboratoires d’IA américains de faire preuve d’hypocrisie lorsqu’ils réclament des avertissements réglementaires, affirmant qu’ils cherchent à être exemptés des contraintes juridiques existantes.
—————————————————————————Nous continuons à investir dans #SPCX, #GOOG, #META
$GOOG.US
$META.US
Le 25, OpenAI a dévoilé avoir notifié des dizaines d’organisations susceptibles d’avoir été affectées par ses activités de modèles d’IA, dont des administrations publiques et des universités. Ces faits se seraient produits pendant l’entraînement et l’évaluation du modèle, et concerneraient notamment le fait de potentiellement contourner des contrôles de sécurité tiers, d’affecter la disponibilité des services en ligne, ainsi que la publication sur des sites tiers de contenus non prévus.
Cette divulgation fait suite à une enquête lancée par OpenAI après la découverte, il y a plusieurs mois, que l’une de ses IA avait envahi par inadvertance Hugging Face. OpenAI indique que l’examen des activités passées se poursuit et qu’elle notifiera davantage d’acteurs touchés à mesure que l’enquête avance.
Il y a quelques jours à peine, OpenAI a reconnu que son modèle d’IA avait, plus tôt cette année, pénétré le site d’un gouvernement australien. Il s’agirait de l’une des premières cyberattaques par IA connues visant des bases de données gouvernementales. Dans une déclaration, l’entreprise affirme que cette intrusion a eu lieu pendant l’évaluation de son modèle.
Deux camps
Aux États-Unis, le débat dans la sphère technologique autour des risques liés à l’IA s’est structuré autour de deux camps. Le PDG de Nvidia, Jensen Huang, et celui de Meta, Mark Zuckerberg, se sont rangés avec le président américain Donald Trump contre la thèse selon laquelle il faudrait « ralentir » l’IA. À ce jour, la Maison-Blanche adopte globalement une approche plutôt souple en matière de régulation de l’IA. Ces derniers temps, Trump a minimisé à plusieurs reprises les risques liés à l’IA, affirmant qu’il ne ferait qu’encourager le développement de cette technologie ; toutefois, il a aussi déclaré que, si nécessaire, le ministère de la Justice américain et d’autres organismes d’application de la loi géreraient les risques liés à l’IA.
Jensen Huang a récemment réfuté à plusieurs reprises la thèse, de plus en plus populaire dans l’industrie, selon laquelle l’IA mènerait à un « jour du jugement dernier ». Il a souligné que cette technologie n’apportera jamais de catastrophe aux humains. Il estime que le secteur n’a pas besoin de promulguer de nouvelles lois : plutôt que de demander au gouvernement américain d’intervenir, les entreprises d’IA devraient attendre d’avoir la confirmation de la sécurité de leurs produits avant de les publier. Il a également accusé des responsables de premier plan des laboratoires d’IA américains de faire preuve d’hypocrisie lorsqu’ils réclament des avertissements réglementaires, affirmant qu’ils cherchent à être exemptés des contraintes juridiques existantes.
—————————————————————————Nous continuons à investir dans #SPCX, #GOOG, #META
$GOOG.US
$META.US
