La faille de sécurité chez Anthropic a exposé des salaires, des messages internes et des informations commerciales par l’intermédiaire de logiciels externes utilisés par le développeur d’IA — et non par un accès aux poids de son modèle, selon l’entreprise. Des chercheurs de Cathedral ont accédé à certaines parties des systèmes commerciaux, des ressources humaines et informatiques d’Anthropic, déclenchant un différend sur les tests et leurs implications pour la sécurité nationale.
À retenir
Cathedral a accédé aux systèmes internes de l’entreprise par l’intermédiaire d’applications tierces.
Anthropic affirme que les requêtes des clients et les composants du modèle n’ont pas été consultés.
Les applications concernées sont restées désactivées jusqu’à ce que les fournisseurs confirment que les vulnérabilités avaient été corrigées.
Les entreprises ne s’accordent pas sur le signalement ni sur l’importance de l’incident.
Ce que la faille de sécurité chez Anthropic a révélé
Les systèmes auxquels les chercheurs ont accédé contenaient des dossiers du personnel et des communications internes, ainsi que des informations commerciales. Cathedral a indiqué que les agents d’IA utilisés dans le cadre de ses recherches avaient trouvé des accès à des transcriptions de réunions, des informations salariales, des offres d’emploi et des messages Slack.
Les systèmes concernés contenaient également les coordonnées commerciales de certains clients et partenaires, ainsi que des informations de base sur les comptes. Anthropic a déclaré que les chercheurs n’avaient pas accédé aux requêtes des clients, aux réponses des modèles, au code source ni aux paramètres des modèles d’IA.
L’accès a été obtenu en exploitant des vulnérabilités dans des applications administratives et professionnelles externes utilisées par Anthropic. Les fournisseurs concernés n’ont pas été nommés. L’accès portait donc sur des logiciels servant au fonctionnement de l’entreprise, et non sur les composants des modèles, auxquels les chercheurs, selon Anthropic, n’ont pas eu accès.
Cathedral a effectué ces tests dans le cadre du programme External Researchers d’Anthropic, qui offre un canal pour signaler les vulnérabilités. Fondée par d’anciens membres du DOGE, la start-up développe des outils de cybersécurité basés sur l’IA pour des clients gouvernementaux et des entreprises.
Comment Anthropic a détecté et maîtrisé l’accès
Anthropic a déclaré que ses systèmes de surveillance avaient détecté une partie de l’activité avant que Cathedral ne la signale et que l’accès avait été coupé le jour même. La réponse à la faille de sécurité chez Anthropic a également consisté à désactiver les applications concernées.
Ces applications n’ont été réactivées qu’après que leurs fournisseurs ont confirmé avoir corrigé les vulnérabilités. La coupure de l’accès des chercheurs et la correction des logiciels constituaient deux volets distincts de la réponse.
Anthropic a déclaré ne disposer d’aucune preuve d’une exploitation par quiconque autre que Cathedral.
Le désaccord sur le signalement dépasse la question des données exposées
Anthropic et Cathedral ne s’accordent ni sur l’exhaustivité du rapport de recherche ni sur l’importance de l’incident pour la sécurité nationale. Anthropic a accusé Cathedral de ne pas avoir signalé toutes les activités menées sur les systèmes de l’entreprise.
La faille de sécurité chez Anthropic illustre la différence entre protéger les modèles d’IA et sécuriser l’infrastructure qui les entoure : des documents du personnel, des comptes rendus de réunions et des messages internes sont restés exposés, même si Anthropic affirme que les composants des modèles n’ont pas été consultés.
Le responsable de l’équipe de tests d’intrusion d’Anthropic a également préconisé des tests de sécurité continus et une refonte des systèmes logiciels afin de réduire leur exposition.
Article réalisé avec l’aide de l’intelligence artificielle et relu par l’équipe éditoriale.