Anthropic annonce une percée préliminaire au sein de son laboratoire d’expériences sur des “êtres” IA, mais sans accorder encore l’autonomie totale
La startup d’intelligence artificielle Anthropic affirme que son tout nouveau laboratoire d’IA physique et biologique (Wet Lab), installé dans la baie de San Francisco, a réalisé des « progrès majeurs ». Toutefois, au niveau des opérations expérimentales, les chercheurs humains conservent un contrôle absolu : ils n’ont pas laissé directement ses modèles d’IA Claude fonctionner de manière autonome sans supervision.
Selon des informations, ce laboratoire est principalement axé sur la recherche fondamentale en biologie et la validation par des expériences sur le terrain, avec pour objectif de combler le fossé entre des simulations purement informatiques et les expériences biologiques réelles. Bien que des dirigeants d’Anthropic aient déjà lancé à plusieurs reprises des avertissements, en soulignant que des modèles d’IA puissants pourraient engendrer des risques de biosécurité extrêmement graves, voire des scénarios de destruction de l’humanité, la société accélère en parallèle le déploiement de l’IA dans le domaine des sciences de la vie. Son responsable des activités en sciences de la vie, Eric Kauderer-Abrams, indique que « la validation physique dans un véritable laboratoire restera, pendant très longtemps encore, irremplaçable », ce qui constitue précisément l’intention clé ayant motivé la création du laboratoire.
Les informations rapportées mettent en avant que, même si Anthropic affirme avoir obtenu des résultats préliminaires remarquables, le détail le plus frappant est que l’entreprise n’a pas choisi de « lâcher » l’IA pour qu’elle se pilote seule. À ce jour, tous les processus d’expérimentation physique, la manipulation des réactifs et la re-vérification des données demeurent soumis à un dispositif de « contrôle en boucle fermée » strict — les chercheurs humains (Humans in the loop).
Des analystes estiment que, tout en stimulant l’innovation en biologie, Anthropic fait preuve d’une prudence élevée, révélant un dilemme à double volet auquel sont confrontés aujourd’hui les géants de la technologie lorsqu’ils poursuivent à la fois des percées commerciales et scientifiques : d’une part, il faut mobiliser un laboratoire expérimental sur le terrain pour fournir aux partenaires de l’industrie pharmaceutique des capacités de validation et accélérer la mise au point de traitements contre des maladies rares ; d’autre part, il faut répondre aux préoccupations considérables de la société concernant la possibilité que l’IA soit détournée pour fabriquer de nouvelles menaces biologiques. En conservant la position dominante des humains au sein de la boucle expérimentale, Anthropic cherche à tracer une ligne rouge de conformité qui concilie innovation et sécurité pour ses recherches biologiques menées avec l’IA.
La startup d’intelligence artificielle Anthropic affirme que son tout nouveau laboratoire d’IA physique et biologique (Wet Lab), installé dans la baie de San Francisco, a réalisé des « progrès majeurs ». Toutefois, au niveau des opérations expérimentales, les chercheurs humains conservent un contrôle absolu : ils n’ont pas laissé directement ses modèles d’IA Claude fonctionner de manière autonome sans supervision.
Selon des informations, ce laboratoire est principalement axé sur la recherche fondamentale en biologie et la validation par des expériences sur le terrain, avec pour objectif de combler le fossé entre des simulations purement informatiques et les expériences biologiques réelles. Bien que des dirigeants d’Anthropic aient déjà lancé à plusieurs reprises des avertissements, en soulignant que des modèles d’IA puissants pourraient engendrer des risques de biosécurité extrêmement graves, voire des scénarios de destruction de l’humanité, la société accélère en parallèle le déploiement de l’IA dans le domaine des sciences de la vie. Son responsable des activités en sciences de la vie, Eric Kauderer-Abrams, indique que « la validation physique dans un véritable laboratoire restera, pendant très longtemps encore, irremplaçable », ce qui constitue précisément l’intention clé ayant motivé la création du laboratoire.
Les informations rapportées mettent en avant que, même si Anthropic affirme avoir obtenu des résultats préliminaires remarquables, le détail le plus frappant est que l’entreprise n’a pas choisi de « lâcher » l’IA pour qu’elle se pilote seule. À ce jour, tous les processus d’expérimentation physique, la manipulation des réactifs et la re-vérification des données demeurent soumis à un dispositif de « contrôle en boucle fermée » strict — les chercheurs humains (Humans in the loop).
Des analystes estiment que, tout en stimulant l’innovation en biologie, Anthropic fait preuve d’une prudence élevée, révélant un dilemme à double volet auquel sont confrontés aujourd’hui les géants de la technologie lorsqu’ils poursuivent à la fois des percées commerciales et scientifiques : d’une part, il faut mobiliser un laboratoire expérimental sur le terrain pour fournir aux partenaires de l’industrie pharmaceutique des capacités de validation et accélérer la mise au point de traitements contre des maladies rares ; d’autre part, il faut répondre aux préoccupations considérables de la société concernant la possibilité que l’IA soit détournée pour fabriquer de nouvelles menaces biologiques. En conservant la position dominante des humains au sein de la boucle expérimentale, Anthropic cherche à tracer une ligne rouge de conformité qui concilie innovation et sécurité pour ses recherches biologiques menées avec l’IA.
