Les acteurs de l'industrie sont divisés sur un projet de loi controversé sur l'intelligence artificielle en Californie, adopté le 28 août.
La nouvelle législation obligera les entreprises d’IA à mettre en œuvre de nouveaux protocoles de sécurité, notamment un bouton « d’arrêt d’urgence » pour les modèles d’IA.
La loi sur l'innovation sûre et sécurisée pour les modèles d'intelligence artificielle de pointe (SB 1047) a été adoptée par le Sénat californien par 29 voix contre 9 le 28 août.
Le projet de loi est désormais soumis au gouverneur Gavin Newson pour ratification.
Elon Musk fait partie de ceux qui ont exprimé leur soutien au projet de loi. Sur X, il a déclaré qu'il s'agissait d'une « décision difficile » mais qu'il était favorable à la législation en raison du « risque potentiel » de l'IA.
Source : Elon Musk
Mais tous les acteurs du secteur technologique ne sont pas convaincus de la même manière. Jason Kwon, directeur de la stratégie d’OpenAI, fait partie de ceux qui ont critiqué la législation.
Calanthia Mei, cofondatrice du réseau d'IA décentralisé Masa, a déclaré qu'elle n'était pas en faveur des nouvelles règles, suggérant qu'elles étaient le résultat d'une précipitation excessive à légiférer.
« Des réglementations prématurées comme celle-ci ne feront pas seulement fuir les talents de Californie, elles chasseront aussi les talents d’Amérique », a déclaré Mei à Cointelegraph. Elle a ajouté :
« Le risque réside dans la possibilité probable que les cadres réglementaires actuels et proposés aux États-Unis limitent la croissance du secteur de l’IA. »
Raheel Govindji, PDG du projet d’IA décentralisée DecideAI, a adopté un point de vue opposé.
« Nous sommes en faveur d'une législation », a déclaré Govindji à Cointelegraph.
Govindji a déclaré que DecideAI prend en charge un killswitch contrôlé par une organisation autonome décentralisée (DAO), ce qui est la manière dont ils proposent de démocratiser et de décentraliser un arrêt d'urgence.
L'IA est un secteur en évolution rapide
La nature évolutive du secteur de l’IA a alimenté les craintes quant à son développement effréné.
Dans une lettre du 22 août, d’anciens employés et lanceurs d’alerte d’OpenAI ont averti : « Le développement de modèles d’IA de pointe sans précautions de sécurité adéquates présente des risques prévisibles de dommages catastrophiques pour le public. »
Mais pour d’autres, le rythme rapide du développement de l’IA est quelque chose à célébrer plutôt qu’à craindre.
Récent : Des solutions sans problèmes : Combien de couches Ethereum 2 sont-elles trop nombreuses ?
« Contrairement à d’autres technologies transformatrices, la vitesse d’innovation de l’IA est sans précédent. Les constructeurs proposent chaque jour de nouveaux produits, de nouvelles fonctionnalités et de nouvelles applications », a déclaré Mei.
« En tant que constructeurs, nous ne savons même pas où se situe le plafond de l’IA. Comment le gouvernement pourrait-il le savoir ? Il n’est pas judicieux de fixer des limites aux technologies à fort potentiel. »
Mei a averti que le coût ultime de la législation serait de « chasser les talents des États-Unis », comme elle « l’a fait pour la cryptographie ».
Ceux qui sont pour
Govindji propose qu’un « interrupteur d’arrêt contrôlé par la DAO » puisse répondre aux exigences de la législation tout en préservant « une prise de décision collective et transparente ».
Le projet de loi stipule que tout modèle d’IA devrait être capable de « procéder rapidement à un arrêt complet », mais ne définit pas la signification de « rapidement », laissant une place considérable à l’interprétation.
Pour l’instant, on ne sait pas si le modèle DAO et son système de vote démocratique seraient suffisamment rapides pour satisfaire les législateurs. Govindji est convaincu que ce sera le cas. Selon lui, DecideAI « sera en avance sur son temps en fournissant une IA qui est un bien social ».
La société d’IA Anthropic a également soutenu publiquement le projet de loi.
Dans une lettre ouverte adressée au gouverneur Newsom, le PDG d'Anthropic, Dario Amodei, a déclaré : « Les capacités des systèmes d'IA progressent extrêmement rapidement, ce qui offre à la fois de grandes promesses pour l'économie californienne et des risques substantiels [...] Nous pensons que la SB 1047, en particulier après les récents amendements, représente probablement un fardeau de conformité réalisable pour des entreprises comme la nôtre, compte tenu de l'importance d'éviter les abus catastrophiques. »
Une version antérieure du projet de loi prévoyait des sanctions pénales pour les entreprises qui ne se conformeraient pas aux règles. Après consultation du secteur, cette disposition a été édulcorée et ne prévoit que des sanctions civiles.
Projet de loi SB 1047
Le projet de loi SB 1047 ne s'appliquera qu'aux « modèles couverts », la définition des modèles couverts évoluant au fil du temps.
Lors de la mise en œuvre, un modèle couvert sera une IA dont le développement coûte plus de 100 millions de dollars ou « un modèle d'intelligence artificielle formé à l'aide d'une quantité de puissance de calcul supérieure à 10^26 opérations entières ou à virgule flottante ».
L’Agence des opérations gouvernementales du gouvernement fédéral statuera sur toute modification du seuil de puissance de calcul.
Récent : Cinq prédictions sur le marché des crypto-monnaies qui ne se sont pas encore réalisées
Dans une lettre adressée au gouverneur Newsom, Kwon d’OpenAI a fait valoir que la législation sur l’IA ne devrait être traitée qu’au niveau fédéral « plutôt qu’à travers un patchwork de lois d’État ».
Compte tenu de la concentration écrasante d’entreprises technologiques et d’IA en Californie, le projet de loi SB 1047 pourrait sans doute être la législation nationale de facto pour le moment.
La situation pourrait changer si la législation obligeait les entreprises d'IA à fuir vers d'autres États, mais pour éviter complètement la SB 1047, les entreprises devraient également cesser toutes leurs opérations et services en Californie.