Les législateurs de New York ont adopté un projet de loi pour limiter les catastrophes causées par l'intelligence artificielle. Selon le projet de loi, l'État souhaite empêcher les modèles d'IA créés par des entreprises comme OpenAI, Google et Anthropic de contribuer à des scénarios de catastrophe.

Selon le projet de loi, ces scénarios incluent la mort ou la blessure de plus de 100 personnes ou plus de 1 milliard de dollars en dommages ou pertes. Le projet de loi, connu sous le nom de loi RAISE, représente une victoire pour les mouvements poussant pour la sécurité de l'IA. Ces mouvements ont perdu de l'élan ces dernières années alors que la Silicon Valley et l'administration Trump ont continué à privilégier la rapidité et l'innovation.

Les défenseurs axés sur la sécurité, y compris le lauréat du prix Nobel Geoffrey Hinton et le pionnier de la recherche en IA Yoshua Bengio, soutiennent la loi RAISE. Si elle est finalement signée, le projet de loi établirait le premier ensemble de normes de transparence légalement obligatoires pour les principaux laboratoires d'intelligence artificielle aux États-Unis.

New York envisage la loi RAISE pour limiter les catastrophes alimentées par l'IA

La loi RAISE a certaines des mêmes dispositions et objectifs que le projet de loi controversé sur la sécurité de l'IA SB 1047 en Californie, qui a finalement été veto.

Cependant, un co-sponsor de la loi RAISE, le sénateur de l'État de New York Andrew Gounardes, a mentionné dans une interview qu'il a conçu le projet de loi de manière à ne pas étouffer l'innovation parmi les startups ou les chercheurs académiques, une critique courante à laquelle le SB 1047 a été confronté. « La fenêtre pour mettre en place des garde-fous se rétrécit rapidement compte tenu de la rapidité d'évolution de cette technologie », a déclaré le sénateur Gounardes.

Le sénateur a également déclaré que la plupart des personnes bien informées dans le secteur de l'IA ont également reconnu ces risques, un développement qu'il a qualifié d'« alarmant ». Pendant ce temps, la loi RAISE est maintenant sur le bureau de la gouverneure de New York, Kathy Hochul, où elle pourrait soit la signer, soit la renvoyer pour amendement. Une autre option serait qu'elle oppose son veto au projet de loi, ce qui est probable.

S'il est finalement signé, la loi RAISE exigera que certains des plus grands laboratoires d'IA au monde publient des rapports de sécurité et de sûreté sur leurs modèles d'IA avancés. Le projet de loi oblige également les laboratoires d'IA à signaler les incidents de sécurité concernant le comportement des modèles d'IA ou des acteurs malveillants volant un modèle d'IA, si cela se produit.

Si les entreprises technologiques ne respectent pas ces normes, la loi RAISE habilite le procureur général de New York à imposer des sanctions civiles allant jusqu'à 30 millions de dollars contre elles.

La loi RAISE cherche à réguler les laboratoires d'IA

La loi RAISE a été conçue pour réguler les plus grandes entreprises d'IA au monde, y compris celles basées en Californie comme OpenAI et Google, et celles basées en Chine, comme DeepSeek et Alibaba. Les exigences du projet de loi incluent une clause obligatoire qui s'applique aux entreprises ayant utilisé plus de 100 millions de dollars en ressources informatiques pour former leurs modèles d'IA et qui sont disponibles pour les résidents de New York.

Bien que similaire au SB 1047 à certains égards, la loi RAISE aborde certaines des précédentes lois sur la sécurité de l'IA.

Par exemple, aucune clause n'exige que les développeurs de modèles d'IA aient un interrupteur d'arrêt sur leurs modèles, ni ne tient les entreprises qui post-entraînent leurs modèles responsables des dommages critiques. Néanmoins, il y a eu des réactions contre le projet de loi de New York, selon le co-sponsor de la loi RAISE, membre de l'Assemblée de l'État de New York, Alex Bores. Il a qualifié la résistance de peu surprenante, mais a ajouté que la loi RAISE ne limitera en rien le potentiel de développement des entreprises technologiques.

« La loi RAISE de New York est encore un autre projet de loi sur l'IA au niveau de l'État stupide, stupide, qui ne fera que nuire aux États-Unis à un moment où nos adversaires prennent de l'avance », a déclaré Anjney Midha, partenaire général d'Andreessen Horowitz, dans un post vendredi sur X.

Andreessen Horowitz et l'incubateur de startups Y Combinator étaient en forte opposition au SB 1047. De plus, le co-fondateur d'Anthropic, Jack Clark, a également exprimé ses griefs sur l'ampleur de la loi RAISE, notant qu'elle pourrait présenter des risques pour les petites entreprises.

Vos nouvelles crypto méritent de l'attention - KEY Difference Wire vous met sur plus de 250 sites de premier plan