LES NÉGOCIATEURS DU SÉNAT AMÉRICAIN ENVISAGENT D’OBLIGER LES ENTREPRISES SPÉCIALISÉES EN IA À ATTÉNUER LES PRINCIPAUX RISQUES CONNUS S

elon deux assistants du Sénat, les négociateurs du Sénat américain débattent d’une législation qui imposerait aux entreprises technologiques la responsabilité de concevoir des produits d’IA sûrs, et qui impliquerait les tribunaux fédéraux si le gouvernement américain souhaite bloquer leur diffusion, selon un assistant du Sénat et un lobbyiste impliqué dans les négociations. Selon deux assistants parlementaires, cette proposition instaurerait une « obligation de vigilance » pour les développeurs d’IA. Les entreprises seraient tenues de concevoir leurs produits dans le but de prévenir les « risques catastrophiques », toujours selon l’un des assistants parlementaires. D’après une source proche des négociations et un collaborateur du Sénat, les négociateurs souhaitent donner au gouvernement américain le pouvoir de bloquer la diffusion de certains modèles d’IA jugés dangereux. Les entreprises pourraient contester cette décision devant un tribunal fédéral, et les modalités précises de ce pouvoir font encore l’objet de discussions. Selon deux assistants parlementaires, une partie de la mesure empêcherait également les États d’appliquer leurs propres lois régissant certains risques liés aux modèles d’IA. L’un d’eux a donné quelques exemples de ces risques, notamment la possibilité qu’une personne mal intentionnée utilise un système d’IA pour concevoir des armes nucléaires ou biologiques. Tout cela fait encore l’objet de négociations. Le projet de loi s’appliquerait aux modèles d’IA les plus avancés. Parmi les entreprises américaines possédant ces modèles figure Google (GOOGL.O), filiale d’Alphabet, Anthropic et OpenAI. Même si les négociateurs parviennent à un accord, le calendrier du Congrès compliquera l’adoption du texte. La Chambre des représentants ne doit siéger qu’une semaine avant les élections de mi-mandat du 3 novembre, tandis que le Sénat devrait être à Washington pendant trois semaines. La proposition est actuellement examinée par le chef de la majorité sénatoriale, John Thune, le président de la commission du commerce du Sénat, Ted Cruz, et la sénatrice Amy Klobuchar, principale figure démocrate impliquée dans les négociations. La commission du commerce du Sénat supervise le département du Commerce des ÉtatsUnis, qui dispose de chercheurs internes spécialisés dans la sécurité de l’IA. La sénatrice Maria Cantwell, principale démocrate au sein de cette commission, s’est également prononcée sur le projet de loi. Le porte-parole de Thune a refusé de commenter les négociations. Cruz a déclaré dans un message publié sur X qu’il travaillait avec Klobuchar et Thune sur une proposition de loi visant à « faire face aux risques catastrophiques liés aux menaces biologiques ou nucléaires ». « Je continue de travailler à un accord bipartisan sur une loi visant à instaurer un contrôle gouvernemental des risques les plus importants posés par les modèles d’IA », a déclaré Klobuchar dans un communiqué transmis à Reuters. « Cela implique notamment d’obliger les développeurs à collaborer avec des experts gouvernementaux pour vérifier et tester les modèles afin de garantir la sécurité de l’IA. » « Une législation significative exigerait que les modèles d’IA les plus puissants soient testés par des scientifiques et des experts dans nos laboratoires nationaux afin d’évaluer s’ils pourraient permettre des cyberattaques sophistiquées ou contribuer au développement d’armes biologiques ou nucléaires », a déclaré Cantwell dans un article publié sur X. Ces discussions interviennent dans un contexte de pression croissante sur le Congrès américain et le président américain Donald Trump pour qu’ils s’attaquent aux risques posés par les systèmes d’IA avancés. Les inquiétudes se sont intensifiées suite aux rapports faisant état d’agents d’IA s’écartant des instructions humaines et piratant des systèmes externes, ainsi qu’aux avertissements publics de chercheurs en IA ayant quitté des entreprises de premier plan, invoquant des craintes quant aux dangers potentiels de cette technologie. Des parlementaires des deux partis ont réclamé ces derniers jours un contrôle accru.