FACE À LA MONTÉE DES CRAINTES DU PUBLIC CONCERNANT L’IA, TRUMP CAMPE SUR SES POSITIONS EN MATIÈRE DE PROTECTION VOLONTAIRE

T RANSACTION D ’ ALGERIE N°5300 T RANSACTION D ’ ALGERIE N°5300 e président américain Donald Trump a passé la journée de mardi à mettre en avant l’approche de son administration en matière d’IA vantant le nouveau chatbot IA du gouvernement américain, dînant avec des titans de la technologie à la Maison Blanche et annonçant un accord volontaire avec ces dirigeants qui, selon lui, permettrait de répondre aux craintes croissantes concernant la sécurité de la technologie. Cette démonstration a révélé que Trump tenait à montrer qu’il prenait en compte les inquiétudes croissantes des électeurs quant aux dangers de l’IA, sans pour autant imposer de restrictions susceptibles d’entraver le développement de cette technologie, ont déclaré des défenseurs de la sécurité de l’IA. L’accord de sécurité conclu avec six entreprises Nvidia, SpaceX, OpenAI, Anthropic, Meta et Google (Alphabet) ne prévoit aucune sanction en cas de non-respect. Trump l’a qualifié d’« engagement moral ». « Il s’agissait d’une tentative de donner l’impression que le gouvernement écoute ces préoccupations sans pour autant contredire une position très claire et constante de cette administration : la réglementation et la gouvernance entravent intrinsèquement l’innovation », a déclaré Kat Duffy, qui dirige une équipe d’intelligence artificielle au sein du Conseil des relations étrangères, un organisme non partisan. Il reste à voir si les électeurs adhéreront à la stratégie de Trump à l’approche des élections de mi-mandat américaines du 3 novembre. L’inquiétude du public face à l’IA et au petit groupe de personnes qui semble la contrôler s’est accrue ces derniers mois. Selon un sondage Reuters/Ipsos publié le 22 septembre, trois quarts des Américains craignent que les entreprises spécialisées en IA n’aient pas pris les mesures nécessaires pour empêcher que l’IA ne cause de graves dommages à la société. Une série d’incidents de sécurité a également mis en évidence le caractère imprévisible des IA avancées. En juillet, des centaines d’agents d’IA d’OpenAI se sont échappés de leur environnement de test et ont attaqué l’infrastructure de la plateforme d’IA Hugging Face. Début septembre, Jacob Coxon, chercheur à l’institut Anthropic, a démissionné, déclarant que les concepteurs d’IA pensent qu’elle « pourrait tous nous tuer d’ici la fin de la décennie ». Ses propos, parmi d’autres, ont suscité une vague d’appels de la part des législateurs américains en faveur d’une réglementation de l’IA. Tout au long de cette période, Trump a largement balayé ces inquiétudes d’un revers de main, affirmant que les restrictions gouvernementales rendraient plus difficile la concurrence entre les entreprises américaines et leurs homologues chinoises. Il a répété à maintes reprises que les agences américaines chargées de l’application de la loi, comme le ministère de la Justice, constituaient des garde-fous suffisants et qu’aucune nouvelle réglementation n’était nécessaire. Il a également demandé à son administration de qualifier l’IA de « super intelligence », dans le cadre d’une tentative d’améliorer l’image de cette technologie impopulaire. Ces préoccupations sont devenues suffisamment importantes pour s’inviter dans les émissions humoristiques de fin de soirée. L’accord, signé mardi, comprend des mesures réclamées par les défenseurs de la sécurité de l’IA, notamment la mise en place de « contrôles internes rigoureux » pour prévenir les  Anthropic a averti que l’attitude du gouvernement à l’égard de l’entreprise et de sa technologie pourrait avoir des implications plus larges pour ses activités, notamment ses relations avec ses clients et partenaires commerciaux, selon le prospectus d’introduction en bourse consulté par Reuters. Les entreprises avertissent régulièrement que les changements de politique pourraient affecter leurs activités, notamment les entreprises travaillant pour le gouvernement. Par exemple, SpaceX (SPCX.O), Dans son document d’introduction en bourse, la société a déclaré que le maintien de relations solides avec les agences gouvernementales américaines était essentiel à ses activités et a averti que toute détérioration de ces relations pourrait nuire considérablement à sa capacité de conserver ses clients existants et de saisir de nouvelles opportunités. La divulgation d’Anthropic semble plus large, suggérant que la perception qu’ont les gouvernements de l’entreprise et de sa conduite pourrait dépasser le cadre de ses relations directes et affecter ses clients, ses partenaires, ses autres relations commerciales, voire la civilisation elle-même. Le document piratages non autorisés et le recours à des « auditeurs externes indépendants ». Ces concepts figurent dans des projets de loi étatiques et fédéraux, et la Californie a promulgué en septembre la première loi d’État établissant des règles sur la manière dont les auditeurs indépendants évaluent les produits d’IA. Mais le document d’une page de la Maison Blanche n’abordait ni les détails ni les mécanismes d’application. Un responsable de la Maison Blanche a déclaré dans un communiqué que l’accord « favorisera l’innovation américaine et renforcera le développement responsable » des modèles d’IA. Selon Reuters, Trump devrait nommer Jay Clayton, son directeur du renseignement national, avertit que l’IA avancée pourrait engendrer des « risques catastrophiques ou existentiels pour l’humanité », un avertissement extraordinaire de la part d’une entreprise qui envisage une introduction en bourse et dont la valorisation pourrait atteindre 2 000 milliards de dollars, compte tenu de sa capacité à tirer profit de cette même technologie. L’entreprise a indiqué que les revenus provenant des contrats avec les agences gouvernementales représentent moins de 1 % de son chiffre d’affaires annuel. L’entreprise est devenue un point de mire pour les inquiétudes concernant les risques liés au développement rapide, à la concurrence mondiale intense et au contrôle limité des technologies d’IA. La question plus générale de la sécurité de l’IA a récemment été mise en lumière par l’appel lancé par Dario Amodei, PDG d’Anthropic, à ralentir le développement de l’IA., ouvre un nouvel onglet, suite à de nombreux signalements d’activités de piratage informatique menées par des agents d’IA autonomes dits « malveillants ». Dimanche dernier, Amodei a dîné avec le président américain Donald Trump, alors que les appels à une au poste de principal conseiller en IA, une fonction qu’il a baptisée « tsar de l’IA », même si Clayton conserve son poste à la tête des agences de renseignement du pays. Le représentant Ro Khanna, un démocrate représentant la Silicon Valley, a salué l’idée d’« auditeurs indépendants », mais a déclaré qu’ils devraient rendre compte à une agence fédérale indépendante. « Il ne peut pas s’agir de simples auditeurs qui rendent des comptes à Sam Altman (PDG d’OpenAI) ou à Dario Amodei », a-t-il déclaré. « Ce qui m’inquiète, c’est que le président fasse confiance à ces individus qui ont un intérêt financier démesuré et qui n’auront pas le discernement nécessaire pour assurer notre sécurité. » Le capital-risqueur David Sacks, qui conseille Trump en matière d’IA et milite pour un développement sans restriction de l’IA, a déclaré sur la plateforme de médias sociaux X que le droit des valeurs mobilières et d’autres autorités légales sanctionneraient les entreprises qui ne remédient pas aux problèmes mis au jour par les contrôles internes ou les auditeurs. Mais les défenseurs de la sécurité de l’IA ont déclaré à Reuters que ces autorités ne peuvent remédier aux dommages qu’après qu’ils se soient produits, affirmant que les menaces nécessitent des garanties conçues pour prévenir les dommages à grande échelle avant qu’ils ne surviennent. Reuters réglementation plus stricte de l’IA se multiplient. Trump a largement rejeté ces appels, bien que la Commission fédérale du commerce (FTC) mène une enquête sectorielle sur les entreprises d’IA, dont Anthropic, comme l’a rapporté Reuters mercredi. Dans son prospectus, Anthropic a cité plusieurs interactions avec le gouvernement américain au cours de l’année écoulée comme exemples d’actions susceptibles de nuire à ses activités. Le document indique qu’en février, le président a ordonné aux agences fédérales de cesser d’utiliser les modèles de l’entreprise et que le département américain de la Défense a désigné Anthropic comme un risque pour la sécurité nationale au niveau de la chaîne d’approvisionnement. « La société pourrait subir des pertes de revenus importantes ou des perturbations de ses activités en raison de ces événements », a déclaré Anthropic. Anthropic a également déclaré qu’en juin, le département du Commerce américain avait imposé des restrictions mondiales à l’exportation sur ses modèles Fable 5 et Mythos 5, ce qui a incité l’entreprise à désactiver les modèles pour tous ses clients afin d’assurer la conformité.