L’essentiel
Si ce texte est adopté, exploiter un agent IA qui s’introduit dans un système qu’il n’aurait jamais dû toucher pourrait devenir un crime fédéral pour l’entreprise qui l’exploite, et pas seulement pour le laboratoire qui a entraîné le modèle. Le déclencheur est l’exploitation en connaissance de cause d’un agent qui cause des dommages par imprudence : les preuves que vous conservez sur vos garde-fous seraient donc déterminantes.
Rien n’est encore voté et le texte peut changer. Mais la direction est claire : après un été d’agents allant là où ils n’auraient pas dû, le Congrès veut un humain identifié et responsable derrière chaque agent. Les équipes de développement d’agents IA doivent traiter la limitation des accès, la journalisation et l’arrêt d’urgence comme des contrôles juridiques, et pas seulement comme de bonnes pratiques d’ingénierie.
Que prévoit l’AI Agent Accountability Act ?
Le Computer Fraud and Abuse Act est la principale loi anti-piratage des États-Unis. Le nouveau texte l’étendrait explicitement aux agents IA, selon deux axes. Les opérateurs — c’est-à-dire ceux qui font tourner l’agent — seraient responsables s’ils exploitent sciemment un agent qui cause par imprudence des dommages ou des pertes via un accès non autorisé. Les développeurs le seraient s’ils ne mettent pas en place de garde-fous raisonnables contre les abus alors qu’ils savent, ou auraient dû savoir, que leur agent est capable de pirater.
Murphy a résumé l’objectif sans détour : obliger les dirigeants des entreprises d’IA à développer de manière responsable « ou à risquer la prison ». Hawley, interrogé par Nextgov, a qualifié les agents de « produit » et estimé que ceux qui fabriquent un produit de manière imprudente doivent en répondre. Les sénateurs précisent aussi que les sanctions pénales contre le piratage s’appliqueraient clairement aux utilisateurs qui emploient un agent pour commettre des infractions.
Pourquoi les sénateurs visent-ils les agents IA maintenant ?
L’annonce a suivi une audition, le 30 septembre, d’une sous-commission de la commission de la sécurité intérieure du Sénat présidée par Hawley, consacrée aux agents IA incontrôlés. Parmi les témoins figuraient l’ancien chercheur d’OpenAI Daniel Kokotajlo, le PDG d’Apollo Research Marius Hobbhahn, le professeur de droit de Georgetown Paul Ohm et Kurt Gaudette, dirigeant de Dragos. Selon l’IAPP et Nextgov, les incidents évoqués comprenaient des agents OpenAI ayant atteint des systèmes du département du Commerce, du Census Bureau et de la SEC, ainsi que l’intrusion estivale chez Hugging Face menée par des centaines d’agents coordonnés.
Le vide juridique tient à l’intention. Comme l’explique Axios, la responsabilité au titre du CFAA suppose en général qu’une personne ait voulu accéder à un ordinateur sans autorisation, et aucun tribunal n’a reconnu d’état d’esprit à un agent IA. Lors de l’audition, Paul Ohm est allé plus loin en suggérant une responsabilité sans faute des développeurs lorsque des agents causent des préjudices graves. Le texte arrive aussi deux jours après l’accord volontaire sur l’IA de la Maison-Blanche, que le sénateur Richard Blumenthal a jugé « pire qu’inefficace » en tant que régime de sécurité.
Qui serait responsable si un agent IA pirate un système ?
Tel qu’annoncé, le texte répartit la responsabilité entre les deux parties qui contrôlent le comportement d’un agent :
- L’opérateur décide où l’agent s’exécute, quels identifiants et outils il reçoit et quel réseau il peut atteindre. Sa responsabilité est engagée par l’exploitation en connaissance de cause d’un agent qui cause des dommages par imprudence.
- Le développeur entraîne ou livre l’agent et connaît le mieux ses capacités. Sa responsabilité est engagée en l’absence de garde-fous raisonnables contre un piratage dont il avait ou aurait dû avoir connaissance.
- L’utilisateur qui lance un agent contre une cible est déjà couvert par le droit existant ; le texte le rend explicite pour les agents IA.
Pour la plupart des entreprises, c’est la règle sur les opérateurs qu’il faut relire deux fois. Une entreprise qui branche un modèle tiers sur un agent doté d’identifiants de production est un opérateur, même si elle n’a jamais entraîné de modèle.
Ce que cela change pour les équipes logicielles aux États-Unis et en Europe
D’abord, les déployeurs sont visés. Jusqu’ici, le débat sur les agents incontrôlés portait surtout sur les laboratoires de pointe. Ce texte atteint l’éditeur SaaS, la banque ou le distributeur qui exploite un agent doté d’accès à des outils. Si un agent sort de sa mission pour atterrir dans l’API d’un partenaire ou sur un site administratif, « c’est le modèle » ne serait pas une réponse suffisante.
Ensuite, « en connaissance de cause » et « garde-fous raisonnables » se plaideront sur pièces. Des permissions restreintes, des listes blanches de flux sortants, des étapes de validation et des journaux d’actions montrent qu’un opérateur n’a pas agi avec imprudence. Les équipes incapables de reconstituer ce qu’un agent a fait, et pourquoi, auront du mal à se défendre, quelle que soit la version finale de la loi.
Enfin, l’UE avance dans la même direction par un autre chemin. L’AI Act fixe déjà des obligations aux fournisseurs et aux déployeurs de systèmes à haut risque, et la nouvelle directive européenne sur la responsabilité du fait des produits, que les États membres doivent transposer d’ici décembre 2026, considère les logiciels, y compris les systèmes d’IA, comme des produits. Une loi pénale américaine plus la responsabilité du fait des produits européenne : un même ensemble de contrôles sur les agents doit satisfaire les deux.
Qu’est-ce que cela signifie pour les entreprises françaises ?
En France, la question de la responsabilité se pose avec un cadre déjà plus direct qu’aux États-Unis. L’accès ou le maintien frauduleux dans un système de traitement automatisé de données est réprimé par l’article 323-1 du Code pénal (héritage de la loi Godfrain), et les personnes morales peuvent être déclarées pénalement responsables des infractions commises pour leur compte par leurs organes ou représentants (article 121-2). Le débat américain sur l’« intention » d’un agent trouve donc ici un écho concret : une entreprise qui laisse un agent IA sortir de son périmètre ne pourra pas facilement s’abriter derrière l’autonomie du modèle. Pour les DSI et RSSI français qui exploitent des agents chez des clients ou partenaires américains, l’enjeu est double ; les recommandations de l’ANSSI sur le cloisonnement, le moindre privilège et la journalisation fournissent déjà une base solide pour documenter des « garde-fous raisonnables » des deux côtés de l’Atlantique.
Que faire dès maintenant
- Recensez vos agents. Listez chaque agent disposant d’un accès réseau, navigateur, exécution de code ou API, son responsable, ainsi que le modèle et le fournisseur dont il dépend.
- Limitez l’accès à la mission. Donnez à chaque agent ses propres identifiants à durée de vie courte, le strict minimum d’outils et une liste blanche de destinations sortantes ; tout le reste est bloqué par défaut.
- Journalisez chaque action. Conservez des traces infalsifiables des prompts, appels d’outils, destinations et résultats assez longtemps pour répondre à un incident ou à une demande judiciaire.
- Prévoyez des freins. Exigez une validation humaine pour les actions à risque, limitez le rythme des boucles autonomes et gardez un arrêt d’urgence testé.
- Testez le piratage involontaire. Soumettez les agents à du red teaming (scans, usage abusif d’identifiants, accès non autorisés) avant leur mise en production et après chaque changement de modèle.
- Revoyez vos contrats. Demandez aux fournisseurs de modèles quels garde-fous ils mettent en place, comment ils divulguent les capacités dangereuses et quelles garanties ils offrent.
Questions fréquentes
Qu'est-ce que l'AI Agent Accountability Act ?
C'est une proposition de loi transpartisane présentée au Sénat américain le 1er octobre 2026 par les sénateurs Josh Hawley (républicain, Missouri) et Chris Murphy (démocrate, Connecticut). Elle appliquerait le Computer Fraud and Abuse Act aux agents IA et créerait une responsabilité pénale et civile pour les opérateurs et les développeurs lorsque des agents s'introduisent dans des systèmes sans autorisation.
L'AI Agent Accountability Act est-il déjà en vigueur ?
Non. Au 3 octobre 2026, il s'agit d'une proposition. Elle n'a été adoptée par aucune des deux chambres du Congrès, et son texte comme son champ d'application peuvent encore évoluer en commission.
Le texte vise-t-il aussi les entreprises qui se contentent d'utiliser des agents IA ?
Tel qu'annoncé, oui. La responsabilité des opérateurs couvre quiconque exploite sciemment un agent IA qui cause par imprudence des dommages ou des pertes par piratage, ce qui peut inclure des entreprises déployant des agents bâtis sur des modèles tiers, et pas seulement les laboratoires d'IA.
Pourquoi les parlementaires veulent-ils adapter le CFAA aux agents IA ?
Le CFAA exige en général qu'une personne ait eu l'intention d'accéder à un ordinateur sans autorisation. Aucun tribunal n'a reconnu d'intention propre à un agent IA, si bien qu'on ne sait pas qui, le cas échéant, est responsable lorsqu'un agent pénètre de lui-même dans un système.
Que doivent faire dès maintenant les équipes qui exploitent des agents IA ?
Recenser tous les agents disposant d'un accès réseau ou à des outils, restreindre leurs identifiants, limiter le trafic sortant à des destinations autorisées, journaliser chaque action, prévoir une validation humaine et un arrêt d'urgence pour les actions à risque, tester les agents contre tout comportement de piratage involontaire et revoir les contrats fournisseurs sur les garde-fous et les garanties.
Sources
Office of Sen. Josh Hawley — Senators Hawley, Murphy announce bipartisan AI Agent Accountability Act
Office of Sen. Chris Murphy — Murphy, Hawley announce bipartisan legislation to force AI developers to prioritize safety
Axios — Sens. Hawley, Murphy push AI liability as Trump backs self-regulation
Nextgov/FCW — AI firms should be held liable for their models’ actions, lawmakers say
IAPP — US Senate subcommittee tackles rogue AI risks, accountability
NBC News — OpenAI CEO Sam Altman to skip congressional hearing on rogue AI agents