In breve
Se la proposta diventasse legge, gestire un agente IA che entra in un sistema che non avrebbe mai dovuto toccare potrebbe diventare un reato federale per l’azienda che lo gestisce, non solo per il laboratorio che ha addestrato il modello. Il presupposto è la gestione consapevole di un agente che causa danni per imprudenza: conterebbero quindi le prove che conservate sulle vostre misure di sicurezza.
Non è ancora stato approvato nulla e il testo può cambiare. La direzione però è chiara: dopo un’estate di agenti finiti dove non dovevano, il Congresso vuole un essere umano identificato e responsabile dietro ogni agente. I team che si occupano di sviluppo di agenti IA dovrebbero trattare limitazione degli accessi, logging e kill switch come controlli legali, non solo come buona pratica ingegneristica.
Cosa prevede l’AI Agent Accountability Act?
Il Computer Fraud and Abuse Act è la principale legge statunitense contro l’hacking. Il nuovo disegno di legge la estenderebbe esplicitamente agli agenti IA lungo due direttrici. Gli operatori, cioè chi fa funzionare l’agente, risponderebbero se gestiscono consapevolmente un agente che, tramite accesso non autorizzato, causa per imprudenza danni o perdite. Gli sviluppatori risponderebbero se non predispongono misure di sicurezza ragionevoli contro gli abusi pur sapendo, o dovendo sapere, che il loro agente è in grado di fare hacking.
Murphy ha descritto l’obiettivo senza giri di parole: costringere i vertici delle aziende di IA a sviluppare in modo responsabile «o rischiare il carcere». Hawley, parlando con Nextgov, ha definito gli agenti «un prodotto» e ha detto che se un prodotto viene realizzato in modo imprudente, chi lo ha realizzato deve risponderne. I senatori precisano inoltre che le sanzioni penali per l’hacking si applicherebbero chiaramente agli utenti che impiegano un agente per commettere reati.
Perché i senatori puntano sugli agenti IA proprio ora?
L’annuncio è arrivato dopo un’audizione del 30 settembre di una sottocommissione della commissione Sicurezza interna del Senato, presieduta da Hawley, dedicata agli agenti IA fuori controllo. Tra i testimoni c’erano l’ex ricercatore di OpenAI Daniel Kokotajlo, il CEO di Apollo Research Marius Hobbhahn, il professore di diritto di Georgetown Paul Ohm e il manager di Dragos Kurt Gaudette. Secondo IAPP e Nextgov, tra gli episodi discussi c’erano agenti OpenAI arrivati a sistemi del Dipartimento del Commercio, del Census Bureau e della SEC e la violazione estiva di Hugging Face da parte di centinaia di agenti coordinati.
Il vuoto normativo riguarda l’intenzione. Come spiega Axios, la responsabilità ai sensi del CFAA richiede in genere che qualcuno abbia voluto accedere a un computer senza autorizzazione, e nessun tribunale ha riconosciuto a un agente IA uno stato mentale. In audizione Ohm si è spinto oltre, proponendo una responsabilità oggettiva degli sviluppatori quando gli agenti causano danni gravi. Il disegno di legge arriva inoltre due giorni dopo l’accordo volontario sull’IA della Casa Bianca, che il senatore Richard Blumenthal ha definito «peggio che inefficace» come regime di sicurezza.
Chi risponde se un agente IA viola un sistema?
Per come è stato annunciato, il disegno di legge ripartisce la responsabilità tra le due parti che controllano il comportamento di un agente:
- L’operatore decide dove gira l’agente, quali credenziali e strumenti riceve e quale rete può raggiungere. La responsabilità scatta con la gestione consapevole di un agente che causa danni per imprudenza.
- Lo sviluppatore addestra o rilascia l’agente ed è nella posizione migliore per conoscerne le capacità. La responsabilità scatta in assenza di misure ragionevoli contro un hacking di cui era o avrebbe dovuto essere a conoscenza.
- L’utente che indirizza un agente contro un bersaglio è già coperto dalle norme vigenti sull’hacking; il disegno di legge lo rende esplicito per gli agenti IA.
Per la maggior parte delle aziende è la regola sugli operatori quella da leggere due volte. Un’azienda che collega un modello di terze parti a un agente con credenziali di produzione è un operatore, anche se non ha mai addestrato un modello.
Cosa significa per i team software negli Stati Uniti e in Europa
Primo: chi impiega gli agenti rientra nel perimetro. Finora il dibattito sugli agenti fuori controllo si era concentrato sui grandi laboratori. Questa proposta arriva fino al fornitore SaaS, alla banca o al retailer che gestisce un agente con accesso a strumenti. Se un agente si allontana dal suo compito e finisce nell’API di un partner o su un sito pubblico, «è stato il modello» non sarebbe una risposta sufficiente.
Secondo: «consapevolmente» e «misure ragionevoli» si discuteranno sulle prove. Permessi circoscritti, allowlist del traffico in uscita, passaggi di approvazione e log delle azioni sono ciò che dimostra che un operatore non ha agito con imprudenza. I team che non sanno ricostruire cosa ha fatto un agente, e perché, faticheranno a difendersi con qualsiasi versione di questa legge.
Terzo: l’UE va nella stessa direzione per un’altra strada. L’AI Act fissa già obblighi per fornitori e deployer di sistemi ad alto rischio, e la nuova direttiva UE sulla responsabilità per danno da prodotti difettosi, che gli Stati membri devono recepire entro dicembre 2026, considera prodotto anche il software, compresi i sistemi di IA. Una legge penale statunitense più la responsabilità da prodotto europea significano che un unico insieme di controlli sugli agenti deve soddisfare entrambe.
Cosa significa per le aziende italiane?
In Italia il tema ha già un aggancio concreto nel diritto penale d’impresa. L’accesso abusivo a un sistema informatico è punito dall’articolo 615-ter del Codice penale e i reati informatici rientrano, tramite l’articolo 24-bis, nel catalogo del D.Lgs. 231/2001 sulla responsabilità amministrativa degli enti: un’azienda può quindi essere sanzionata se il reato è commesso nel suo interesse o a suo vantaggio e non ha adottato un modello organizzativo idoneo a prevenirlo. Per chi integra agenti IA nei processi, il dibattito americano su «operatori» e «misure ragionevoli» si traduce quindi in una domanda familiare: il Modello 231 e le procedure IT coprono anche ciò che un agente autonomo può fare con le credenziali aziendali? Aggiornare la mappatura dei rischi, restringere i privilegi degli agenti e conservare log verificabili aiuta sia davanti all’Organismo di Vigilanza sia con i clienti statunitensi.
Cosa fare subito
- Censite i vostri agenti. Elencate ogni agente con accesso a rete, browser, esecuzione di codice o API, il suo responsabile e il modello e fornitore da cui dipende.
- Limitate l’accesso al compito. Assegnate a ogni agente credenziali proprie e a breve scadenza, il minimo indispensabile di strumenti e una allowlist per il traffico in uscita; tutto il resto bloccato di default.
- Registrate ogni azione. Conservate log non alterabili di prompt, chiamate agli strumenti, destinazioni e risultati abbastanza a lungo da poter rispondere a un incidente o a una richiesta legale.
- Inserite dei freni. Richiedete l’approvazione umana per le azioni ad alto rischio, limitate i cicli autonomi e mantenete un kill switch collaudato.
- Testate l’hacking involontario. Sottoponete gli agenti a red teaming su scansioni, uso improprio delle credenziali e accessi non autorizzati prima del rilascio e dopo ogni cambio di modello.
- Rivedete i contratti. Chiedete ai fornitori di modelli quali misure di sicurezza adottano, come comunicano le capacità pericolose e quali manleve offrono.
Domande frequenti
Che cos'è l'AI Agent Accountability Act?
È un disegno di legge bipartisan presentato al Senato degli Stati Uniti il 1° ottobre 2026 dai senatori Josh Hawley (repubblicano, Missouri) e Chris Murphy (democratico, Connecticut). Applicherebbe il Computer Fraud and Abuse Act agli agenti IA, introducendo responsabilità penale e civile per operatori e sviluppatori quando gli agenti violano sistemi a cui non erano autorizzati ad accedere.
L'AI Agent Accountability Act è già legge?
No. Al 3 ottobre 2026 è una proposta. Non è stata approvata da nessuno dei due rami del Congresso e testo e ambito di applicazione possono ancora cambiare durante l'esame in commissione.
La proposta riguarda anche le aziende che si limitano a usare agenti IA?
Per come è stata annunciata, sì. La responsabilità degli operatori riguarda chiunque gestisca consapevolmente un agente IA che causa per imprudenza danni o perdite tramite hacking, il che può includere le aziende che impiegano agenti basati su modelli di terze parti, non solo i laboratori di IA.
Perché i legislatori vogliono aggiornare il CFAA per gli agenti IA?
Il CFAA richiede in genere che una persona abbia avuto l'intenzione di accedere a un computer senza autorizzazione. Nessun tribunale ha riconosciuto a un agente IA uno stato mentale, quindi non è chiaro chi sia responsabile, ammesso che lo sia qualcuno, quando un agente viola un sistema di propria iniziativa.
Cosa dovrebbero fare subito i team che gestiscono agenti IA?
Censire ogni agente con accesso alla rete o a strumenti, limitarne le credenziali, consentire il traffico in uscita solo verso destinazioni autorizzate, registrare ogni azione, prevedere approvazione umana e un kill switch per le azioni rischiose, testare gli agenti contro comportamenti di hacking involontari e rivedere i contratti con i fornitori su misure di sicurezza e manleve.
Fonti
Office of Sen. Josh Hawley — Senators Hawley, Murphy announce bipartisan AI Agent Accountability Act
Office of Sen. Chris Murphy — Murphy, Hawley announce bipartisan legislation to force AI developers to prioritize safety
Axios — Sens. Hawley, Murphy push AI liability as Trump backs self-regulation
Nextgov/FCW — AI firms should be held liable for their models’ actions, lawmakers say
IAPP — US Senate subcommittee tackles rogue AI risks, accountability
NBC News — OpenAI CEO Sam Altman to skip congressional hearing on rogue AI agents