L’AI non si limita più a rispondere: Ora agisce. Ma chi paga quando sbaglia?

Fino a poco tempo fa il rischio più evidente dell’intelligenza artificiale era relativamente semplice da comprendere: l’AI poteva fornire una risposta sbagliata. Poteva inventare una sentenza, commettere un errore in un documento, interpretare male una richiesta o generare informazioni inesatte. Il problema era serio, ma rimaneva almeno un passaggio fondamentale tra l’errore della macchina e le sue conseguenze: qualcuno doveva utilizzare quella risposta. Con gli agenti AI questo confine sta iniziando a scomparire. Un agente autonomo non si limita necessariamente a suggerire cosa fare. Può ricevere un obiettivo, suddividerlo in diverse attività, utilizzare strumenti esterni e compiere autonomamente una serie di operazioni per raggiungerlo. Può leggere documenti, interrogare database, modificare informazioni, utilizzare software aziendali, inviare comunicazioni o interagire con altri sistemi. La questione giuridica cambia quindi radicalmente. Non dobbiamo più chiederci soltanto chi risponde di ciò che un’AI dice, ma chi risponde di ciò che un’AI fa. 

 
ANTHROPIC METTE IL RISCHIO NERO SU BIANCO 

Il tema è diventato ancora più concreto dopo quanto emerso dal prospetto predisposto da Anthropic in vista della propria quotazione in borsa. Secondo i documenti esaminati da Reuters, la società dietro Claude ha indicato tra i propri fattori di rischio proprio la possibilità che agenti AI dotati di un elevato grado di autonomia provochino danni reali. Il motivo è legato alla natura stessa della tecnologia. Gli agenti possono mantenere un accesso profondo ai sistemi dei clienti e operare autonomamente anche per periodi prolungati. Un errore, un comportamento non previsto o una vulnerabilità di sicurezza potrebbero quindi tradursi in qualcosa di molto diverso da una risposta sbagliata visualizzata su uno schermo. Anthropic cita, tra i possibili rischi, anche cancellazioni di dati e transazioni finanziarie potenzialmente irreversibili. Non significa che un agente Claude abbia improvvisamente iniziato a svuotare conti bancari. Il punto è diverso: la stessa società che sviluppa questi sistemi riconosce agli investitori che, aumentando autonomia e accesso, aumentano anche le possibili conseguenze materiali degli errori. Ed è proprio qui che il diritto incontra un problema nuovo. 

 
SE L’AGENTE FA UN BONIFICO SBAGLIATO, CHI RISPONDE? 

Immaginiamo una società che utilizzi un agente AI per automatizzare parte della propria amministrazione. L’agente riceve accesso alla posta elettronica, ai documenti aziendali, al gestionale e ad alcuni strumenti finanziari. Gli viene assegnato un obiettivo e, interpretando erroneamente alcune informazioni, autorizza o prepara una transazione verso il destinatario sbagliato. Oppure immaginiamo un agente che cancelli dati ritenuti inutili, invii informazioni riservate alla persona sbagliata o modifichi automaticamente un database essenziale per l’impresa. Attribuire la responsabilità non è immediato. Potrebbe entrare in gioco l’impresa che ha implementato il sistema, soprattutto se gli ha concesso autorizzazioni eccessivamente ampie o non ha previsto controlli adeguati. Potrebbe assumere rilevanza il produttore dell’AI, qualora il danno fosse riconducibile alle caratteristiche del sistema, alle modalità con cui è stato progettato o alle informazioni fornite sul suo funzionamento. Potrebbero essere coinvolti anche il fornitore che ha integrato l’agente nei sistemi aziendali, chi ne ha definito le autorizzazioni e, in determinate circostanze, la persona che gli ha impartito le istruzioni. L’autonomia tecnologica, però, non crea automaticamente una nuova persona giuridica sulla quale scaricare la responsabilità. L’agente non possiede un patrimonio dal quale risarcire il danneggiato e non diventa responsabile semplicemente perché ha compiuto materialmente l’azione. Il problema diventa quindi capire a quale soggetto umano o societario quell’azione debba essere giuridicamente ricondotta. 

 
“È STATA L’AI” POTREBBE NON ESSERE UNA DIFESA 

Negli Stati Uniti il dibattito sta già prendendo una direzione interessante. Il 25 settembre 2026, il presidente della Federal Trade Commission Andrew Ferguson ha criticato l’idea di rappresentare gli agenti AI come soggetti dotati di una propria volontà indipendente. Il ragionamento è importante. Se qualcuno fornisce uno strumento, decide quali poteri attribuirgli e gli impartisce determinate istruzioni, sostenere successivamente che sia stato lo strumento ad agire autonomamente non risolve necessariamente il problema della responsabilità. La FTC ha indicato la possibilità di utilizzare anche gli strumenti giuridici già esistenti invece di costruire necessariamente un sistema completamente nuovo solo perché l’azione viene eseguita attraverso l’intelligenza artificiale. Questo significa che concetti già conosciuti — responsabilità contrattuale, negligence, sicurezza informatica, protezione dei consumatori e responsabilità derivante dalla progettazione o dall’utilizzo di determinati sistemi — potrebbero continuare ad avere un ruolo centrale. La vera difficoltà sarà applicarli a un ecosistema nel quale lo stesso risultato può dipendere contemporaneamente dal modello AI, dal software che lo integra, dalle autorizzazioni concesse dall’impresa e dalle istruzioni dell’utilizzatore. 

 
IL VERO PROBLEMA POTREBBE DIVENTARE LA DELEGA 

Con l’agentic AI emerge quindi una questione ancora più profonda: quanto potere possiamo delegare a una macchina? Un’impresa potrebbe permettere a un agente di consultare documenti senza consentirgli di modificarli. Potrebbe autorizzarlo a preparare un pagamento lasciando però l’approvazione finale a un essere umano. Oppure potrebbe concedergli accesso alla posta elettronica senza permettergli di inviare autonomamente messaggi verso l’esterno. La differenza sembra tecnica, ma è soprattutto una questione di governance. Se un agente dispone soltanto delle autorizzazioni strettamente necessarie, un suo errore può avere conseguenze limitate. Se lo stesso agente possiede accesso indiscriminato a database, comunicazioni, strumenti finanziari e sistemi aziendali, un singolo errore può propagarsi molto più velocemente. Il principio del least privilege, da anni fondamentale nella cybersecurity, acquista quindi un nuovo significato nell’era degli agenti AI: concedere a ogni sistema soltanto i privilegi necessari per svolgere il proprio compito. A questo devono aggiungersi registri delle attività, sistemi di monitoraggio, possibilità di interrompere immediatamente l’agente e punti nei quali una determinata azione richieda necessariamente l’intervento umano. Perché se non è possibile ricostruire ciò che l’agente ha fatto, diventa molto più difficile persino capire dove sia nato l’errore e a chi debba essere attribuito. 

 
PER GLI AVVOCATI IL PROBLEMA È ANCORA PIÙ DELICATO 

Negli studi legali l’arrivo degli agenti AI potrebbe avere conseguenze particolarmente importanti. Un sistema potrebbe teoricamente seguire gran parte di un workflow: acquisire informazioni dal cliente, analizzare documenti, effettuare ricerche, aggiornare il gestionale, preparare una bozza e inviare determinate comunicazioni. L’efficienza sarebbe enorme, ma lo sarebbero anche i rischi. L’American Bar Association ha sottolineato proprio la differenza tra generative AI e agentic AI: la prima prevalentemente produce contenuti, mentre la seconda può eseguire azioni. Un errore potrebbe quindi significare inviare informazioni confidenziali alla persona sbagliata, depositare un documento errato, modificare una pratica o utilizzare dati ai quali il sistema non avrebbe dovuto accedere. E soprattutto, affidare un’attività a un agente AI non significa automaticamente trasferire alla macchina la responsabilità professionale. Per questo negli studi legali diventano essenziali supervisione umana, tutela della confidenzialità, controllo degli accessi e capacità di verificare le operazioni effettuate dal sistema. In altre parole, l’agente potrà forse fare una parte crescente del lavoro. La responsabilità di decidere quanto lasciargli fare rimarrà però umana. 

 
DALL’HUMAN IN THE LOOP ALL’HUMAN ON THE LOOP 

Per anni il dibattito sull’AI ha ruotato intorno al concetto di human in the loop: mantenere un essere umano all’interno del processo decisionale. Gli agenti autonomi rendono però necessario ragionare anche su un livello diverso. Non è realistico immaginare che un essere umano debba approvare ogni singolo micro-passaggio di un sistema il cui valore deriva precisamente dalla capacità di lavorare autonomamente. La sfida diventa allora costruire confini entro i quali l’agente possa muoversi liberamente, mantenendo però controlli umani sulle decisioni che possono produrre conseguenze economiche, legali o irreversibili. Potremmo passare sempre più dall’human in the loop all’human on the loop: non una persona che autorizza ogni azione, ma una persona che stabilisce i limiti, osserva il sistema e conserva il potere di intervenire. È probabilmente qui che si giocherà una parte importante della governance dell’AI nei prossimi anni. 

 
QUANDO L’AI AGISCE, LA GOVERNANCE DIVENTA RESPONSABILITÀ 

L’agentic AI promette qualcosa che i chatbot tradizionali non potevano offrire: non soltanto aiutare l’essere umano a decidere, ma trasformare direttamente una decisione in azione. È proprio questa capacità a renderla così potente ed è la stessa capacità a renderla giuridicamente molto più complessa. Quando un agente può accedere ai sistemi aziendali, muovere informazioni, comunicare con l’esterno o eseguire operazioni, stabilire chi può fare cosa, con quali autorizzazioni e sotto quale controllo non è più soltanto una scelta informatica. Diventa una decisione legale, organizzativa e di corporate governance. La domanda dei prossimi anni probabilmente non sarà quindi se le aziende utilizzeranno agenti AI. Sarà un’altra: quanto potere siamo disposti ad affidare loro prima di sapere con certezza chi pagherà quando qualcosa andrà storto? 

A cura degli studenti sotto la Facoltà di Giurisprudenza e Ingegneria Informatica

NOTE E RIFERIMENTI