L'intelligenza artificiale sta progressivamente trasformando il funzionamento delle amministrazioni pubbliche, promettendo procedure più rapide, costi ridotti e una gestione più efficiente delle informazioni. Ma cosa accade quando questa tecnologia entra in procedimenti amministrativi dai quali dipendono la libertà, la sicurezza e, in alcuni casi, la stessa vita delle persone? È l'interrogativo sollevato dal caso emerso nel Regno Unito il 27 ottobre 2026, quando un'indagine giornalistica di WIRED ha rivelato che l'Independent Chief Inspector of Borders and Immigration, organismo indipendente incaricato di vigilare sull'attività dell'Home Office, sta valutando la possibilità di esaminare l'utilizzo dell'intelligenza artificiale nella gestione delle richieste d'asilo. Al centro della vicenda figurano due strumenti tecnologici sviluppati sulla base di modelli linguistici di OpenAI e impiegati dal Ministero dell'Interno britannico per supportare i funzionari nell'analisi delle domande di protezione internazionale. L'obiettivo dichiarato dal governo è rendere più veloce un sistema amministrativo caratterizzato da un elevato numero di pratiche arretrate. Tuttavia, secondo le verifiche condotte dall'organizzazione Open Rights Group, questi strumenti avrebbero prodotto riassunti inesatti, omesso informazioni rilevanti e operato senza garanzie di trasparenza considerate adeguate. Il governo britannico sostiene che nessuna decisione venga affidata autonomamente all'AI e che la responsabilità finale rimanga sempre nelle mani di un funzionario umano. È proprio questa distinzione, apparentemente rassicurante, a rappresentare il principale nodo giuridico: anche quando non decide direttamente, un algoritmo può influenzare profondamente una decisione amministrativa attraverso la selezione e l'interpretazione delle informazioni sulle quali essa si fonda.
COME FUNZIONANO GLI STRUMENTI AI UTILIZZATI DAL MINISTERO DELL'INTERNO
I sistemi al centro delle contestazioni sono denominati Asylum Case Summarisation (ACS) e Asylum Policy Search (APS). Il primo viene impiegato per sintetizzare le trascrizioni delle interviste effettuate ai richiedenti asilo, durante le quali vengono raccolte testimonianze relative a persecuzioni, violenze, minacce e altre circostanze che potrebbero giustificare il riconoscimento della protezione internazionale. Il secondo consente ai funzionari di consultare e riassumere informazioni relative ai Paesi di origine e alle politiche applicabili alle singole richieste. Secondo quanto ricostruito da Open Rights Group, APS è stato esteso a tutti i funzionari incaricati delle decisioni sull'asilo nel luglio 2025, mentre ACS è stato distribuito nell'aprile 2026. L'utilizzo congiunto delle due tecnologie consentirebbe, secondo le stime governative iniziali, di risparmiare circa un'ora di lavoro per ogni pratica. Un beneficio amministrativo apparentemente significativo, soprattutto in un settore caratterizzato dalla necessità di esaminare migliaia di domande. Il problema, tuttavia, riguarda la natura stessa dell'intelligenza artificiale generativa: questi strumenti non si limitano necessariamente a individuare e riprodurre informazioni già presenti nei documenti, ma possono riorganizzarle, sintetizzarle e formulare nuovi testi, introducendo il rischio di errori, omissioni e interpretazioni inesatte. Una testimonianza complessa potrebbe perdere dettagli essenziali, mentre informazioni culturalmente rilevanti potrebbero essere interpretate in maniera scorretta. Nel diritto dell'asilo, dove la credibilità delle dichiarazioni e la ricostruzione dei fatti assumono un'importanza determinante, anche una modifica apparentemente marginale può incidere sulla valutazione complessiva della richiesta.
ERRORI NEI DOCUMENTI E INFORMAZIONI INVENTATE: I RISCHI DELLE ALLUCINAZIONI ALGORITMICHE
L'indagine condotta da Open Rights Group ha evidenziato criticità concrete sull'affidabilità dei sistemi utilizzati dall'Home Office. Nelle valutazioni iniziali, circa il 9% dei riassunti generati attraverso ACS era stato considerato non idoneo all'utilizzo, mentre successivi controlli a campione hanno rilevato una percentuale pari al 15%. Si tratta di dati riferiti ai documenti esaminati, non alla totalità delle decisioni amministrative adottate. L'organizzazione ha inoltre segnalato che, tra aprile e luglio 2026, soltanto lo 0,3% dei riassunti sarebbe stato sottoposto a controlli da parte di esperti dell'amministrazione. Le criticità assumono una dimensione ancora più significativa alla luce di un episodio giudiziario verificatosi nel luglio 2026, quando un giudice britannico ha contestato all'Home Office l'utilizzo di un documento apparentemente inventato dall'intelligenza artificiale nell'ambito di un procedimento riguardante una donna marocchina e suo figlio. Il documento era stato richiamato per sostenere la sicurezza del Paese di origine e giustificare il rigetto della richiesta di protezione. Non è stato dimostrato che tale documento provenisse specificamente dai sistemi ACS o APS, ma l'episodio evidenzia il rischio delle cosiddette allucinazioni algoritmiche, ossia situazioni nelle quali un modello generativo produce informazioni false o inesistenti presentandole in maniera plausibile. In un contesto ordinario, un errore di questo tipo può compromettere la qualità di un documento; in un procedimento d'asilo, invece, potrebbe contribuire a una valutazione errata sulla possibilità di rimpatriare una persona verso un territorio nel quale rischierebbe persecuzioni o trattamenti inumani. La questione non riguarda dunque soltanto l'efficienza tecnologica, ma l'affidabilità delle informazioni utilizzate nell'esercizio del potere pubblico.
IL DIRITTO ALL'ASILO E IL PRINCIPIO DI NON-REFOULEMENT: QUANDO UN ERRORE PUÒ DIVENTARE UNA VIOLAZIONE DEI DIRITTI UMANI
Dal punto di vista giuridico, la vicenda coinvolge uno dei principi fondamentali del diritto internazionale dei rifugiati: il divieto di refoulement. L'articolo 33 della Convenzione di Ginevra del 1951 vieta, nei termini previsti dalla Convenzione, di espellere o respingere un rifugiato verso territori nei quali la sua vita o la sua libertà sarebbero minacciate per ragioni di razza, religione, nazionalità, appartenenza a un determinato gruppo sociale o opinioni politiche. A questa tutela si affianca l'articolo 3 della Convenzione europea dei diritti dell'uomo, che vieta la tortura e i trattamenti inumani o degradanti e impedisce l'allontanamento di una persona quando esista un rischio reale di subire tali trattamenti. L'applicazione di questi principi richiede una valutazione individuale, accurata e fondata su informazioni attendibili. Se l'intelligenza artificiale omettesse dettagli rilevanti di una testimonianza, oppure restituisse informazioni inesatte sulle condizioni di sicurezza di un determinato Paese, il procedimento potrebbe essere compromesso. Non sarebbe necessario che l'algoritmo adottasse formalmente la decisione finale: basterebbe che un'informazione erronea influisse sulla ricostruzione dei fatti e, di conseguenza, sull'esito dell'istruttoria. Naturalmente, l'esistenza di un errore algoritmico non determina automaticamente una violazione della Convenzione, che dovrebbe essere valutata alla luce delle circostanze concrete. Tuttavia, il caso britannico dimostra quanto sia importante garantire che le tecnologie impiegate nei procedimenti amministrativi non riducano l'effettività delle tutele riconosciute dal diritto internazionale. L'innovazione tecnologica può contribuire a velocizzare le procedure, ma non può giustificare una diminuzione delle garanzie fondamentali riconosciute agli individui.
PRIVACY, TRASPARENZA E DIRITTO DI DIFESA: IL PROBLEMA DELLE DECISIONI ALGORITMICHE
Un ulteriore aspetto riguarda la protezione dei dati personali e la possibilità per il richiedente asilo di conoscere e contestare le informazioni utilizzate nel procedimento. Secondo Open Rights Group, le persone interessate non vengono specificamente informate dell'utilizzo degli strumenti ACS e APS nelle proprie pratiche, mentre alcune informazioni relative al funzionamento, ai controlli e alla formazione del personale non sarebbero state rese pubbliche. Tale situazione solleva interrogativi rispetto al UK GDPR, in particolare al principio di esattezza previsto dall'articolo 5 e al diritto alla rettifica disciplinato dall'articolo 16. Se un sistema generativo producesse una sintesi inesatta della testimonianza di una persona, quest'ultima dovrebbe poter disporre di strumenti effettivi per contestare eventuali dati personali erronei. Assume rilievo anche l'articolo 22 del UK GDPR, relativo alle decisioni basate esclusivamente su trattamenti automatizzati che producono effetti giuridici o incidono significativamente sull'individuo. Nel caso britannico, tuttavia, non è possibile affermarne automaticamente la violazione, poiché l'Home Office sostiene che ogni decisione venga adottata da funzionari umani. Resta comunque il problema dell'effettività del controllo umano: se il funzionario si limita ad accettare un riassunto generato dall'AI senza confrontarlo con la documentazione originale, la supervisione rischia di trasformarsi in una garanzia soltanto formale. La trasparenza diventa quindi una condizione essenziale non soltanto per la protezione dei dati, ma anche per l'esercizio del diritto di difesa e per la possibilità di contestare decisioni amministrative fondate su informazioni inesatte.
L'AI ACT EUROPEO E I SISTEMI AD ALTO RISCHIO: QUALI GARANZIE PREVEDE L'UNIONE EUROPEA?
Il caso britannico assume particolare rilevanza se confrontato con il quadro normativo dell'Unione europea, dove il Regolamento (UE) 2024/1689, conosciuto come AI Act, introduce un sistema di classificazione delle applicazioni di intelligenza artificiale fondato sul livello di rischio per la sicurezza e i diritti fondamentali. L'articolo 6, in combinazione con l'Allegato III, individua tra le applicazioni potenzialmente ad alto rischio determinati sistemi impiegati dalle autorità pubbliche nell'ambito della migrazione, dell'asilo e della gestione delle frontiere. La classificazione riguarda, in particolare, le tecnologie destinate ad assistere le amministrazioni nell'esame delle richieste di protezione internazionale, nella valutazione dell'ammissibilità delle domande e nell'attendibilità delle prove presentate, fermo restando che la classificazione concreta dipende dalle caratteristiche e dall'effettiva influenza del sistema sul procedimento. Per le applicazioni qualificate ad alto rischio, il regolamento prevede obblighi relativi alla gestione dei rischi, all'accuratezza, alla trasparenza, alla documentazione tecnica e alla sorveglianza umana, secondo le rispettive disposizioni e scadenze di applicazione. Il Regno Unito, dopo la Brexit, non è automaticamente soggetto a questa disciplina, ma il confronto evidenzia una questione comune: l'intervento umano deve essere effettivo e non limitarsi alla convalida formale di risultati generati da una macchina. Un funzionario pubblico dovrebbe poter comprendere i limiti del sistema, verificare le informazioni originali e individuare eventuali errori prima di adottare un provvedimento. L'elemento centrale non è dunque stabilire se l'intelligenza artificiale possa essere utilizzata nell'amministrazione pubblica, ma individuare le condizioni necessarie affinché il suo impiego rimanga compatibile con i principi di legalità, proporzionalità e tutela dei diritti fondamentali.
CHI RISPONDE DEGLI ERRORI DELL'INTELLIGENZA ARTIFICIALE? IL FUTURO DELLA RESPONSABILITÀ PUBBLICA
Il caso del Regno Unito solleva infine una questione destinata ad assumere un'importanza crescente nel diritto contemporaneo: chi deve rispondere quando un errore prodotto dall'intelligenza artificiale contribuisce a una decisione amministrativa illegittima? La presenza di un fornitore tecnologico, di un sistema automatizzato e di un funzionario pubblico rende più articolata la ricostruzione delle responsabilità, ma non elimina gli obblighi giuridici dell'amministrazione. Se un'autorità pubblica adotta un provvedimento basandosi su informazioni inesatte, la circostanza che queste siano state generate da un algoritmo non costituisce, di per sé, una giustificazione sufficiente. Occorrerebbe valutare se i controlli previsti fossero adeguati, se il personale fosse stato correttamente formato, se l'errore fosse riconoscibile e se avesse effettivamente inciso sull'esito del procedimento. L'eventuale responsabilità del fornitore tecnologico dovrebbe invece essere esaminata separatamente, alla luce degli obblighi contrattuali e delle norme applicabili. La vicenda britannica dimostra anche come il problema non riguardi esclusivamente l'errore tecnico, ma la progressiva dipendenza delle istituzioni pubbliche da sistemi il cui funzionamento può risultare difficile da ricostruire e contestare. Il 27 ottobre 2026, Open Rights Group ha inoltre pubblicato un rapporto sull'impiego dell'intelligenza artificiale nel sistema britannico dell'immigrazione, denunciando una diffusione delle tecnologie automatizzate accompagnata, secondo l'organizzazione, da insufficienti garanzie di trasparenza e controllo. Nel frattempo, l'eventuale apertura di un'indagine specifica da parte dell'organismo indipendente di vigilanza rimane una possibilità, non un procedimento già formalmente annunciato. La sfida per il futuro sarà quindi impedire che la ricerca dell'efficienza amministrativa trasformi il controllo umano in un passaggio puramente formale. L'intelligenza artificiale può rappresentare uno strumento prezioso per le amministrazioni pubbliche, ma la tutela dei diritti non può dipendere esclusivamente dall'affidabilità statistica di un modello. Quando una decisione può determinare il destino di una persona, la rapidità del procedimento non può prevalere sulla correttezza dell'accertamento. La questione fondamentale, allora, non è soltanto se una macchina possa sbagliare, ma se lo Stato sia realmente in grado di riconoscere quell'errore prima che produca conseguenze irreversibili.
A cura degli studenti della Facoltà di Giurisprudenza e Ingegneria Informatica
NOTE E RIFERIMENTI
- WIRED – UK Home Office May Face Investigation Over Use of OpenAI Tools. Isabella Ward, 27 ottobre 2026. Ricostruzione giornalistica delle criticità relative all'utilizzo dell'intelligenza artificiale nelle procedure britanniche di asilo e della possibile attività ispettiva dell'Independent Chief Inspector of Borders and Immigration.
https://www.wired.com/story/uk-home-office-may-face-investigation-over-use-of-openai-tools/
- Open Rights Group – The Use of ChatGPT in Asylum Decisions. 12 ottobre 2026. Indagine sull'utilizzo degli strumenti ACS e APS, sulle percentuali di riassunti non idonei e sui problemi di trasparenza e controllo.
https://www.openrightsgroup.org/publications/the-use-of-chatgpt-in-asylum-decisions/
- UK Home Office – Evaluation of AI Trials in the Asylum Decision Making Process. 29 aprile 2025. Documento ufficiale del governo britannico sui risultati delle sperimentazioni dei sistemi ACS e APS, sui benefici amministrativi e sui limiti osservati.
https://www.gov.uk/government/publications/evaluation-of-ai-trials-in-the-asylum-decision-making-process/evaluation-of-ai-trials-in-the-asylum-decision-making-process
- Open Rights Group – Automated Discrimination: Unpacking the Digital Hostile Environment. Comunicato del 27 ottobre 2026 relativo al rapporto sull'impiego dell'intelligenza artificiale nelle procedure migratorie e nei controlli alle frontiere.
https://www.openrightsgroup.org/press-releases/new-report-ai-being-embedded-across-immigration-system-in-near-total-secrecy/
- Convenzione di Ginevra del 28 luglio 1951 relativa allo status dei rifugiati. Articolo 33, principio di non-refoulement, e relativo Protocollo del 1967.
https://www.unhcr.org/1951-refugee-convention
- Convenzione europea dei diritti dell'uomo. Articolo 3, divieto di tortura e trattamenti inumani o degradanti.
https://www.echr.coe.int/european-convention-on-human-rights
- Regolamento (UE) 2024/1689 – Artificial Intelligence Act. Articolo 6 e Allegato III, punto 7, sulla classificazione dei sistemi AI utilizzati in materia di migrazione, asilo e controllo delle frontiere; articoli 9, 13, 14 e 15 sugli obblighi per i sistemi ad alto rischio.
https://eur-lex.europa.eu/eli/reg/2024/1689/oj
- Data (Use and Access) Act 2025 – Regno Unito. Sezione 80, relativa alla riforma della disciplina delle decisioni automatizzate nel UK GDPR, inclusi i nuovi articoli 22A–22D e le relative garanzie. È questo il quadro normativo aggiornato da considerare, in luogo del precedente articolo 22 nella sua formulazione originaria.
https://www.legislation.gov.uk/ukpga/2025/18/section/80
- UK GDPR – Regolamento generale britannico sulla protezione dei dati. Rilevano in particolare il principio di esattezza di cui all'articolo 5 e il diritto alla rettifica di cui all'articolo 16, oltre alla disciplina aggiornata delle decisioni automatizzate.
https://www.legislation.gov.uk/eur/2016/679/contents
