Negli ultimi mesi, nel Regno Unito si è intensificato il dibattito sull’impiego dell’intelligenza artificiale nei servizi pubblici. Un recente approfondimento della BBC ha evidenziato le crescenti preoccupazioni di associazioni e gruppi per i diritti civili riguardo all’utilizzo di sistemi algoritmici da parte del UK Government in ambiti particolarmente delicati come welfare, immigrazione e giustizia.
La questione non è meramente tecnologica. È giuridica, costituzionale e democratica.
Quando un algoritmo incide sull’accesso a un beneficio economico, sulla valutazione di una richiesta di soggiorno o sulla classificazione di un rischio sociale, la tecnologia diventa esercizio di potere pubblico.
L’ALGORITMO COME DECISORE PUBBLICO
L’amministrazione britannica ha avviato negli ultimi anni diversi progetti di automazione decisionale. I sistemi di intelligenza artificiale vengono utilizzati per:
-individuare possibili frodi nei sussidi sociali;
-classificare priorità nelle richieste migratorie;
-supportare valutazioni fiscali;
-elaborare modelli predittivi nel settore giudiziario.
L’obiettivo dichiarato è l’efficienza: riduzione dei costi, velocizzazione dei procedimenti, maggiore capacità di analisi dei dati. Tuttavia, quando l’output algoritmico incide su diritti soggettivi, esso assume la natura di decisione amministrativa sostanziale. Se così è, devono trovare applicazione le medesime garanzie previste per ogni atto amministrativo ovvero motivazione, trasparenza del procedimento, diritto al contraddittorio, possibilità di ricorso effettivo.
Il problema sorge nel momento in cui la decisione è generata da un modello opaco, non facilmente comprensibile né verificabile.
IL PROBLEMA DELLA TRASPARENZA E DELL’OPACITÀ ALGORITMICA
Molti dei sistemi adottati nel settore pubblico sono sviluppati da fornitori privati. Ciò comporta la presenza di modelli proprietari, algoritmi non divulgabili e segreti industriali.
Si crea così una tensione strutturale tra tutela della proprietà intellettuale del fornitore e diritto del cittadino alla conoscibilità del processo decisionale.
Senza accesso alla logica sottostante, la motivazione dell’atto rischia di trasformarsi in una formula vuota.
Un’amministrazione algoritmica priva di trasparenza indebolisce il controllo democratico e rende più difficile il sindacato giurisdizionale.
IL RISCHIO DI DISCRIMINAZIONE INDIRETTA
Uno dei temi più critici riguarda il bias algoritmico.
I sistemi di machine learning apprendono da dati storici. Se tali dati riflettono disuguaglianze pregresse, l’algoritmo può replicare o amplificare quelle stesse distorsioni.
Nel contesto britannico, il riferimento normativo è l’Equality Act 2010, che vieta discriminazioni dirette e indirette.
Una decisione automatizzata che produca effetti sproporzionati su determinate categorie potrebbe integrare una violazione del principio di uguaglianza.
La difficoltà, tuttavia, è probatoria. Dimostrare una discriminazione algoritmica richiede accesso ai dati, audit indipendenti e analisi statistiche approfondite.
Senza strumenti di verifica, la tutela resta formale.
IL MODELLO BRITANNICO: INNOVAZIONE PRIMA DELLA REGOLAZIONE
A differenza dell’Unione Europea, che con l’AI Act ha introdotto una disciplina strutturata per i sistemi ad alto rischio, il Regno Unito ha scelto un approccio più flessibile e orientato all’innovazione.
L’UE prevede:
-classificazione dei sistemi per livello di rischio;
-obblighi stringenti per quelli ad alto rischio;
-documentazione tecnica dettagliata;
-supervisione umana significativa.
Il Regno Unito, invece, privilegia linee guida settoriali e una regolazione meno invasiva, con l’obiettivo di favorire lo sviluppo tecnologico e l’attrattività economica del Paese.
Questa divergenza apre scenari di competizione regolatoria e possibili tensioni nei rapporti con l’Europa.
RESPONSABILITÀ PUBBLICA NELL’ERA DELL’INTELLIGENZA ARTIFICIALE
Se un sistema algoritmico produce un danno, la questione della responsabilità diventa centrale.
Chi risponde di una revoca ingiustificata di un beneficio?
L’amministrazione che ha adottato il sistema?
Il fornitore privato del software?
Il funzionario che ha validato la decisione?
L’algoritmo non elimina la responsabilità, ma ne complica la distribuzione. La catena causale può coinvolgere progettazione, dataset, parametrizzazione e uso concreto del sistema.
Occorre quindi ripensare i meccanismi di accountability pubblica, garantendo supervisione umana e tracciabilità delle decisioni.
VERSO UNA NUOVA TEORIA DELL’AMMINISTRAZIONE DIGITALE
L’impiego dell’intelligenza artificiale nei servizi pubblici non rappresenta una fase sperimentale isolata, ma un cambiamento strutturale.
Si sta passando da un’amministrazione fondata sulla discrezionalità umana a una gestione data-driven, predittiva e automatizzata.
Questo mutamento impone una riflessione su, principio di legalità, tutela giurisdizionale effettiva, diritto alla motivazione, garanzie procedimentali digitali.
L’innovazione tecnologica deve essere integrata all’interno di uno schema di garanzie costituzionali, non collocata al di sopra di esse.
PERCHÉ QUESTO TEMA RIGUARDA ANCHE L’ITALIA
Il caso britannico rappresenta un laboratorio giuridico osservato con attenzione anche dagli Stati membri dell’Unione Europea.
L’Italia sta progressivamente introducendo sistemi automatizzati in ambito fiscale, previdenziale e amministrativo.
Il confronto con il Regno Unito evidenzia una questione centrale:
Non si tratta di decidere se utilizzare l’intelligenza artificiale, ma di stabilire quali garanzie debbano accompagnarne l’adozione.
Senza trasparenza, audit indipendenti, diritto all’intervento umano e tracciabilità delle decisioni, l’efficienza amministrativa rischia di trasformarsi in opacità istituzionale.
L’intelligenza artificiale nei servizi pubblici rappresenta una delle sfide giuridiche più significative del prossimo decennio.
Il Regno Unito sta sperimentando un modello orientato all’innovazione e alla flessibilità regolatoria. L’Unione Europea ha scelto un approccio più strutturato e preventivo.
La domanda rimane aperta:
può l’efficienza amministrativa giustificare una compressione delle garanzie procedurali?
In uno Stato di diritto, la risposta non può che essere negativa. L’algoritmo può supportare l’amministrazione. Non può sostituire i principi fondamentali che la legittimano.
A cura degli studenti sotto la facoltà di Giurisprudenza e Ingegneria Informatica
