Un documento che richiedeva due ore può essere prodotto in pochi minuti. Una prima versione di un contratto compare sullo schermo quasi istantaneamente. Centinaia di righe di codice possono essere generate mentre lo sviluppatore sta ancora descrivendo il problema. È questa la promessa che ha reso l’intelligenza artificiale generativa una delle tecnologie aziendali adottate più rapidamente degli ultimi anni.
Il problema emerge qualche minuto dopo. Chi garantisce che quelle righe di codice non abbiano introdotto una vulnerabilità? Chi controlla che le clausole del contratto siano coerenti con il diritto applicabile? Chi verifica che le fonti citate in un report esistano davvero? E soprattutto: quanto tempo serve per controllare un contenuto che una macchina può produrre praticamente senza attrito?
La rivoluzione dell’AI sta creando una singolare asimmetria economica. Il costo della generazione continua a diminuire; quello della verifica, invece, rimane legato a una risorsa molto meno scalabile: l’attenzione e la competenza umana.
LA PRODUTTIVITÀ DELL’AI NON È UNA VARIABILE UNICA
Misurare l’impatto dell’intelligenza artificiale sul lavoro è più complicato di quanto suggeriscano molte presentazioni aziendali. Alcuni esperimenti mostrano guadagni importanti, mentre altri restituiscono risultati molto meno lineari.
Uno degli studi più significativi è quello condotto da Erik Brynjolfsson, Danielle Li e Lindsey Raymond su 5.172 operatori del customer support. Pubblicata nel 2025 sul Quarterly Journal of Economics, la ricerca ha rilevato un aumento medio della produttività del 15% tra i lavoratori che potevano utilizzare un assistente basato sull’intelligenza artificiale. L’effetto, però, non era distribuito uniformemente: i benefici maggiori riguardavano i lavoratori meno esperti, mentre tra quelli più qualificati i guadagni erano decisamente più contenuti.
Anche nel software emergono numeri rilevanti. Tre esperimenti sul campo condotti presso Microsoft, Accenture e un’altra società Fortune 100 hanno coinvolto complessivamente 4.867 sviluppatori. Aggregando i risultati, i ricercatori hanno osservato un aumento del 26,08% delle attività completate tra gli sviluppatori che disponevano di un assistente AI per il coding. Anche in questo caso, i professionisti meno esperti tendevano a mostrare tassi di adozione e incrementi di produttività maggiori.
Ma basta cambiare contesto perché il risultato si rovesci. METR ha osservato 16 sviluppatori open source esperti impegnati su 246 attività relative a repository sui quali lavoravano da anni. Prima dell’esperimento gli sviluppatori prevedevano che l’AI avrebbe ridotto i tempi di completamento del 24%. In realtà, utilizzando strumenti di frontiera disponibili nei primi mesi del 2025, hanno impiegato mediamente il 19% di tempo in più. Curiosamente, anche dopo aver terminato l’esperimento continuavano a percepire l’AI come uno strumento che li aveva resi più veloci.
Non significa che l’intelligenza artificiale rallenti il lavoro in generale. Significa qualcosa di più interessante: generare più velocemente non equivale necessariamente a completare più velocemente un lavoro affidabile.
IL LAVORATORE RISPARMIA TEMPO, L’ORGANIZZAZIONE EREDITA IL CONTROLLO
L’AI modifica la struttura stessa del lavoro. Tradizionalmente produrre un documento significava raccogliere informazioni, organizzarle, scrivere una prima versione e revisionarla. Con un modello generativo una parte considerevole di questo processo viene compressa in pochi secondi. La fase di produzione diventa quindi molto meno costosa, mentre aumenta proporzionalmente l’importanza di ciò che viene dopo: controllare.
È qui che nasce quello che potremmo definire un debito di verifica.
Un dipendente può produrre cinque analisi nello stesso tempo in cui prima ne preparava una. Ma se ciascuna analisi deve essere controllata da un responsabile, il collo di bottiglia non scompare: semplicemente si sposta lungo la catena organizzativa. Il problema diventa ancora più evidente quando l’output non è soltanto testo, ma codice, decisioni automatizzate, analisi finanziarie o azioni compiute autonomamente da un agente AI.
Una ricerca di Microsoft Research su 319 knowledge worker e 936 casi reali di utilizzo dell’intelligenza artificiale ha individuato proprio questa trasformazione. Una maggiore fiducia nell’AI risultava associata a un minore esercizio del pensiero critico, mentre il lavoro cognitivo tendeva a spostarsi dalla produzione diretta dell’informazione alla verifica dell’output, alla sua integrazione e alla supervisione del compito.
È una trasformazione apparentemente sottile, ma economicamente enorme. Il professionista rischia di dedicare meno tempo a creare e molto più tempo a stabilire se ciò che una macchina ha creato possa realmente essere utilizzato.
QUANDO L’ERRORE DELL’AI ARRIVA DAVANTI A UN GIUDICE
Il settore legale rende questa dinamica particolarmente evidente perché permette di osservare cosa accade quando la verifica viene saltata.
Negli Stati Uniti l’utilizzo di strumenti generativi nella redazione degli atti giudiziari ha già prodotto diversi procedimenti legati a citazioni inesistenti o inesatte. Il fenomeno è diventato sufficientemente rilevante da spingere alcuni tribunali a interrogarsi non tanto sull’opportunità di utilizzare l’AI, quanto sugli obblighi di verifica che devono accompagnarla.
Il 18 settembre 2026 il Tenth U.S. Circuit Court of Appeals ha proposto una regola che imporrebbe agli avvocati e alle parti che si rappresentano autonomamente di certificare che gli atti preparati con l’assistenza dell’intelligenza artificiale generativa siano stati sottoposti a revisione umana. Se definitivamente approvata, la misura dovrebbe entrare in vigore il 1° gennaio 2027. La violazione potrebbe comportare conseguenze che vanno dalle sanzioni economiche fino alla cancellazione dell’atto o al rinvio agli organi disciplinari.
Il passaggio è significativo perché chiarisce un principio destinato ad andare ben oltre le professioni legali: delegare la produzione non significa delegare la responsabilità.
L’intelligenza artificiale può preparare l’atto, individuare argomentazioni, riassumere centinaia di pagine o suggerire precedenti. Ma il professionista che utilizza quel materiale continua ad assumersi la responsabilità di ciò che firma e presenta.
È precisamente nello spazio tra automazione tecnica e responsabilità umana che sta prendendo forma una parte importante della governance dell’intelligenza artificiale.
L’AI ACT NON CONSIDERA L’UOMO UN TIMBRO FINALE
Anche il legislatore europeo ha affrontato il problema, soprattutto rispetto ai sistemi classificati come ad alto rischio.
L’articolo 14 dell’AI Act stabilisce che tali sistemi debbano essere progettati e sviluppati affinché possano essere effettivamente supervisionati da persone fisiche durante il loro utilizzo. Le misure di supervisione devono inoltre essere proporzionate ai rischi, al livello di autonomia del sistema e al contesto nel quale viene impiegato.
Il punto è importante perché il concetto di human oversight rischia altrimenti di essere interpretato in maniera puramente formale: l’algoritmo produce una decisione, una persona la guarda per qualche secondo e infine preme “approva”.
Ma la supervisione umana diventa poco significativa se il volume dell’automazione supera materialmente la capacità di controllo.
Se un sistema produce migliaia di decisioni e l’unico supervisore dispone di pochi secondi per esaminarne ciascuna, la presenza teorica di un essere umano può trasformarsi in una finzione organizzativa. Il controllo esiste sulla carta, ma non necessariamente nella realtà operativa.
Per questo la governance dell’AI non può fermarsi alla domanda “c’è un essere umano nel processo?”. La domanda più utile diventa: quell’essere umano dispone realmente del tempo, delle competenze, delle informazioni e dell’autorità necessarie per contestare l’output della macchina?
NEL SOFTWARE IL PROBLEMA DIVENTA ANCHE CYBERSECURITY
La stessa tensione emerge nello sviluppo software, con una conseguenza ulteriore: il costo della verifica può trasformarsi direttamente in rischio informatico.
Gli strumenti di coding generativo consentono ormai di produrre funzioni, test, configurazioni e interi blocchi applicativi con una velocità difficilmente raggiungibile manualmente. I guadagni di produttività osservati negli esperimenti sul campo sono reali, ma proprio l’aumento della quantità di codice prodotta può modificare il profilo di rischio dell’organizzazione.
Una funzione apparentemente corretta può gestire male un input. Una dipendenza suggerita automaticamente può essere obsoleta. Una configurazione cloud può concedere privilegi eccessivi. Un agente autonomo può compiere un’azione formalmente coerente con le istruzioni ricevute ma incompatibile con una policy aziendale.
Più codice viene prodotto, più codice deve essere testato. E se la velocità della generazione cresce più rapidamente della capacità di revisione, il beneficio economico iniziale rischia di essere trasferito verso debugging, sicurezza, incident response e manutenzione.
Non sorprende quindi che il NIST continui a collocare testing, evaluation, verification and validation, il cosiddetto TEVV, al centro della gestione del rischio AI. Nell’agosto 2026 l’istituto statunitense ha pubblicato la prima bozza del TEVV-Athlon Framework, un modello pensato per strutturare la valutazione di sistemi che spaziano dal machine learning tradizionale ai large language model, fino ai sistemi multimodali e agentici.
La direzione è chiara: la prossima fase dell’AI aziendale dipenderà sempre meno soltanto dalla capacità di generare output e sempre più dalla possibilità di valutarli prima che raggiungano un essere umano o un sistema critico.
DOPO I COPILOT ARRIVANO I SISTEMI CHE CONTROLLANO ALTRI SISTEMI
Se un modello può produrre migliaia di output e la verifica manuale non può crescere alla stessa velocità, una parte del controllo finirà inevitabilmente per essere automatizzata.
Nel software significa test automatici, sandbox, analisi statiche e modelli incaricati di revisionare il codice prodotto da altri modelli. Nei documenti significa controllare citazioni, confrontare affermazioni con fonti primarie e individuare incongruenze. Nei processi agentici significa imporre limiti alle azioni disponibili, livelli di autorizzazione e controlli prima dell’esecuzione di operazioni irreversibili.
Ma persino valutare automaticamente l’intelligenza artificiale presenta un problema di verifica.
Nel luglio 2026 OpenAI ha pubblicato un audit di SWE-bench Pro, benchmark utilizzato per misurare le capacità dei sistemi AI nel software engineering. L’analisi automatizzata ha classificato come problematici 200 task su 731, mentre la successiva revisione umana ne ha individuati 249. OpenAI ha quindi stimato che circa il 30% delle attività del benchmark fosse compromesso da problemi strutturali, tra test eccessivamente rigidi, prompt incompleti, copertura insufficiente dei test e istruzioni fuorvianti.
Il paradosso è evidente: per capire quanto siano affidabili le macchine servono strumenti sempre più sofisticati per verificare non soltanto le loro risposte, ma anche i sistemi utilizzati per valutarle.
IL VERO VANTAGGIO SARÀ SAPERE COSA DEVE ESSERE CONTROLLATO
Le aziende che adotteranno meglio l’intelligenza artificiale probabilmente non saranno semplicemente quelle che genereranno più contenuti, più codice o più analisi.
Saranno quelle capaci di stabilire quali output meritano un controllo umano, quali possono essere verificati automaticamente e quali attività non dovrebbero essere delegate integralmente all’AI.
Una bozza interna di email non richiede lo stesso livello di verifica di una comunicazione al mercato. Il riassunto di una riunione non presenta gli stessi rischi di una valutazione creditizia. Una funzione sperimentale eseguita in un ambiente isolato non equivale al codice destinato a un sistema sanitario, finanziario o a un’infrastruttura critica.
La governance efficace diventa quindi selettiva. I controlli devono essere costruiti intorno al rischio e al costo dell’errore, non semplicemente intorno alla disponibilità della tecnologia.
È anche il motivo per cui una supervisione umana indiscriminata rischia di fallire. Chiedere a una persona di controllare ogni output prodotto da una macchina estremamente veloce significa trasformare l’essere umano nel componente più lento dell’architettura.
Il futuro dell’organizzazione AI-native potrebbe quindi assomigliare meno a un’azienda nella quale “tutti usano l’AI” e molto più a una rete di processi nella quale generazione, verifica automatica, escalation e controllo umano vengono distribuiti secondo differenti livelli di rischio.
DAL COSTO DELLA PRODUZIONE AL COSTO DELLA FIDUCIA
Per anni la competizione sull’intelligenza artificiale si è concentrata soprattutto sulle capacità dei modelli: più contesto, più ragionamento, più autonomia, più velocità.
Ora sta emergendo un problema meno spettacolare, ma probabilmente altrettanto importante.
La tecnologia ha reso abbondante qualcosa che per secoli è stato costoso: produrre rapidamente una prima risposta plausibile. Non ha ancora reso altrettanto economico stabilire se quella risposta sia corretta, sicura e utilizzabile.
È qui che il significato stesso di produttività potrebbe cambiare.
In un’economia nella quale produrre dieci documenti richiede pochi minuti, il valore non sarà necessariamente nella capacità di generarne undici. Potrebbe trovarsi nella capacità di sapere quale dei dieci merita fiducia.
Quando la produzione diventa quasi gratuita, la verifica smette di essere l’ultima fase del lavoro e diventa una parte centrale del lavoro stesso.
A cura degli studenti sotto la Facoltà di Giurisprudenza e Ingegneria Informatica
NOTE E RIFERIMENTI
• Stanford Graduate School of Business – “Generative AI at Work”, Erik Brynjolfsson, Danielle Li e Lindsey Raymond, The Quarterly Journal of Economics, maggio 2025. Studio su 5.172 operatori del customer support e sugli effetti dell’AI generativa sulla produttività.
Link: https://www.gsb.stanford.edu/faculty-research/publications/generative-ai-work
• Microsoft Research – “The Impact of Generative AI on Critical Thinking”, Hao-Ping Lee et al., CHI 2025. Ricerca su 319 knowledge worker e 936 casi reali di utilizzo della GenAI, con particolare attenzione al rapporto tra fiducia nell’AI, pensiero critico e verifica degli output.
Link: https://www.microsoft.com/en-us/research/publication/the-impact-of-generative-ai-on-critical-thinking-self-reported-reductions-in-cognitive-effort-and-confidence-effects-from-a-survey-of-knowledge-workers/
• METR – “Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity”, 2025. Esperimento randomizzato su sviluppatori open source esperti relativo all'impatto degli strumenti AI sui tempi effettivi di sviluppo.
Link: https://metr.org/Early_2025_AI_Experienced_OS_Devs_Study-paper.pdf
• Unione europea – Regolamento (UE) 2024/1689, Artificial Intelligence Act, in particolare art. 14 sulla supervisione umana dei sistemi AI ad alto rischio e art. 15 sui requisiti di accuratezza, robustezza e cybersecurity.
Link: https://eur-lex.europa.eu/legal-content/IT/TXT/?uri=CELEX:32024R1689
• NIST – “The TEVV-Athlon Framework for Evaluating AI Systems”, agosto 2026. Framework dedicato a testing, evaluation, verification and validation dei sistemi di intelligenza artificiale, compresi LLM, modelli multimodali e sistemi agentici.
Link: https://www.nist.gov/artificial-intelligence/ai-research/tevv-athlon-framework-evaluating-ai-systems
• Reuters – “US appeals court rule would require lawyers to certify AI-prepared filings”, 18 settembre 2026. La proposta del Tenth U.S. Circuit Court of Appeals sull'obbligo di revisione umana degli atti giudiziari preparati con l'assistenza dell'AI generativa.
Link: https://www.reuters.com/legal/government/us-appeals-court-rule-would-require-lawyers-certify-ai-prepared-filings-2026-09-18/
• OpenAI – “Separating signal from noise in coding evaluations”, 8 luglio 2026. Analisi dei problemi riscontrati nel benchmark SWE-bench Pro e del ruolo della verifica umana e automatizzata nella valutazione dei sistemi AI per il coding.
Link: https://openai.com/index/separating-signal-from-noise-coding-evaluations/
