Per anni il dibattito sui rischi dell’intelligenza artificiale nel settore legale si è concentrato su piccoli studi, professionisti inesperti o utilizzi improvvisati di strumenti generativi. Oggi, però, il tema cambia scala. A finire al centro dell’attenzione è stata Sullivan & Cromwell, una delle law firm più influenti degli Stati Uniti, che ha presentato formali scuse a un giudice federale dopo il deposito di un atto processuale contenente errori prodotti da sistemi di AI.
COSA È SUCCESSO NEL CASO CONCRETO
La vicenda riguarda un procedimento dinanzi alla U.S. Bankruptcy Court di Manhattan. In un filing depositato dallo studio erano presenti citazioni giurisprudenziali inesatte, riferimenti normativi errati e contenuti riconducibili alle cosiddette “hallucinations” dell’AI: risposte apparentemente credibili, ma in realtà false o inesistenti. Non si tratta quindi di semplici refusi, bensì di errori sostanziali potenzialmente idonei a incidere sulla qualità della difesa e sull’affidabilità dell’atto processuale.
IL DETTAGLIO PIÙ RILEVANTE: GLI ERRORI LI HA SCOPERTI LA CONTROPARTE
Uno degli aspetti più significativi del caso è che le anomalie non sarebbero emerse tramite i controlli interni dello studio, ma grazie alla segnalazione della controparte, rappresentata da Boies Schiller Flexner. In altre parole, il sistema di revisione preventiva non avrebbe intercettato criticità che, in un contesto giudiziario, avrebbero dovuto essere individuate prima del deposito. Questo passaggio mostra come l’adozione di AI senza procedure di controllo realmente efficaci possa trasformarsi in un rischio reputazionale immediato.
LE SCUSE FORMALI AL GIUDICE
Il partner Andrew Dietderich ha inviato una comunicazione ufficiale al giudice riconoscendo l’accaduto e chiarendo che le policy interne sull’uso dell’intelligenza artificiale non erano state rispettate. Lo studio ha inoltre ammesso che il secondo livello di revisione non ha funzionato correttamente e ha successivamente depositato una versione corretta del documento. In termini organizzativi, è una confessione importante: non è fallita solo la tecnologia, ma anche il modello di governance costruito per controllarla.
PERCHÉ QUESTA NOTIZIA CONTA PER TUTTI GLI AVVOCATI
Il caso lancia un messaggio chiaro: l’uso dell’AI non elimina la responsabilità professionale. Chi firma un atto continua a rispondere della sua accuratezza, della correttezza delle fonti richiamate e della veridicità delle affermazioni contenute nel testo. Nessun professionista può invocare l’errore dell’algoritmo come esimente automatica. L’intelligenza artificiale può assistere, ma non sostituire il dovere di diligenza richiesto all’avvocato.
COMPETENZA TECNOLOGICA E NUOVI DOVERI DEONTOLOGICI
Il tema non riguarda soltanto la prudenza operativa, ma anche la competenza professionale. Utilizzare strumenti generativi senza comprenderne limiti, bias e possibilità di errore espone a condotte negligenti. Sempre più ordinamenti e autorità regolatorie stanno valorizzando il principio secondo cui il professionista deve possedere competenze tecnologiche adeguate agli strumenti impiegati. Nel mercato legale del futuro non basterà conoscere il diritto: servirà saper governare anche la tecnologia.
DAL RISCHIO REPUTAZIONALE ALLA NECESSITÀ DI COMPLIANCE
Quando una law firm globale è costretta a scusarsi pubblicamente per un atto errato, il danno non è solo processuale. Entrano in gioco reputazione, fiducia del cliente, credibilità verso i giudici e capacità competitiva sul mercato. Per questo motivo molte organizzazioni stanno introducendo policy interne, audit documentali, workflow di verifica umana e formazione obbligatoria sull’uso dell’AI. La vera differenza, oggi, non è tra chi usa o non usa questi strumenti, ma tra chi li usa con metodo e chi li usa con superficialità.
LA LEZIONE PER IL MONDO LEGALTECH
L’episodio che coinvolge Sullivan & Cromwell non dimostra che l’AI sia incompatibile con la professione forense. Dimostra qualcosa di più realistico: l’innovazione senza controllo genera vulnerabilità. Le law firm che guideranno il cambiamento non saranno semplicemente quelle più automatizzate, ma quelle capaci di integrare efficienza tecnologica, supervisione umana e responsabilità giuridica. Ed è proprio qui che si giocherà il futuro del legaltech.
A cura degli studenti sotto la Facoltà di Giurisprudenza e Ingegneria Informatica
