Un nuovo capitolo nel dibattito tra IA e tutela dei minori
Negli Stati Uniti sta per arrivare una legge che potrebbe cambiare il modo in cui le aziende tecnologiche sviluppano e distribuiscono chatbot basate sull’intelligenza artificiale.
Si chiama GUARD Act, acronimo di Guidelines for User Age-Verification and Responsible Dialogue, e ha un obiettivo chiaro: vietare l’uso dei chatbot “companion” ai minori di 18 anni.
L’iniziativa nasce dopo mesi di segnalazioni su chatbot che “parlano come persone vere”, costruendo legami emotivi con adolescenti, arrivando in alcuni casi a incoraggiare autolesionismo o contenuti sessuali.
Il Congresso americano ha reagito con una proposta bipartisan firmata dai senatori Josh Hawley (repubblicano) e Richard Blumenthal (democratico).
La linea è netta: “proteggere i ragazzi da sistemi che fingono empatia ma generano dipendenza”.
Cosa prevede il GUARD Act
Il disegno di legge, ancora in discussione, delinea alcune regole chiave:
-
Divieto assoluto per i minori di 18 anni di utilizzare chatbot di tipo “companionship”, cioè progettati per instaurare un rapporto di affetto, amicizia o sostegno emotivo.
-
Verifica obbligatoria dell’età: le aziende dovranno implementare sistemi di age-verification tramite ID governativi o altri metodi “commercialmente ragionevoli”.
-
Trasparenza: ogni chatbot dovrà dichiarare esplicitamente di non essere un essere umano e di non possedere qualifiche professionali (“non sono un medico, non sono un terapeuta”).
-
Divieti penali: è vietato sviluppare chatbot che stimolino contenuti sessuali, incoraggino il suicidio o l’autolesionismo nei minori, o che simulino relazioni romantiche.
-
Sanzioni: previste multe fino a 100.000 dollari per violazione e azioni penali per i casi più gravi.
In sostanza, il GUARD Act mira a introdurre una nuova forma di responsabilità penale e civile per i fornitori di intelligenze artificiali conversazionali, imponendo una tutela attiva dei minori simile a quella che, in Europa, il Digital Services Act e il futuro AI Act stanno cercando di realizzare.
La “bozza” del GUARD Act
(Ricostruzione sintetica basata su documenti e dichiarazioni ufficiali del Congresso USA)
Section 1 — Findings
Il Congresso riconosce che i minori sono utenti vulnerabili, esposti a chatbot IA in grado di manipolare emozioni e comportamenti.
Section 2 — Definitions
-
“Minor”: individuo sotto i 18 anni.
-
“AI Companion”: sistema IA progettato per fornire dialogo empatico, amicizia o supporto emotivo.
Section 3 — Age Verification
I fornitori devono verificare l’età dell’utente prima dell’interazione. Accesso vietato ai minori.
Section 4 — Transparency and Disclosure
Le chatbot devono dichiarare chiaramente la propria natura artificiale e ricordarlo periodicamente all’utente.
Section 5 — Prohibitions and Penalties
È illegale rendere disponibile a minori un chatbot che produca contenuti sessuali, promuova l’autolesionismo o simuli relazioni affettive.
Violazioni punibili con sanzioni civili e penali.
Section 6 — Enforcement
La Federal Trade Commission (FTC) è l’autorità competente per indagare e sanzionare.
Section 7 — Safe Harbor
Le aziende possono evitare sanzioni se dimostrano di aver adottato policy di prevenzione e controllo efficaci.
Un nuovo terreno per la responsabilità delle imprese tech
Il GUARD Act segna un passaggio cruciale: la responsabilità non ricade più solo sull’utente, ma anche sul progettista del sistema IA.
Chi sviluppa o distribuisce chatbot dovrà dimostrare di avere adottato misure preventive adeguate, un po’ come avviene per i modelli organizzativi 231 in Italia.
Si tratta di un approccio che trasforma la “compliance tecnologica” in compliance penale digitale: un concetto chiave per gli studi legali che operano nell’ambito dell’innovazione e per chi si occupa di diritto dell’informatica.
Un sistema che consiglia o asseconda comportamenti autolesivi non potrà più essere difeso con la formula “è solo un algoritmo”: la legge pretende che l’azienda prevenga il rischio, proprio come accade nei reati d’impresa.
Le criticità: privacy e sorveglianza
Il lato oscuro del GUARD Act è l’obbligo di verifica dell’età.
Richiedere un documento d’identità o un riconoscimento facciale per parlare con un chatbot apre una serie di problemi: privacy, raccolta biometrica, profilazione dei minori.
Come garantire che questi dati non vengano conservati o usati impropriamente?
E, soprattutto, quanto è giusto sacrificare la libertà di accesso a strumenti educativi o terapeutici solo perché esiste il rischio di abusi?
Il dibattito è aperto, e la linea di confine, tra protezione e censura, resta sottilissima.
Confronto con l’Europa
Mentre il Congresso americano si muove con una proposta specifica per i chatbot, l’Unione Europea ha scelto una via più ampia con l’AI Act, che introduce categorie di rischio e obblighi di trasparenza per tutti i sistemi IA.
L’approccio europeo è sistemico, quello statunitense è emergenziale: interviene solo quando un problema diventa visibile.
Tuttavia, il GUARD Act potrebbe diventare un modello di riferimento globale per la protezione dei minori online, costringendo anche le aziende europee che operano nel mercato USA ad adeguarsi.
Perché interessa gli studi legali e i giuristi digitali
Il GUARD Act ci ricorda che la legge non può più inseguire la tecnologia: deve anticiparla.
Le nuove forme di responsabilità penale e civile legate all’IA aprono un campo professionale in rapida espansione per avvocati, DPO, consulenti legali e compliance officer.
Nei prossimi anni vedremo crescere la domanda di professionisti capaci di coniugare diritto penale, privacy, sicurezza informatica e governance dell’IA, esattamente le competenze che Juris Novum promuove.
Uno sguardo al futuro
Il GUARD Act è solo un primo segnale.
Dopo di lui arriveranno altri testi: norme sull’uso dell’IA nelle scuole, limiti ai sistemi predittivi per la giustizia, regole per i chatbot medici o legali.
La direzione è chiara: la legge sta imparando a parlare la lingua della tecnologia.
E, finalmente, pretende che la tecnologia risponda in tribunale.
A cura degli studenti sotto la facoltà di Giurisprudenza e Ingegneria Informatica
