Se un social crea dipendenza, di chi è la responsabilità? Il caso Meta da 18 miliardi

Meta ha raggiunto negli Stati Uniti un accordo che potrebbe arrivare fino a 18 miliardi di dollari per chiudere gran parte delle controversie promosse dagli Stati americani sui presunti danni provocati da Facebook e Instagram ai minori. Al centro delle accuse non c'era soltanto ciò che gli adolescenti possono vedere sui social, ma qualcosa di più profondo: il modo stesso in cui queste piattaforme sono progettate. 
Secondo le contestazioni avanzate dagli Stati, alcune funzionalità di Facebook e Instagram avrebbero contribuito a creare un utilizzo compulsivo delle piattaforme da parte dei più giovani. Meta ha sempre respinto l'accusa di aver deliberatamente cercato di rendere dipendenti gli adolescenti e l'accordo non equivale a un'ammissione di responsabilità. 
Il settlement, che dovrà ancora ricevere l'approvazione giudiziaria, segna però un passaggio importante nel rapporto tra tecnologia e diritto: per la prima volta una controversia di queste dimensioni interviene direttamente sull'architettura di utilizzo dei social network. 

 
NON È PIÙ SOLO UNA QUESTIONE DI CONTENUTI 

Per anni il principale problema giuridico legato alle piattaforme digitali è stato quello dei contenuti: cosa può essere pubblicato, cosa deve essere rimosso e quando una piattaforma può essere ritenuta responsabile. 
Il caso Meta sposta il problema. 
La domanda diventa se una piattaforma possa essere chiamata a rispondere anche per il modo in cui il proprio prodotto è costruito per mantenere l'utente online. Feed infiniti, notifiche continue, sistemi di raccomandazione, like e meccanismi di engagement non sono elementi neutrali. Sono scelte di design capaci di modificare concretamente il comportamento degli utenti. 
Quando queste tecniche vengono applicate a utenti minorenni, il confine tra una funzione pensata per migliorare l'esperienza e una progettazione capace di incentivare un uso eccessivo diventa sempre più rilevante anche dal punto di vista giuridico. 

 
COSA CAMBIERÀ PER GLI ADOLESCENTI 

L'accordo prevede modifiche molto concrete al funzionamento di Facebook e Instagram per gli utenti più giovani. Per gli account degli adolescenti dovrebbe essere introdotto un limite giornaliero predefinito di due ore, modificabile attraverso l'intervento di un genitore verificato. L'accesso dovrebbe inoltre essere bloccato tra mezzanotte e le 6 del mattino, mentre le notifiche verrebbero disattivate automaticamente durante determinate ore scolastiche. 
Anche il numero dei like dovrebbe essere nascosto di default sui profili degli adolescenti. 
Meta dovrà inoltre rafforzare i sistemi di age assurance, cioè quelle tecnologie utilizzate per individuare l'età reale dell'utente e impedire, tra le altre cose, che bambini troppo piccoli possano aggirare facilmente i limiti previsti dalla piattaforma. 
Non si tratta quindi soltanto di una sanzione economica. Il diritto entra direttamente nella progettazione del prodotto digitale. 

 
DAL “PARENTAL CONTROL” ALLA RESPONSABILITÀ DELLA PIATTAFORMA 

Uno degli argomenti tradizionalmente utilizzati dalle piattaforme è che spetti principalmente ai genitori controllare il tempo trascorso online dai figli. 
Il nuovo modello regolatorio parte invece da un principio diverso: la protezione del minore deve essere incorporata nel servizio fin dalla progettazione. 
Non basta offrire un'opzione nascosta nelle impostazioni. Alcune protezioni devono essere attive automaticamente. 
È una differenza fondamentale. 
Un adolescente può sempre cercare di aggirare una regola, ma una piattaforma progettata con impostazioni più restrittive come standard riduce la quantità di decisioni che vengono lasciate interamente al minore. Il diritto digitale sta quindi passando progressivamente da un modello fondato sul consenso dell'utente a uno basato anche sulla responsabilità del progettista della tecnologia. 

 
IL PROBLEMA DELL'“ADDICTIVE DESIGN” 

Il caso americano porta al centro del dibattito il concetto di addictive design. 
La questione non è stabilire semplicemente se Instagram o Facebook possano creare una dipendenza in senso clinico. Dal punto di vista giuridico interessa soprattutto capire se determinate funzionalità siano state deliberatamente ottimizzate per aumentare engagement, permanenza sulla piattaforma e ritorno dell'utente. Più tempo una persona trascorre sul social, maggiore è normalmente il valore economico che può generare attraverso pubblicità, dati e interazioni. 
Quando questo modello incontra utenti particolarmente vulnerabili come bambini e adolescenti nasce quindi un possibile conflitto tra interesse commerciale della piattaforma e tutela dell'utente. Ed è proprio qui che il design smette di essere soltanto una scelta tecnica. 
Può diventare un tema di responsabilità. 

 
IL CONFRONTO CON L'EUROPA 

La vicenda americana è particolarmente interessante anche per il mercato europeo. 
Il Digital Services Act prevede già obblighi specifici per le piattaforme accessibili ai minori e impone ai provider di adottare misure appropriate e proporzionate per garantire un elevato livello di privacy, sicurezza e protezione. 
Il legislatore europeo ha inoltre mostrato una crescente attenzione verso i cosiddetti dark patterns, cioè quelle interfacce progettate per spingere l'utente verso determinate decisioni attraverso meccanismi manipolativi. Negli Stati Uniti, invece, la tutela dei bambini online si intreccia anche con la Children's Online Privacy Protection Act (COPPA) e con le regole della Federal Trade Commission sul trattamento dei dati personali degli utenti sotto i 13 anni. 
I due ordinamenti utilizzano strumenti differenti, ma sembrano convergere sullo stesso principio: quando l'utente è un minore, alla piattaforma viene richiesto un livello di responsabilità più elevato. 

 
META POTREBBE NON ESSERE L'ULTIMA 

L'accordo americano potrebbe produrre conseguenze ben oltre Facebook e Instagram. Il meccanismo negoziato prevede infatti incentivi affinché anche altri grandi operatori, in particolare TikTok e YouTube, adottino restrizioni simili. In questo scenario, alcuni limiti potrebbero diventare persino più rigidi. La questione riguarda quindi l'intero modello economico dei social network. 
Se le autorità riuscissero a imporre sistematicamente limiti di utilizzo, sistemi efficaci di verifica dell'età e restrizioni agli algoritmi rivolti ai minori, molte piattaforme sarebbero costrette a ripensare una parte delle proprie strategie di engagement. 
Ciò che oggi appare come una controversia contro Meta potrebbe quindi diventare un precedente politico e regolatorio per l'intero settore. 

 
DAL CONTENUTO ALL'ARCHITETTURA DIGITALE 

La vera novità del caso non sono i 18 miliardi di dollari. 
È il fatto che il diritto sta iniziando a osservare come una piattaforma è costruita, non soltanto ciò che contiene. Una notifica, un feed infinito o un algoritmo di raccomandazione sembrano elementi puramente tecnologici. Ma quando milioni di persone utilizzano ogni giorno uno stesso sistema, quelle decisioni di progettazione possono produrre conseguenze sociali abbastanza rilevanti da diventare materia giuridica. 
La futura regolamentazione delle piattaforme potrebbe quindi concentrarsi sempre meno soltanto sulla moderazione dei contenuti e sempre di più sulla loro architettura. Perché nel mondo digitale il potere di una piattaforma non dipende solamente da ciò che permette di pubblicare. 
Dipende anche da come riesce a farci restare. 

A cura degli studenti sotto la Facoltà di Giurisprudenza e Ingegneria Informatica

NOTE E RIFERIMENTI