NON È FANTASCIENZA, GLI ALGORITMI STANNO GIÀ PREVEDENDO LE NOSTRE SCELTE
Per anni abbiamo immaginato l’intelligenza artificiale come una tecnologia capace di rispondere alle domande, generare immagini o automatizzare attività ripetitive. Oggi, però, la vera rivoluzione sta avvenendo altrove.
L’obiettivo più ambizioso dell’AI non è comprendere ciò che abbiamo fatto, ma prevedere ciò che faremo.
Ogni ricerca effettuata su Google, ogni like lasciato su un social network, ogni acquisto online, ogni video guardato fino alla fine e ogni spostamento registrato dal nostro smartphone contribuiscono alla costruzione di un profilo comportamentale sempre più preciso.
Non si tratta semplicemente di raccogliere dati, si tratta di individuare schemi.
Schemi che consentono alle piattaforme di stimare quali contenuti attireranno la nostra attenzione, quali prodotti acquisteremo, quali persone frequenteremo e, in alcuni casi, persino quali decisioni prenderemo in futuro.
La domanda che emerge è tanto semplice quanto inquietante: cosa accadrà quando un algoritmo riuscirà a prevedere le nostre scelte meglio di noi stessi?
NON E' UNA SEMPLICE EVOLUZIONE TECNOLOGICA, E' LA NASCITA DEL MERCATO DELLE PREVISIONI UMANE
Molti pensano che il business delle grandi piattaforme digitali consista nella vendita di pubblicità.
In realtà, il vero prodotto è la previsione.
Le aziende tecnologiche investono miliardi di euro nello sviluppo di sistemi capaci di anticipare il comportamento umano perché prevedere una decisione significa poterla monetizzare.
Se una piattaforma riesce a stimare con elevata probabilità che un utente acquisterà un determinato prodotto entro le prossime settimane, può vendere quello spazio pubblicitario a un prezzo molto più elevato.
Se riesce a prevedere quali contenuti genereranno una reazione emotiva intensa, può aumentare il tempo trascorso online.
Se riesce a comprendere quali messaggi influenzeranno un individuo, può orientarne il comportamento.
Nasce così quella che alcuni studiosi definiscono economia della predizione comportamentale: un modello economico in cui il valore non deriva dai dati in sé, ma dalla capacità di trasformarli in previsioni.
IL DIBATTITO: PERSONALIZZAZIONE O MANIPOLAZIONE?
La posizione favorevole
Secondo i sostenitori di queste tecnologie, la capacità predittiva dell’AI rappresenta un enorme vantaggio per la società.
I sistemi intelligenti consentono infatti di:
• Offrire contenuti più rilevanti
• Migliorare i servizi digitali
• Ridurre il sovraccarico informativo
• Ottimizzare le decisioni aziendali
• Rendere più efficienti i mercati
In questa prospettiva, la predizione comportamentale non sarebbe una minaccia, ma uno strumento utile a migliorare l’esperienza degli utenti.
La posizione critica
I critici evidenziano invece un problema molto più profondo.
Quando una piattaforma è in grado di prevedere una decisione, può anche tentare di influenzarla.
Il confine tra previsione e manipolazione diventa estremamente sottile.
Se un sistema conosce le paure, le fragilità, le preferenze e le abitudini di una persona, può essere utilizzato non solo per anticiparne le scelte, ma anche per indirizzarle.
La questione non riguarda più soltanto la privacy, ma riguarda la libertà individuale.
LE CRITICITÀ REALI: QUANDO LA PREVISIONE DIVENTA POTERE
Il problema più evidente è l’asimmetria informativa.
Le piattaforme raccolgono enormi quantità di informazioni sugli utenti, mentre gli utenti sanno molto poco sul funzionamento dei sistemi che li analizzano.
A ciò si aggiungono ulteriori criticità:
• Opacità algoritmica
• Mancanza di trasparenza decisionale
• Possibili discriminazioni automatizzate
• Profilazione estremamente dettagliata
• Rischi per l’autonomia individuale
• Concentrazione del potere informativo.
Il punto non è soltanto che gli algoritmi ci osservano, il vero punto è che iniziano a comprenderci e comprendere significa acquisire una forma di potere.
IL PROBLEMA NON È CHE L’AI CI CONOSCA
Molti descrivono la raccolta dei dati come il principale rischio dell’intelligenza artificiale.
In realtà, il problema potrebbe essere un altro.
Non è particolarmente sorprendente che una piattaforma sappia quali siti visitiamo o quali prodotti acquistiamo.
La vera questione emerge quando l’algoritmo riesce a prevedere comportamenti futuri che noi stessi non abbiamo ancora maturato consapevolmente.
Il rischio non è la sorveglianza, ill rischio è la delega progressiva della capacità decisionale.
Più affidiamo alle piattaforme il compito di suggerirci cosa leggere, cosa guardare, cosa comprare, dove andare e chi frequentare, più aumenta il rischio che le nostre scelte vengano costruite all’interno di ecosistemi progettati da altri.
L’AI non ha bisogno di controllarci, è sufficiente che riesca a guidarci, ed è proprio qui che la predizione comportamentale diventa una questione giuridica, etica e democratica.
DALLE PIATTAFORME SOCIAL ALLA POLIZIA PREDITTIVA
Un esempio noto è rappresentato dal caso Cambridge Analytica, che ha mostrato come l’analisi dei dati personali possa essere utilizzata per influenzare opinioni e comportamenti politici.
Ma il fenomeno va ben oltre.
I sistemi di raccomandazione utilizzati da social network e piattaforme video selezionano quotidianamente i contenuti che vediamo.
I marketplace digitali prevedono quali prodotti acquistare.
Le applicazioni finanziarie stimano l’affidabilità economica degli utenti.
In alcuni Paesi vengono persino sperimentati sistemi di predictive policing, progettati per individuare aree o situazioni a rischio prima che si verifichino determinati eventi.
In tutti questi casi, il valore economico deriva dalla capacità di prevedere il comportamento umano. Più iù la previsione diventa accurata, maggiore diventa il potere di chi la controlla.
LA PROSPETTIVA FUTURA: IL DIRITTO DI RIMANERE IMPREVEDIBILI (diritto all'autodeterminazione)
Nei prossimi anni assisteremo probabilmente a:
• Sistemi di profilazione sempre più sofisticati
• AI capaci di elaborare dati provenienti da fonti differenti
• Maggiore integrazione tra dispositivi digitali e vita quotidiana
• Crescente utilizzo di agenti intelligenti autonomi
• Nuove forme di regolazione della profilazione algoritmica.
In questo contesto, il diritto sarà chiamato a svolgere un ruolo fondamentale.
Non si tratterà soltanto di proteggere i dati personali.
Sarà necessario garantire che gli individui mantengano la capacità di prendere decisioni autonome senza essere eccessivamente influenzati da sistemi predittivi sempre più avanzati.
Forse la vera sfida del futuro non sarà impedire alle macchine di conoscerci.
Sarà preservare il diritto umano a sorprendere, cambiare idea e rimanere imprevedibili.
Perché nel momento in cui ogni nostra scelta diventa prevedibile, il rischio non è soltanto perdere la privacy, il rischio è perdere una parte della nostra libertà.
A cura degli studenti sotto la Facoltà di Giurisprudenza e Ingegneria Informatica
