Le implicazioni etiche del trattamento dei dati possono sembrare a prima vista qualcosa di molto lontano dalla vita di tutti i giorni, ma in realtà i tanti modi in cui vengono usati i miliardi di informazioni presenti nel web possono avere conseguenze sulla società, e quindi anche sulla nostra vita quotidiana.
Coop Alleanza 3.0, che ha avviato un processo per studiare l’utilizzo e gli impatti dell’intelligenza artificiale dal punto di vista aziendale, si è interrogata appunto sugli aspetti etici, per arrivare a definire modalità responsabili. Per capire meglio il tema abbiamo intervistato Valentina Bazzarin, docente, formatrice e consulente nel campo della promozione di pratiche responsabili nell’uso dei dati.
Dottoressa Bazzarin, cosa si intende per “dati” e in che modo hanno a che fare con l’etica: i dati non sono neutrali?
Quello della “neutralità” dei dati è uno dei fraintendimenti più comuni: i dati non sono e non possono essere neutrali. Sono informazioni che vengono analizzate per capire e prevedere comportamenti. Possono essere di tanti tipi e utilizzati per tanti scopi, ma hanno tutti qualcosa in comune: che siano usati per una ricerca statistica o per altri scopi, i dati sono sempre il frutto di scelte che ne determinano i risultati.
Finora il punto di vista prevalente è stato quello di uomini bianchi di mezza età che parlano inglese e vivono in un paese occidentale. Il mondo che viene raccontato oggi dai dati è il loro, un mondo nel quale resta invisibile tutta una parte di popolazione, e non si tratta solo di minoranze (per esempi0 etniche), ma anche di maggioranze, come le donne. Oggi c’è una corrente di pensiero e di studio che vuole portare alla luce queste fasce di invisibilità, per acquisire e diffondere una maggiore consapevolezza e per ridurre quelle che vengono definite “disuguaglianze algoritmiche”.
In che modo le scelte che si fanno per la definizione di ambiti e metodologie possono influenzare i risultati delle indagini?
Quando un campione parziale viene elevato a “norma universale” (dandogli la dignità di “tutto”), i risultati della ricerca non sono semplicemente incompleti: diventano attivamente discriminatori. Questo fenomeno, noto come “bias di selezione” o “data gap” (vuoto di dati), fa sì che il mondo – fisico o digitale – venga progettato su misura per il campione studiato, risultando ostile o pericoloso per chi ne è rimasto fuori.
Per esempio per decenni i dati utilizzati per testare e progettare i sistemi di sicurezza delle automobili (cinture, airbag, poggiatesta) sono stati raccolti utilizzando manichini per i crash test modellati esclusivamente sulle misure del 50° percentile maschile (circa 1,77 m di altezza per 76 kg di peso, con una specifica distribuzione muscolare e ossea). I corpi femminili, che in media hanno una diversa densità ossea, una diversa massa muscolare, un baricentro differente e tendono a sedersi più vicini al volante non sono stati presi in considerazione.
Il risultato è che, a parità di gravità dell’incidente, le donne hanno una probabilità significativamente più alta (fino al 47% in più, secondo alcuni studi) di riportare ferite gravi e una maggiore probabilità di morire. Il “vuoto di dati” si è tradotto in un rischio fisico reale. Ed è solo un esempio, se ne potrebbero fare tantissimi (per un approfondimento sui tanti casi di invisibilità femminile consiglio il libro “Invisibili” di Caroline Criado Perez, edito da Einaudi).
E oggi arriva anche l’intelligenza artificiale. Quali sono le conseguenze sulle pratiche di analisi dei dati?
Con l’avvento dell’intelligenza artificiale le discriminazioni algoritmiche, già esistenti, vengono amplificate, perché l’IA è stata allenata su dati che sono stati raccolti prima che prendesse piede la discussione sulla visibilità e invisibilità di alcuni punti di vista del mondo. Utilizzare l’IA come un oracolo, e le risposte che produce in modo acritico, moltiplica in modo esponenziale gli errori già presenti nelle fonti. Inoltre, mentre in alcuni ambiti molto specifici e controllati (come la ricerca molecolare o la meteorologia avanzata) l’IA ha un valore inestimabile, la stragrande maggioranza delle applicazioni commerciali attuali risponde a bisogni artificiali. Stiamo bruciando fiumi d’acqua ed energia per generare email che nessuno leggerà, immagini sintetiche per i social media, o per automatizzare compiti creativi e relazionali che, come esseri umani, non avevamo alcuna urgenza di delegare a una macchina. Smascherare questa narrazione è fondamentale. Rifiutare l’idea che l’IA sia un “oracolo inevitabile” significa riprenderci il diritto di scegliere quale tecnologia vogliamo sviluppare, imponendo limiti ecologici e sociali, senza rassegnarci a subire decisioni prese per arricchire pochi.
Si può governare dal punto di vista dell’etica il cambiamento epocale nel quale siamo immersi? Possiamo fare qualcosa anche come persone, nella vita quotidiana?
Sicuramente dobbiamo lavorare sulla consapevolezza dei dati. Sapere quali dati mettiamo a disposizione, e come vengono usati. Rispetto all’intelligenza artificiale, l’approccio più sano in questo momento è rallentare. È inutile e controproducente affrettarsi a investire sull’ultima tecnologia disponibile, perché è in atto un lavoro per il miglioramento dei dati statistici, proprio per risolvere i problemi di discriminazione.
Anche dal punto di vista ambientale, proviamo a evitare di interpellare l’IA per qualsiasi cosa, pensando alle risorse che consumano questi modelli. Ce ne sono alcuni che stanno dimostrando che si possono ottenere risultati eccellenti puntando sul software più che sull’hardware, usando meno materiali e risorse. Voglio però lasciare una porta aperta alla speranza, poiché non c’è nulla di inevitabile nel futuro che ci viene venduto dal “determinismo tecnologico”. Accettare il futuro passivamente significa legittimare un sistema in cui l’“estrattivismo materiale” prosciuga il pianeta e i “bias algoritmici” automatizzano la discriminazione sociale per il profitto di pochi.
La vera resistenza inizia da noi: dobbiamo rivendicare il potere di scegliere consapevolmente quali dati esporre, provando a comprendere, anche con l’aiuto di esperti, l’impatto profondo che queste tecnologie e le nostre stesse scelte hanno sul mondo.
Chi è Valentina Bazzarin
Valentina Bazzarin è una consulente indipendente specializzata in etica dei dati e strategie della comunicazione. È cofondatrice di Period Think Tank, un’associazione di promozione sociale che si occupa di equità di genere e diritti digitali. Collabora con Ong, fondazioni ed enti pubblici per promuovere pratiche responsabili nell’uso dei dati e accompagnare processi di trasformazione digitale etica. La sua competenza unisce l’analisi dei dati e la comunicazione strategica, con particolare attenzione alla governance etica e alla valutazione dell’impatto.
Puoi leggere questo articolo anche sull’edizione online di Consumatori o ritirare gratuitamente la copia cartacea della rivista in un negozio Coop
