Big Data: armi di distruzione matematica

Siamo nell’era dell’informatica e della conseguente proliferazione di dati e informazioni. Ma spesso le invenzioni, i progressi di qualsiasi tipo che scaturiscono dalle analisi di questi dati, non vengono valutati per il loro beneficio all’umanità ma per i soldi che possono fare guadagnare.

Ci sono innumerevoli invenzioni e soluzioni che farebbero del bene ma, non portando lauti guadagni, vengono totalmente ignorate. L’enorme potere dei giganti dell’informatica ha reso chiaro che i dati e le informazioni sono il nuovo eldorado economico. Dietro a questa immensa mole di Big Data ci sono analisi che sono state studiate da Cathy O’Neil studiosa di matematica ed esperta finanziaria che ha scritto un libro sui Big Data come Armi di distruzione matematica.

Nel libro la O’Neil spiega come funzionano, l’uso che ne fa chiunque voglia venderci qualcosa e appare una realtà ben diversa da chi ci dice che saranno solo un aiuto per l’umanità.  I Big Data nelle loro elaborazioni mettono nel calderone di tutto, l’importante è trovare il modo di guadagnare sulla base di analisi tutt’altro che serie, imparziali e precise. Criteri di ammissione ai college totalmente sballati, selezioni personale basata su argomenti ridicoli, valutazioni fallaci di professori e lavoratori in genere. Un sistema di analisi dove sostanzialmente i ricchi mantengono i loro privilegi e i poveri o gli emarginati continueranno ad esserlo. Interessante come l’autrice si chieda se le macchine stesse che creano il problema, poi lo possano risolvere.

Scrive l’autrice: «Quando i sistemi automatici passano al vaglio i nostri dati per elaborare un punteggio elettronico, proiettano naturalmente il passato nel futuro. Come abbiamo visto nei modelli di recidivismo per  l’irrogazione della pena e negli algoritmi alla base dei prestiti predatori, l’idea è che i poveri debbano rimanere poveri per sempre e vengono quindi trattati di conseguenza negandogli opportunità, mettendoli in prigione più spesso, imbrogliandogli per affibbiargli servizi e prestiti. E’ una cosa inesorabile, spesso nascosta e senza appello, oltre che ingiusta. Eppure non possiamo pensare che i sistemi automatici risolvano la questione. Pur con tutta la loro strabiliante potenza, le macchine non sono in grado di introdurre aggiustamenti in nome dell’equità, o per lo meno non di loro iniziativa. Passare al vaglio quantità di dati enormi e giudicare cosa è giusto e cosa non lo è va assolutamente oltre le loro capacità ed è molto complicato. Solo le persone sono in gradi di porre quel determinato vincolo.  Il mondo è dominato da sistemi automatici che macinano dati nei nostri dossier stracolmi di errori. Hanno urgente bisogno del contesto, del buon senso e dell’equità che solo l’uomo è in grado di fornire. Ma se lasciamo la questione in mano al mercato che premia l’efficienza, la crescita e il cash flow (tollerando nel contempo un determinato livello di errore), qualsiasi intromissione da parte dell’uomo sarà scoraggiata e gli operatori riceveranno istruzioni di tenersi alla larga dalle macchine».

In effetti la cosa che interessa primariamente non è migliorare il mondo, aiutare tutti indifferentemente  ma come spillare soldi a chiunque e fare rimanere invariata la piramide sociale ed economica. La O’Neil fa l’esempio  delle compagnie assicuratrici americane che grazie ai big data tendono sempre più a  favorire l’affidabilità creditizia o altre informazioni simili invece che l’affidabilità stradale.

«Ma come nel caso di altre armi di distruzione matematica, il sistema non è trasparente. Ogni persona vive una esperienza diversa e i modelli sono ottimizzati per spillare più soldi possibile ai disperati e agli ignoranti».

In merito alla tanto discussa privacy, la O’Neil scrive: «Nel mondo delle armi di distruzione matematica , la privacy è sempre più destinata a diventare un lusso che solo i ricchi si potranno permettere».

E prima ancora che scoppiasse lo scandalo della Cambridge Analitica in tutta la sua gravità, la O’Neil citava già il fenomeno dell’utilizzo non autorizzato di dati per influenzare l’elettorato.

«In questo senso, possiamo assimilare il concetto di elettorato a quello dei mercati finanziari. Con il flusso di informazioni, i valori salgono o scendono, così come gli investimenti. In questi nuovi mercati politici, ciascuno di noi rappresenta un titolo azionario  con una sua quotazione che oscilla. E ogni campagna deve decidere se e come investire su di noi. Se meritiamo l’investimento, allora decidono non soltanto quali informazioni fornirci, ma anche quante ce ne devono inviare e come».

E ancora: «Il risultato di queste campagne sotterranee è un pericoloso squilibrio. Chi fa marketing in ambito politico possiede un corposo dossier su ciascuno di noi, ci somministra le informazioni goccia a goccia e misura la nostre reazioni. Ma veniamo tenuti all’oscuro delle informazioni che invece vengono fornite ai nostri conoscenti. Assomiglia ad una tattica ampiamente utilizzata dai negoziatori commerciali. Trattano separatamente con le diverse parti in maniera tale che nessuno sappia che cosa è stato detto all’altro.  Questa asimmetria dell’informazione impedisce alle parti in causa di unire le forze, che invece è l’obiettivo di un governo democratico».

Quindi le elezioni, che già erano di per sé appannaggio di grandi gruppi di potere che appoggiano questo o quel partito, con l’avvento della armi di distruzione matematica diventano ancora più manipolabili e meno affidabili.

«Abbiamo preso atto degli sconvolgimenti provocati dalle armi di distruzione matematica. Promettendo efficienza ed equità, distruggono l’istruzione superiore, fanno aumentare il debito, incentivano la carcerazione di massa, bistrattano i poveri in ogni maniera possibile e minacciano la democrazia. La risposta logica sembrerebbe quella di disinnescare queste armi, una ad una».

Per spiegare l’inaffidabilità del modello fa un paragone con il passato: «Se il modello per una domanda di ammissione all’ università basato sui Big Data fosse stato elaborato nei primi anni sessanta, continueremmo ad avere pochissime donne fra gli iscritti, perché sarebbe stato addestrato in massima parte a riconoscere i maschi di successo. Se in quegli stessi anni, i musei avessero codificato l’idea dominante di arte, oggi vedremmo esposte quasi unicamente opere di bianchi, ossia quelli pagati dai ricchi mecenati per creare arte. Inutile dire che la squadra di football della University of Alabama sarebbe ancora composta da giocatori bianchi come gigli. I processi basati sui big data codificano il passato. Non inventano il futuro, cosa per la quale occorre la percezione che solo l’uomo possiede. Dobbiamo esplicitamente inglobare valori più nobili nei nostri algoritmi, creando modelli basati sui Big Data che seguono la nostra guida etica. E talvolta questo comporta di anteporre l’equità al profitto».

Quindi indica un possibile modo di procedere: «Il primo passo è quindi riprenderci dalla tecno-utopia, vale a dire quella fiducia sconfinata ma ingiustificata nelle capacità degli algoritmi e della tecnologia. Prima di chiedergli di fare di meglio, dobbiamo prendere atto che non possono fare tutto».

E’ infatti decisamente utopico pensare che la tecnologia, le meraviglie informatiche possano migliorare davvero il mondo se perseguono esclusivamente la logica del profitto e dello sfruttamento.

(Paolo Ermani, Il Cambiamento cc by nc nd)

 

Foto MasterTux CC0
TeroVesalainen cc0

Articoli più letti

Be the first to comment

Leave a Reply

L'indirizzo email non sarà pubblicato.


*


Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.