Almanacco > Inediti
21 settembre 2018

Datacrazia: il potere al tempo della rappresentazione dei dati

Scarica l'inedito in PDF!

Per scaricare l’articolo in pdf bisogna essere iscritti alla newsletter di cheFare, completando il campo qui sotto l’iscrizione è automatica.
Inserisci i dati richiesti anche se sei già iscritto e usa un indirizzo email corretto e funzionante: ti manderemo una mail con il link per scaricare il PDF.

Letta l'informativa*, dichiaro di averne compreso il contenuto e acconsento al trattamento dei miei dati per le finalità e secondo le modalità ivi indicate.

A Torino la galleria Wild Mazzini si è specializzata in opere d’arte che nascono come rappresentazione di dati. I galleristi credono e sostengono il potenziale estetico delle visualizzazioni, un mondo simbolico fatto di numeri, scritte, grafici, cromatismi, figure, modelli… un vero e proprio dispiegamento della matematica e della statistica in un sistema di comunicazione complesso che, proprio a causa della sua complessità, si affida al linguaggio visivo.

E così queste opere di data visualization si propongono come arte, come universo simbolico ed estetico radicato nel nostro tempo. Il caso di Wild Mazzini solleva un interrogativo: ma davvero i data e la loro rielaborazione possono rappresentare un sistema simbolico di riferimento per la nostra epoca? O, se vogliamo: a tal punto i data sono penetrati nel nostro organismo sociale tanto da innervarsi con i modelli culturali? Fortunatamente la risposta in questo caso è semplice: certo! Il punto, infatti, non è questo, bensì osservare, studiare, analizzare come, quanto e in quanti e quali campi questa penetrazione ha avuto e sta avendo sviluppi.

Chiariamoci subito: ci troviamo nel bel mezzo di una vera rivoluzione che è percepita come tale anche all’interno della stessa disciplina dell’Informatica. Ho avuto il piacere di discuterne diverse volte con Marcello Pelillo, professore di Informatica all’Università Ca’ Foscari di Venezia, per il quale senza ombra di dubbio si tratta di un vero e proprio cambio di paradigma che sposta il campo di studi dalla creazione di modelli alla realizzazione di grandi banche dati e algoritmi di machine e deep learning in grado di sfruttarle.

Si passa così dalla modellizzazione all’osservazione dei data. In pratica assistiamo al concretizzarsi della riflessione fatta da Chris Anderson qualche anno fa in un articolo su “Wired” in cui si invocava la “fine della teoria” in nome di un nuovo “datismo” frutto della enorme massa di dati a nostra disposizione. E che questa sia la direzione intrapresa lo testimonia anche Alex Pentland con il suo fondamentale Fisica sociale. Come si propagano le buone idee (Università Bocconi Editore). Così come nel suo prezioso libro Il mondo dato. Cinque brevi lezioni di filosofia digitale (Egea), Cosimo Accotto ci accompagna in questo cambio di paradigma rifacendosi esplicitamente al percorso di Pentland ma in chiave filosofica.

Possiamo parlare apertamente di un sistema dei dati, un sistema che si dispiega sempre più come un dispositivo dell’informazione in grado di generare una vasta influenza sia in campo economico e sociale che culturale. Un dispositivo che è anche una macchina del potere e che quindi va sondato, scandagliato, analizzato nei suoi meandri e nei suoi impatti presenti e futuri.

Si muove proprio in questa direzione il bel volume curato da Daniele Gambetta dal titolo Datacrazia (D Editore). Iniziamo col dire che il libro raccoglie interventi di giornalisti e saggisti che provano a riflettere sul ruolo dei dati nella costruzione di assetti di potere, siano essi istituzionali, pubblici o privati. È diviso in 3 parti con saggi che svariano tra il critico e il teorico, con alcuni interventi di taglio sociologico e altri che privilegiano un approccio critico-storico. Non mancano puntuali riferimenti economici, storici e tecnologici. Ma ciò che colpisce è come la molteplicità delle voci, degli approcci e degli argomenti sia stata orchestrata con saggezza dal curatore in modo da offrire, non un semplice campionario di punti di vista, bensì una rete di percorsi che si intersecano e addirittura dialogano con una serie di temi ricorrenti.

Entriamo allora nel vivo delle analisi proposte da Datacrazia e vorrei partire proprio dalla prefazione firmata da Raffaele Alberto Ventura che pone a base della sua trattazione il modello del Panottico di Jeremy Bentham, ripreso e studiato nell’ottica di una società della sorveglianza da Michel Foucault. Il Panottico propone uno sguardo dall’alto che, senza essere visto, è in grado di osservare tutti gli altri (si tratta di un sistema di sorveglianza che nasce in ambito carcerario).

Il Panottico esemplifica e sostanzia un processo di potere che si fonda sulla visione (e quindi sulla sorveglianza visiva) e su un’idea di potere verticale per cui un singolo può controllare (dall’alto) molti. Proprio quel sistema di potere che abbiamo così tante volte visto applicato e replicato nel corso del ’900: dalle dittature ai persuasori (più o meno occulti) che fossero politici o pubblicitari.

A questa affiancherei anche una riflessione parallela che ci permette di entrare ancora più approfonditamente nel merito della materia trattata da Datacrazia… proprio il dispositivo dei data pone in essere un diverso modello di sorveglianza e di potere che il professore Ruggero Eugeni definisce “plenottico”1.

Eugeni ha provato a delineare questo modello (evidentemente contrapposto a quello foucaultiano) nelle sue linee portanti e ne ha individuato l’elemento fondamentale nella disseminazione degli sguardi: una virtuale e tendenziale evoluzione verso una moltitudine di occhi scorporati e magari con funzioni e funzionalità diverse che si possono combinare ogni volta in diversi modi tramite un algoritmo che scruta, mappa (e sorveglia) sulla base di una programmazione umana. Non più uno sguardo ma l’assemblaggio (sempre più “intelligente” e autonomo) di visioni (e di informazioni) private dello sguardo, spesso parziali e persino senza autore, ma profondamente massive. Una massa di dati da analizzare in senso “biopolitico”. Una sorveglianza fatta di dati che spesso è lo stesso “sorvegliato” a offrire e senza che sia reso esplicito il rapporto di potere.

Un sistema diverso, non per questo meno pericoloso (anzi!) perché mette il sistema capitalistico in mano a quei gruppi che sono in grado di accaparrarsi il più alto numero di dati, con buona pace delle utopie del pensiero utopico della prima Silicon Valley.

La datacrazia contemporanea non è più un modello di potere verticale, bensì si sostanzia nella capacità di elaborare sistemi complessi di controllo e di acquisizione dati giocando sulla partecipazione orizzontale degli utenti, e conducendo questa utopia della società aperta verso territori lucrosi per pochi. Ecco allora che i casi di eBay, BlaBlaCar, Amazon per i due studiosi Viktor Mayer-Schoenberger e Thomas Ramge divengono emblematici di un nuovo capitalismo, quello dei rich data (Reinventare il capitalismo nell’era dei big data – Egea). E se anche colpisce l’ottimismo (che – lo ripetiamo – fa molto prima Silicon Valley) non si possono non condividere le solo apparentemente roboanti asserzioni dei due autori: “Un riavvio del mercato alimentato dai data porterà a una riconfigurazione fondamentale della nostra economia…” E ancora oltre: “Stiamo per assistere sia a una riconfigurazione quasi istantanea del settore bancario e finanziario, sia alla successiva e più profonda limitazione del ruolo del denaro, con il conseguente spostamento dell’economia dalla finanza al capitalismo dei dati.”

Così come non si possono non condividere le analisi di Alvin Roth sull’emergere di un’economia e di una cultura orizzontale e “personalizzata” fondata sui dati (Matchmaking. La scienza economica del dare a ciascuno il suo – Einaudi). Ma se il sistema di cui stiamo parlando si definisce come un valore economico, serve allora una legislazione che tuteli i diritti del dato (si veda il saggio di Daniele Salvini), così come, allo stesso tempo, andrebbe almeno impostato un lavoro sulla retribuzione legata all’uso dei dati personali.

Nel volume il quesito viene posto trasversalmente da diversi interventi: se i grandi social network creano valore con i nostri dati (un valore che sfruttano non a nostro vantaggio ma per creare profitto), non dovrebbe essere prevista una sorta di redistribuzione del profitto o, quanto meno, una certificazione della nostra attività? Non si potrebbe persino (utopisticamente) pensare a una forma di reddito, non più di cittadinanza, quanto di “datismo”?

Quello che diviene sempre più manifesto è il pericoloso intreccio tra vita, potere e dati che passa attraverso la centralità che viene ad assumere l’algoritmo nelle nostre società. Secondo Ventura, infatti, si pone il problema dell’affidamento della nostra vita sociale a un algoritmo: pensiamo di partecipare, di essere protagonisti, di mostrare i nostri volti sociali e invece diventiamo facili prede di una caccia all’accaparramento massivo di dati personali e di profilazioni utenti.

Daniele Gambetta ci avverte che dietro a parole quali intelligenza artificiale, machine learning, algoritmi e database si cela un sistema di potere che pone in essere una tecnologia indirizzata a un nuovo accaparramento capitalistico per raggiungere il quale lavora a un’ibridazione tra machina e vita. La strategia del potere informatico dei data è indirizzata a creare un’atmosfera bio-tecnologica che ibrida uomini e macchine creando un enorme flusso di dati che alcuni grandi gruppi sono in grado di pescare, ingabbiare ed elaborare al fine di uno sfruttamento principalmente economico.

Non si può quindi non concordare con Gambetta quando ci propone di approfondire il sistema data fatto di dataset che spesso provengono da contenuti user-generated e utilizzati per il training di algoritmi di machine learning. Si tratta di un dispositivo che va studiato sia nei suoi elementi informatici sia in quelli sociali, oltre che in quelli simbolici. Ed è proprio questa ibridazione uomo-macchina che solleva diversi interrogativi di carattere etico.

Luciano Floridi nel suo La quarta rivoluzione. Come l’infosfera sta trasformando il mondo (Raffaello Cortina) parla di “Inforg” come risultato di uno scambio incessante tra uomo e dati e che pone il problema dello stabilire nuovi confini identitari e nuove formulazioni di ambiti di potere. Essere tecnofobi o, di contro, tecnoentusiasti, risulta fuorviante. In entrambi gli atteggiamenti ciò che si rischia è di non vedere con chiarezza quali sono i rapporti di forza, di potere, di proprietà e di identità che le tecnologie attuali possono mettere in campo.

Andrea Fumagalli nel suo intervento parla, per esempio, dei dati biologici: a essere sfruttato non è più solamente il lavoro ma ciò che compone la nostra identità… i dati personali, privati, le metriche e le informazioni mediche. Si tratta di un valore biotecnologico gestito da un sistema biopolitico la cui lettura critica si fa sempre più urgente e necessaria. Anche secondo Fumagalli macchinico e umano intrecciano i loro destini e tendono a un avvicinamento pericoloso.

Osserviamo così la nascita del “bioipermedia”, un ambiente di immersione sempre più totalizzante all’interno del quale si situa un pensiero come quello della Singolarità descritto da Ray Kurzweil, e cioè, addirittura, una trascendenza biologica attraverso le tecnologie. Anche l’intervento di Andrea Capocci e Mauro Capocci si sofferma sui big data e il corpo focalizzando l’attenzione sulle tecnologie genomiche.

Anche in questo caso si tratta di ambiti personali, intimi, che divengono mercato aperto di attraversamenti, prelevamenti e sfruttamento. Un mercato di dati che sviluppa nuove forme di potere e, di contro, può vedere l’emergere di nuove strategie di contropotere. Donatella della Ratta e Geert Lovink propongono, per esempio, di prendere in considerazione delle strategie di contropotere rendendo i dati più opachi e contraddittori.

Ma per operare in questa direzione urge capire come funziona la tecnologia, quali meccanismi sovraintende e quali strategie pone in essere. Andrea Daniele Signorelli smonta per noi lettori il giocattolo “intelligenza artificiale” tra machine learning, deep learning e dataset gettando anche le basi di una riflessione sull’etica dell’intelligenza artificiale, tema fondamentale che affronta anche Roberto Pizzato nel suo pezzo dedicato a capire la AI.

Stiamo parlando di uno spazio “politico” occupato dall’algoritmo. Esiste una filosofia, un pensiero e persino una tirannia dell’algoritmo che assume sempre più un ruolo egemonico nella nostra società. Del tema se ne occupano in particolar modo Massimo Airoldi e Angelo Paura che si soffermano sul potere degli algoritmi2. Paura, in particolare, si rifà alle analisi estremamente critiche di Eugeny Morozov focalizzandosi sugli scenari distopici che possono emergere dall’analisi degli algoritmi di Netflix o quelli di Google (che tra l’altro si è visto costretto a bloccare un suo algoritmo di intelligenza artificiale per il marcato carattere razzista di alcune sue conclusioni).

Affidarsi agli algoritmi significa – come mette sapientemente in evidenza Eleonora Pirori – che potremmo avvicinarci a un nuovo Fideismo tecnologico e a un credo quasi religioso che prende il nome di Datismo. La Scienza non è mai neutrale, è calata nel mondo, è partorita dall’uomo e per questo la Scienza è fondamentalmente una rete di domande, di quesiti, di problematiche inserite all’interno di dibattiti, negoziazioni e persino conflitti. La Scienza sta lì, quello è il suo spazio, e per questo non può essere slegata (e non lo è mai alla prova dei fatti) dalla cultura e dalla società. Ecco allora (e ancora una volta) la necessità di fondare un dibattito vero tra Scienza, Tecnologia, Etica e in generale Cultura.

Mettere a nudo i meccanismi di intreccio tra data e potere risulta un’operazione proficua al fine di delineare meglio i problemi e le problematiche emergenti, ma anche per definire e tracciare vie e percorsi. E magari anche per progettare orizzonti di azione politica e sociale. E questo fa Datacrazia: pone questioni, allarga gli orizzonti, propone sguardi, mette in campo strumenti critici. Mostra con le sue analisi che il territorio osservato è, a oggi, una sorta di campo vulcanico fatto di continue insorgenze e reflussi ma che è mosso da un’unica energia che risulta ancora parzialmente nascosta e sotterranea.


1 Ruggero Eugeni, L’immaginazione operosa. Fotografia computazionale e tecnologie della sensibilità, in Daniele Guastini, Adriano Ardovino (a cura di), I percorsi dell’immaginazione. Studi in onore di Pietro Montani (Pellegrini).

2 Rimando a questo proposito anche al recente: Ed Finn, Che cosa vogliono gli algoritmi? (Einaudi)

Immagine di copertina: ph. Joseph Chan da Unsplash

La newsletter di cheFare

Le attività e gli articoli di cheFare nella tua mail

Ti piace cheFare?

Seguici su Facebook!

Questo articolo appartiene a:

Percorsi > Cultura Digitale

Potrebbero interessarti anche questi articoli

Limiti e incertezze della democrazia digitale

30 novembre 2018

Geografia delle piattaforme. L’impatto del digitale su individui, spazio e città

28 novembre 2018

Remixing Luciano Floridi. Filter bubble e datacrazia: domande aperte al pubblico

26 novembre 2018