La Cina regolamenta l’economia di piattaforma disciplinando gli algoritmi

Nell’autunno del 1983 il Primo Ministro cinese e futuro Segretario Generale del PCC Zhao Ziyang tenne un solenne discorso dinanzi alle più alte cariche dello Stato e del Partito. Tra la fine del secolo e l’inizio del nuovo – profetizzò – una nuova rivoluzione tecnologica cambierà per sempre la società e l’economia. A sostegno della sua previsione elencò diversi studi e ricerche, ma soprattutto le tesi dello scrittore e futurologo americano Alvin Toffler, che nel suo celebre libro “Third Wave” aveva anticipato l’arrivo di una terza ondata tecnologica che avrebbe spazzato vie le precedenti ondate, agricola e industriale.

A dispetto di questo esordio travolgente, Toffler godette in Cina di alterne fortune. Le sue tre ondate furono criticate perché sconfessavano apertamente il materialismo storico secondo cui lo sviluppo della società è legato ai rapporti di produzione, e l’ideologia del partito che aveva ufficialmente definito il futuro come la vittoria del socialismo sul capitalismo e del proletariato sulla borghesia. Ma le sue idee sul ruolo strategico delle tecnologie digitali costituirono un lascito duraturo negli sforzi di modernizzazione della Cina.

Ad attirare l’attenzione delle autorità erano soprattutto le opportunità che la terza ondata (disanci langchao, 第三次浪潮) avrebbe offerto a paesi come la Cina che scontavano una forte arretratezza sul piano dello sviluppo industriale. Saltare a piè pari la seconda ondata avrebbe significato diventare una potenza tecnologica agganciando in un colpo solo i paesi più avanzati. La terza ondata diventava così un’occasione irripetibile per la crescita di sistema economico ancora legato all’agricoltura e per la modernizzazione della società cinese.

Sarà il famoso Programma 863, varato da Zhao Ziyang e Deng Xiaoping nel 1986, a trasformare questa visione in un articolato piano strategico, facendo tramontare per sempre la convinzione, tipica dell’era maoista e della guerra fredda, che riteneva l’innovazione tecnologica tutto sommato marginale per il futuro del Paese, qualcosa che potesse limitarsi a “due bombe e un satellite”.

Da allora molto è cambiato e oggi non sarebbe possibile comprendere la politica cinese prescindendo dall’impatto delle tecnologie digitali. Internet, il web e le piattaforme sono considerate infrastrutture tecniche che costituiscono parte integrante di una strategia nazionale unitaria al servizio di un preciso progetto di società, da realizzare in linea con gli indirizzi del Partito e con i valori cardine del socialismo.

Oggi non sarebbe possibile comprendere la politica cinese prescindendo dall’impatto delle tecnologie digitali.

Negli ultimi anni questo progetto ha assunto lineamenti sempre più definiti, seguendo una traiettoria che si articola lungo due direttrici fondamentali. Per un verso, si stabilisce uno stretto controllo sulla libertà di espressione attraverso forme di censura e di selezione dei contenuti, il cui esercizio è spesso delegato alle stesse piattaforme. Per altro verso, si incoraggia uno sviluppo economico aperto e creativo, in cui i colossi del web diventano veicolo di nuove opportunità per l’intero Paese.

È su questo secondo versante che la rivoluzione digitale incarna al meglio la promessa di rilancio nella competizione internazionale e, allo stesso tempo, un modello di sviluppo inclusivo, in cui le aspirazioni di crescita di una nazione si intrecciano con quelle dei tanti imprenditori grandi e piccoli, consumatori e attori economici ai quali, attraverso la rete, viene offerta un’occasione unica di riscatto e di crescita.

La narrazione pubblica di una conquista collettiva della modernità fatta di accesso alla rete e di partecipazione si è però scontrata in misura crescente con una realtà molto diversa, nella quale le piattaforme digitali sfruttano i lavoratori e gli utenti, profilano le loro abitudini per estrarre profitto e, attraverso tecniche sempre più opache e invasive, influenzano la volontà individuale a scopo di lucro.

Nasce da questo patto tradito l’esigenza di ripensare in profondità i meccanismi di funzionamento della sfera digitale, intrapreso attraverso una serie di leggi – su concorrenza, sicurezza dei dati, protezione dei dati personali, tra le altre – che stanno contribuendo a ridefinire le regole del gioco e a realizzare quello che l’agenzia cinese per la regolazione del mercato (SAMR) ha recentemente definito un “raddrizzamento complessivo” dell’attività delle piattaforme digitali.

Lo scorso 31 dicembre questa strategia si è arricchita di un nuovo, fondamentale capitolo. Con una legge in vigore sul territorio cinese dal primo marzo 2022, che si prefigge di disciplinare i sistemi di raccomandazione algoritmica impiegati dalle piattaforme digitali, per la prima volta si punta dritto al cuore delle operazioni di estrazione e predizione tipiche del capitalismo della sorveglianza.

La strategia adottata con questa legge dalla Cybersecurity Administration of China (CAC) – la massima agenzia regolativa in materia – si muove su fronti diversi e tra loro complementari: l’affermazione di una responsabilità diretta delle piattaforme per i contenuti diffusi mediante gli algoritmi; un sindacato penetrante sugli algoritmi di raccomandazione; forti limitazioni alla profilazione e all’individualizzazione dei contenuti proposti agli utenti.

Tutte le piattaforme che impiegano sistemi di raccomandazione algoritmica – social network, aggregatori di news, siti di e-commerce e di servizi – sono considerate responsabili per le false informazioni e i contenuti non autorizzati veicolati attraverso i loro algoritmi. Un’attenzione particolare è riservata all’uso di algoritmi che possono influenzare l’opinione pubblica, creare tensioni sociali ed erodere l’unità nazionale. Le piattaforme non solamente hanno l’obbligo di astenersi dal diffondere informazioni false, ma devono limitarsi a trasmettere contenuti approvati dalle fonti ufficiali (13), a diffondere energia positiva (6) e a promuovere i valori della tradizione e del socialismo sostenendo la salute della mente e del corpo, evitando contenuti in contrasto con la linea del Partito, come quelli che incoraggiano comportamenti stravaganti, antisociali, iperconsumistici, volti alla promiscuità sessuale o all’adorazione delle celebrità.

Gli algoritmi devono essere trasparenti (12) e le piattaforme hanno l’obbligo di fornire spiegazioni sul loro funzionamento in modo chiaro e comprensibile (16) e di rafforzare i propri sistemi di controllo e gestione operando un monitoraggio costante (7, 8, 9, 10). Alle autorità competenti sono riconosciuti ampi spazi di intervento e di indagine sul contenuto e sul funzionamento degli algoritmi (28, 29, 30).

Allo stesso tempo, si afferma il diritto del consumatore ad una transazione equa e si vieta l’uso di algoritmi che determinino un’ingiustificata discriminazione di prezzo o delle altre condizioni dello scambio (21). In questo quadro, un ruolo fondamentale è attribuito alle scelte dell’utente, al quale si riconosce la possibilità di disattivare le raccomandazioni automatizzate e di rimuovere i marcatori che consentono il tracciamento (11, 17), con l’effetto di imporre alle piattaforme la creazione di interfacce che consentano di accedere al proprio profilo, selezionare e rimuovere parole chiave usate per la profilazione e disattivare sistemi di raccomandazione individualizzati.

Speciali tutele sono previste, infine, per categorie particolarmente vulnerabili, su tutti minori e anziani (18 e 19). Sulla stessa linea, si afferma che la gestione algoritmica dei lavoratori non possa pregiudicarne diritti e interessi economici (20) e si vieta l’uso di algoritmo a scopi anti-competitivi (15).

Nel loro insieme le novità sono tante e significative, anche se la loro portata effettiva potrà valutarsi nel tempo. D’altra parte, le leggi cinesi fanno ampio ricorso a nozioni vaghe e a formule retoriche indeterminate, con continui richiami alla morale e all’etica. Di riflesso, anche i meccanismi di applicazione conoscono un’ampiezza e una flessibilità che mal si adatterebbero alla pretesa di certezza del diritto tipica degli ordinamenti occidentali.

Le tante ragioni della distanza di questo approccio rispetto al modello occidentale non devono però mettere in ombra gli importanti elementi di interesse. Per la prima volta un legislatore prova ad intervenire sui meccanismi di funzionamento essenziali dell’economia di piattaforma, e lo fa secondo coordinate almeno in parte replicabili anche al di fuori del contesto di origine.

Grazie alle sue peculiari caratteristiche, la Cina arriva per prima ad adottare regole che, ad oggi, Stati Uniti ed Europa “possono solo sognare. E infatti su entrambe le sponde dell’Atlantico sembra prevalere un approccio molto più prudente rispetto all’inversione di rotta auspicata dalle autorità cinesi.

In Europa il Digital Services Act (DSA) – la tanto attesa normativa destinata a sostituire dopo più di vent’anni la Direttiva sul commercio elettronico – mantiene inalterato l’impianto di fondo del suo predecessore senza mettere in discussione il principio di tendenziale irresponsabilità delle piattaforme secondo il meccanismo del “notice and take down”. Mentre la Proposta di regolamento sull’intelligenza artificiale adotta un approccio differenziato in base al tipo di rischio con regole specifiche per i sistemi di IA ad rischio alto (diversamente dalla legge cinese, che è applicabile a tutti gli algoritmi di raccomandazione).

Negli Stati Uniti, nonostante le tante critiche alla Section 230, l’immunità concessa alle Big Tech è perfino più robusta che in Europa, poiché affonda le sue radici nella tradizionale protezione della libertà di espressione e in una visione del web come “new marketplace of ideas”: un luogo di libero scambio che – è questo il senso della metafora – è meglio rimanga quanto più possibile libero da ingerenze governative.

“Se non impariamo dalla storia – amava ricordare Toffler – siamo condannati a ripeterla. Ma se non cambiamo il futuro – concludeva – siamo condannati a sopportarlo, ed è molto, molto peggio”. Oggi la Cina sta provando a cambiare il futuro, anche se è difficile prevedere come andrà a finire. Molto dipenderà da come i colossi del web sapranno adattare strategie di mercato e modelli di business alle nuove sfide, da come reagiranno gli utenti alle possibilità offerte loro dalla legge, e da come queste trasformazioni influenzeranno profitti e crescita economica. È su questo complesso e delicato intreccio di azioni e reazioni che si giocherà una sfida decisiva per il futuro del capitalismo della sorveglianza, in Cina e non solo.