Intelligenza artificiale: la Cina verso la leadership

Intelligenza artificiale: la Cina verso la leadership

La società a controllo totale è in sperimentazione in Cina dove è in corso una massiccia campagna di investimenti in alta tecnologia focalizzati sull’intelligenza artificiale (detta anche semplicemente AI: Artificial Intelligence, argomento di cui ci siamo più volte occupati su Blusa) per il controllo sociale automatizzato.

Nulla sfuggirà più all’occhio dello stato che ha inaugurato la sorveglianza di massa già attiva in alcune città della Cina.

Diversi servizi giornalistici lo hanno documentato, la televisione Britannica Bbc e la RSI Radiotelevisione svizzera, oltre a vari corrispondenti che indicano come in Cina esista già una rete di 176 milioni di telecamere di sorveglianza che controllano 1,3 miliardi di persone. E non finisce qui, perché questa rete, come comunicato dal Governo cinese, diventerà sei volte più estesa nell’arco dei prossimi anni.

Si prevede che sia in corso la realizzazione di una banca dati di oltre un miliardo e quattrocento milioni di abitanti che vivono si muovono e viaggiano nell’enorme paese.

Ribaltando il principio caro ai regimi comunisti dell’assoluta stanzialità, gestita mediante l’uso dei passaporti interni dati con il contagocce, che inchiodava i cittadini alla località dove erano nati, o comunque lavoravano, oggi il partito al governo, consapevole del cambiato clima dei concittadini, li controlla tramite algoritmi che ne profilano gli spostamenti.

L’obiettivo del governo è che ogni spostamento deve essere pianificato in base alla partenza e all’arrivo, mediante tessere magnetiche nelle stazioni delle varie metropolitane cittadine, e tramite algoritmi di riconoscimento facciale negli aeroporti. Non sono risparmiate neppure le vie commerciali e pedonali dove sono installate svariate telecamere che inquadrano e identificano milioni di persone ogni ora.

Gli algoritmi di intelligenza artificiale sono una frontiera su cui il Governo di Pechino investe e investirà sempre di più. Già oggi si riconosce alla Cina un primato a livello di ricerca sull’AI.

Il Governo di Pechino ha indicato uno specifico obiettivo all’industria del settore AI: diventare leader globale entro il 2030.

Interessante, ma soprattutto inquietante, è l’esperimento riportato dal quotidiano La Repubblica nell’articolo Cina, il Grande Fratello che controlla un miliardo e mezzo di cittadini, con il quale i giornalisti di Libération hanno immaginato la giornata tipo di una ragazza di Pechino.

Le capacità reali di sorveglianza che ha il governo non si limitano solo agli spostamenti, esso non consente una privacy per i messaggi in rete, ma neppure sulle conversazioni perché è attivo un sistema di campionamento vocale che finora avrebbe immagazzinato oltre 40 milioni di voci di cittadini.

In base alla priorità del partito comunista cinese di modernizzare il paese la vita dei cittadini è diventata l’ambito reale e migliore per testare svariate tecnologie AI che controllano: le telecamere, il riconoscimento facciale e vocale, censurano la rete in generale e i social network in particolare.

I cittadini porteranno così alle varie industrie dell’AI una quantità enorme di dati da usare per migliorare gli algoritmi del riconoscimento.

Dobbiamo augurarci che questa tecnologia sia dal Governo di Pechino compresa e regolata di conseguenza attenuandone i rischi sulla popolazione.

Già oggi le telecamere dotate di riconoscimento facciale identificano chi attraversa le strisce pedonali quando ha il semaforo rosso. Il volto e il nome della persona vengono mostrati istantaneamente su un megaschermo e indicati al pubblico ludibrio.

Gli amanti dell’ordine sociale potrebbero dire che basta rispettare la legge. Ignorano o vogliono ignorare che i sistemi automatizzati in genere, e quelli di AI in particolare, possono sbagliare così da riconoscere una persona estranea all’accaduto.

È successo proprio questo, secondo quanto riporta il sito Il Disinformatico nell’articolo Riconoscimento facciale in Cina e controllo sociale citando il South China Morning Post: nella città portuale di Ningbo, il sistema ha colto in fallo la signora Dong Mingzhu, perché ne ha riconosciuto il volto, e l‘ha denunciata pubblicamente facendo comparire il suo volto e il suo nome sul megaschermo della vergogna.

Ma Dong Mingzhu non aveva affatto attraversato le strisce col rosso: il suo volto era presente nella pubblicità sulla fiancata di un autobus che transitava sul passaggio pedonale. La signora, infatti, è una notissima imprenditrice che dirige una grande azienda di impianti per l’aria condizionata. La polizia locale si è prontamente scusata e ha detto che il sistema è stato completamente aggiornato. La signora Dong ha orwellianamente ringraziato la polizia per il proprio lavoro e invitato la popolazione a rispettare le regole del traffico. Ma viene da chiedersi cosa sarebbe successo se la persona erroneamente riconosciuta non fosse stata una celebrità capace di far sentire la propria voce.”

Aspetto analogo è accaduto quando il sistema di riconoscimento di Google, l’app Google Foto, riconobbe dei gorilla nelle foto di alcune persone di colore. Era precisamente il 2015.

L’anno prossimo, e comunque entro il 2020, scatterà in Cina la misura più inquietante, l’obbligo per ogni cinese di registrarsi su una piattaforma nazionale che “misurerà la sincerità di ogni cittadino”.

Si darà il via ad un sistema di “credito sociale” che valuterà le azioni reali e virtuali di tutte le persone e delle organizzazioni.

Saranno comminati premi, ammende o divieti, a seconda del comportamento in rete e nella vita di tutti i giorni.

Già oggi a Shenzhen, per esempio, chi viene colto a commettere ripetutamente un comportamento non consono, e quindi vietato, viene punito perdendo punti nel proprio “credito sociale”: perde l’accesso a prestiti, non può prendere un aereo o un treno ad alta velocità, e altro ancora.

Questa è la realtà resa possibile dai sistemi di sorveglianza di massa conditi e governati con l’Artificial Intelligence.

Seppure lontani dalla cultura europea i sistemi estremi di controllo di massa non sono da sottovalutare. Ricordo che la privacy e altre leggi europee tutelano i diritti dei cittadini.

Quanto sta accadendo in Cina deve far riflettere sugli effetti collaterali concreti che uno sviluppo incontrollato dell’attività digitale può avere nella vita reale. Le derive estremiste della tecnologia arrivano dall’esterno ad essa, è l’uso che l’uomo ne fa’ che può condizionarla negativamente.

Scritto da: Marcello Pistilli