Cronică de carte | Cât de aproape este China de supravegherea “omului nou”

Inteligența artificială, big data și explozia digitalizării au fost discutate în ultimii ani, în presa externă, în general, într-o notă pozitivă, punându-se accentul pe părțile bune ale erei informaționale. Totuși, dacă aceste noi instrumente ajung în  mâna regimurilor autoritare, ce pot face actorii politici cu ele? Devin ele un mijloc de control și de supraveghere nedemocratică asupra populației?

Supravegherea cu ajutorul inteligenței artificiale și big data poate căpăta fațete monstruoase, comparabile cu distopiile lui Orwell, dacă datele colectate nu sunt reglementate puternic în ideea respectării drepturilor fundamentale ale omului.

Jurnalistul german compară situația din China cu o închisoare de tip panoptic, un concept al filosofului Jeremy Bentham, din secolul al XVIII-lea, care creionase pe hârtie o închisoare în care toți deținuții puteau fi observați în interiorul celulei de către o singură gardă de corp, fără ca aceștia să poată ști exact când anume sunt supravegheați și când nu.

Recomandări

Un posibil scenariu în războiul dintre Rusia și Ucraina. Sergiy Gerasymchuk, expert ucrainean în securitate: „Numai epuizarea ambelor părți poate duce la o încetare viabilă a focului” | Interviu

Efectul acestui tip de supraveghere era controlul asupra minții și comportamentului prizonierilor.

Când știi că oricând poți fi privit, te comporți într-un anumit fel, reprimând gesturi pe care în intimitate în mod natural le-ai face.

Camere de supraveghere în fiecare clasă de curs

Școala Gimnazială nr. 11 din Hangzhou ar fi un bun exemplu. Școala a intrat în atenția presei chineze în anul 2018, când a anunțat că a instalat câte o cameră de supraveghere în fiecare clasă de curs.

Ochiul care monitorizează tot (“the eyes in the sky”), ca în distopiile din filmele SF, nu scapă nici o mișcare a unui elev. Cu ajutorul softurilor de recunoaștere facială, orice picoteală sau moment de neatenție este analizat, iar elevii sunt conștienți din plin. Un soft le analizează inclusiv starea de spirit, după care este evaluată atitudinea lor față de procesul de învățare.

Elevii își scanează fețele pentru a obține mâncare, își scanează fețele pentru a face cumpărături sau pentru a împrumuta cărți.

Big data și programul de recunoaștere facială i-ar ajuta pe studenți să studieze mai eficient, susține conducerea școlii.

 Totuși, unde mai este natura umană liberă în tot acest circuit artificial?

Un student pe nume Xiao Qian – explică jurnalistul german în cartea sa – recunoaște că a fost un pic leneș la lecțiile care nu i-au plăcut.

Recomandări

Guvernul Colectiv. La nouă ani de la tragedie, demisionarul Victor Ponta și colegii lui de cabinet sunt în continuare în prim-planul politicii

“Înainte, puteai să închizi ochii timp de un minut sau să citești o altă carte pitită sub birou. Acele zile au dispărut. Acum simți în mod constant privirea unei perechi de ochi misterioși asupra ta și nimeni nu mai îndrăznește să disimuleze”.

Prevenție împotriva infractorilor sau control dus la extrem?

Imaginează-ți că ești la metrou la Unirea, vrei să-ți cumperi o cartelă ca să ajungi la job, tranzacția se face prin program virtual de recunoaștere facială, fața ta este introdusă pe loc într-un soft care deține istoricul tuturor tranzacțiilor tale, toate amenzile pe care le-ai plătit sau nu, îți cunoaște comportamentul tău virtual, care poate fi potrivit sau nu normelor politice, analizează dacă  ai violat normele sociale recomandate de partid, dacă ești protestatar contra regimului sau nu, iar în funcție de toate aceste informații, softul de la metrou îți dă bilet de intrare sau nu.

Scenariul respectiv nu este un vis urât, este tendința către care se îndreaptă China, iar în unele regiuni din țară, aceste lucruri chiar se întâmplă.

Începând cu 2020, autoritățile de la Beijing vor pune în practică “social credit system”, un program care va monitoriza non-stop comportamentul economic, social și politic al cetățenilor, iar aceștia vor primi sancțiuni sau recompense, în funcție de evaluările algoritmilor.

Recomandări

Maia Sandu obține o victorie a la Pirus: o victorie importantă care anunță un an foarte greu

Sistemul chinezesc strânge măsuri care se regăsesc și în Vest (de pildă, evidențe clare despre rău platnici), cu altele intruzive, care pun în pericol dreptul cetățeanului la intimitate.

Unul dintre orașele în care acest proiect a devenit teren de testare este Rongcheng, din provincia estică Shandong.

Rongcheng strânge date despre comportamentul tuturor cetățenilor orașului, cărora li se oferă la început 1.000 de puncte în creditul lor social, iar apoi, în funcție de comportament, primesc sancțiuni sau bonusuri.

Datele despre populație au devenit atât de intruzive, încât până și toaletele publice oferă o anumită cantitate de hârtie igienică după ce algoritmii programului de recunoaștere facială și-au terminat evaluarea.

Cu ajutorul tehnologiei de recunoaștere facială, chinezii de rând își comandă junk-food în orașul Hangzhou, își fac cumpărăturile prin Alipay app, așa cum obișnuiesc mai mult de 700 milioane de chinezi în viața lor curentă.

Hoteluri în China folosesc camere de supraveghere ale companiei Megvii pentru a verifica dacă invitații chiar sunt cine pretind ei că sunt, iar stațiile de tren în orașe precum Guangzhou sau Wuhan permit accesul cetățenilor numai după ce fețele lor au fost scanate și verificate automat în baza de date a poliției.

Partidul comunist colaborează cu companiile de tehnologie

Regimul politic de la Beijing vrea să controleze populația cu ajutorul acestor noi instrumente, iar pentru asta, partidul comunist colaborează strâns cu toate companiile mari de tehnologie din China, care, la rândul lor, furnizează date prețioase despre populație atât poliției, cât și serviciilor chinezești secrete.

O lege a Parlamentului chinez din 2017 pretinde tuturor organizațiilor și cetățenilor “să sprijine, să asiste și să coopereze cu structurile de intelligence”.

Legea respectivă a fost invocată de americani în scandalul cu compania Huawei, pentru că existau suspiciuni că firma ar putea transmite autorităților chineze date despre populația țărilor în care își deschide filiale, acuzație pe care au respins-o directorii Huawei.

Colaborarea companiilor de camere de supraveghere cu poliția sau serviciile secrete are și efecte benefice în identificarea unor infractori.

Însă, pe de altă parte, dreptul la apărare în această țară nu este reglementat așa cum se întâmplă în țările democratice, iar ONG-urile pentru drepturile omului avertizează că nu este respectat dreptul la apărare, rata de condamnare în China fiind de 99,9%.

“Aparatul de stat întotdeauna are dreptate, iar acolo unde probele lipsesc, poliția transmite instanței mărturii luate cu forța, sub amenințare ori tortură”.

Qingdao International Beer Festival a făcut, de pildă, agenda mass-media, după ce 25 de cetățeni chinezi, care se aflau de mult timp pe listele poliției, au fost identificați și prinși cu ajutorul camerelor de supraveghere.

Performanța lor este uriașă: în aprilie 2018, pe un stadion din orașul Nanchang, camerele de supraveghere au identificat un tânăr căutat de autorități pentru infracțiuni economice, care se află într-o mulțime de 60.000 de persoane.

Camerele video fac chiar mai mult decât atât, ele transmit poliției mesaje de alarmă, atunci când identifică o față care se întoarce frecvent în același loc – de pildă, în parcări sau stațiile de autobuz – cu suspiciunea că aceea ar putea fi un hoț de buzunare.

Poliția din Jinan și Shenzhen îi mustră public pe cei care traversează strada pe roșu. Fețele cetățenilor de rând apar pe un ecran video la marginea drumului, împreună cu numele, adresa și numărul lor de identificare.

La o singură traversare în districtul Fujian, camerele foto au surprins nu mai puțin de 13.930 de persoane în decursul a zece luni. Iar cei care încalcă regula încep să primească mesaje pe telefoanele lor mobile,  fiind avertizați că data viitoare vor fi pedepsiți.

“Partidul Comunist Chinez a mers însă și mai departe. În provincia Sichuan, partidul testează «a smart red cloud» asupra membrilor săi: presa de partid a explicat că algoritmul acelui program este conceput pentru evaluarea și modul de selecție al funcționarilor săi. Sistemul analizează comportamentul și relațiile personale ale cadrelor de partid, cu scopul de a le prezice ideile și comportamentul pe viitor. Potrivit Centrului de Bună Guvernare al Universității Peking, big data va deveni cea mai eficientă armă în lupta împotriva corupției”, explică Kai Striittmatter în cartea sa.

Uigurii, sau cum e să trăiești sub acuzația permanentă că ești terorist

Totuși, o singură provincie din China atinge recordul absolut în materie de supraveghere, iar aceea este provincia Xinjiang din nord-vestul Chinei, unde trăiește minoritatea musulmană uigură, care numără 13 milioane de etnici.

Xingjiang a fost în decursul ultimilor decenii scena unor atacuri sângeroase comise de uiguri islamiști împotriva civililor și autorităților chineze. Din cauza acestor atacuri, Beijingul a depășit orice limită în materie de supraveghere, sub pretextul anihilării mișcărilor violente și luptei împotriva terorismului.

“Măsurile preventive au dus la o schimbare netă, iar oamenii au acut un sentiment mult mai puternic de împlinire, fericire și securitate”, era justificarea oficială a Beijingului.

Xingjiang este o regiune în care există o stație de poliție la fiecare o sută de metri. În unele districte, minoritarii sunt obligați să își instaleze în mașină un GPS controlat de autoritățile statului. Uigurii își pot cumpăra benzină, numai după ce fața lor este scanată și declarată nepericuloasă.

Dacă un uigur este identificat drept rău făcător, atunci camerele video transmit autorităților alarme, câtă vreme acesta nu rămâne nemișcat în “safe zone” dedicată lui. 

Dacă  deții un telefon mobil, ești obligat să îți descarci aplicația Jingwang.

“Această aplicație are acces la tot conținutul din telefonul tău și, potrivit autorităților, este concepută să prevină cetățenii de a accesa informații de natură teroristă. Aplicația detectează «informația nocivă» și «activitățile religioase ilegale» în formă de mesaje, e-book, imagini sau fotografii și în mod automat raportează autorităților.

La nenumăratele puncte de control ale poliției pe care trebuie să le parcurgi de mai multe ori pe zi, ofițerii îți scanează fața cu smartphone-urile lor, apoi îți verifică telefonul pentru a vedea dacă ai descărcat Jingwang.

Autoritățile știu cât de des mergeți la rugăciuni, dacă ai prieteni sau rude în străinătate și dacă cunoști pe cineva care a fost în închisoare. Toate acestea sunt stocate în fișierul tău, împreună cu amprentele, grupa de sânge, scanări ale irisului și probe de ADN, pe care guvernul le efectuează fără să te informeze despre ce se va întâmpla cu ele.

Evaluarea tuturor acestor informații stabilește dacă ți se permite să stai la hotel, să închiriezi un apartament sau să obții un serviciu. Sau dacă ajungi într-una din numeroasele tabere de reeducare înființate în toată provincia”, povestește jurnalistul Kai Strittmatter. 

De ce toate aceste restricții în materie de drepturi și libertăți ale omului? Pentru că te-ai născut musulman uigur, iar statul te-a identificat deja drept posibil terorist.

Este China o democrație liberală, în termenii învățați în Vest?

Cu siguranță, nu este, ar fi concluzia la care ajungi, după această carte. Dar este o lume care, din cauza dezvoltării economice, atrage. China este una dintre marile puteri economice ale lumii.

Inovația tehnologică are, în mod evident, beneficiile ei, dar, în același timp, ea a adus și un actor invizibil în viața cetățenilor, un “ochi mic” instalat undeva sus, care observă și stochează orice mișcare și pe care occidentalii de rând încă nu îl bagă în seamă.

Urmărește-ne pe Google News