Matei Bogdan
Publicat în 12 februarie 2020, 23:30 / 414 elite & idei

Florina Vevera: Frica de “Minority Report”

Florina Vevera: Frica de “Minority Report”

De Florina Vevera

“Poliţia Română îşi face sistem de recunoaştere facială, dar nimeni nu va fi urmărit pe stradă de camerele de luat vederi, așa cum se întâmplă în Marea Britanie sau în China.”, aflam pe 3.10.2019, dintr-un reportaj DIGI TV, intitulat “Sistem de recunoaştere facială, în România. Ce răspunde Poliţia celor care se tem că vor fi urmăriţi pe stradă, ca în China”.

Tehnologiile de recunoaștere facială se află din ce în ce mai des în centrul atenției – de la multiplele moduri de fructificare până la interzicerea potențială a utilizării lor în zonele publice. În timp ce se încearcă tot mai mult abordarea unor subiecte ca dezvoltarea și utilizarea recunoașterii faciale, implicațiile sale juridice și etice și care sunt provocările de a găsi un echilibru între soluțiile tehnologice emergente și drepturile fundamentale ale persoanelor, publicații ca The New York Times semnalează într-un mod înfricoșător cum folosirea recunoașterii faciale de către forțele de ordine deschide uși și accesului privat, de asemenea.

„Comisia Europeană a dezvăluit că ia în considerare interzicerea utilizării recunoașterii faciale în zonele publice timp de până la cinci ani.”, se relata la BBC, pe 17.01.2020. În acest moment, proiectul „Guidelines 3/2019 on processing of personal data through video devices” se află în consultare publică. Proiectul de Carte Albă, a cărui versiune finalizată Comisia ar trebui să o publice spre sfârșitul lunii februarie, prezintă cinci opțiuni de reglementare pentru Inteligența Artificială în cadrul blocului. Direcțiile de reglementare luate în considerare de Comisie sunt: Etichetarea voluntară, Cerințe sectoriale pentru administrația publică și recunoașterea facială, Cerințe obligatorii pentru aplicațiile cu risc ridicat, Protecția și răspunderea și Guvernanța”  titrează Euroactiv.

Și uite așa va trebui să reflectăm dacă viteza cu care se dezvoltă lucrurile într-o societate modernă va ține pasul cu reglementarea, ori dacă e mai bine să interzici ce e prea dificil să reglementezi. Cum poți reglementa un comportament etic, deși etica nu funcționează fără legi, iar legile nu funcționează fără etică? Regulamentele în domeniul Inteligenței Artificiale sunt o necesitate, dar reglementarea care împiedică cercetarea ar putea fi o greșeală uriașă.

Din ce se observă Comisia Europeană vrea să impună obligații atât dezvoltatorilor, cât și utilizatorilor de Inteligență Artificială și a cerut țărilor UE să creeze o autoritate pentru monitorizarea noilor norme. Se pare că autoritățile de reglementare își doresc timp pentru a găsi formula ideală de a preveni abuzurile. În acest sens s-ar putea examina sistemele de recunoaștere facială pentru a se determina dacă datele cu caracter personal au fost obținute în mod legal, ori se pot face investigații pentru a evalua confidențialitatea și protecția datelor, riscul și vulnerabilitatea cibernetică, precum și implicațiile etice, juridice și sociale asociate cu implementarea. Va fi o muncă de Sisif pentru stabilirea normelor juridice, a standardelor tehnice, a orientărilor etice și a excepțiilor cu privire la utilizarea recunoașterii faciale, cum ar fi interogarea CCTV în timp real, proiectele de cercetare – dezvoltare, securitate națională.

Este și o chestiune legată de costuri. Recunoașterea facială este, pe de o parte, o tehnologie fascinantă, utilă pentru multe domenii de activitate, cum sunt cele de securitate națională și de aplicare a legii, asistență medicală sau altele asemenea și, pe de alta, un instrument periculos. Piața globală de recunoaștere facială este de așteptat să ajungă la 8,93  de miliarde de dolari până în 2022 și se află în creștere. Aceasta va depăși 10 miliarde de dolari până în 2025. Recunoașterea facială 3D și 2D, și multe alte metode sunt adoptate de către industrie și agențiile guvernamentale.

Unele țări din UE utilizează recunoașterea facială de mulți ani, de exemplu Regatul Unit al Marii Britanii, unde s-a dovedit destul de eficient. Deși Regatul Unit a ieșit din Uniunea Europeană, proiectul de directivă nu cred că are vreo șansă de a fi aprobat: nici măcar nu va obține majoritatea minimă calificată. Ar fi ca și cum am interzice amprentele digitale și tehnologia criminalistică ADN?!

Interzicerea recunoașterii faciale en-gros ar fi la fel de stupidă ca interzicerea utilizării amprentelor digitale sau a probelor ADN în scopuri criminalistice. Poate că într-un stat nedemocratic, acest sistem ar putea fi folosit pentru a supraveghea disidenții, dar în UE, nu avem state nedemocratice, chiar dacă Ungaria și Polonia, de exemplu, fac obiectul unei acțiuni în justiție în temeiul art. 7 la Curtea Europeană de Justiție, datorită unor “comportamente nedemocratice”. Cazul regimurilor autoritare, represive, este diferit de acela al celor democratice. Ar fi paradoxal dacă tehnologia să fie disponibilă doar pentru țările nedemocratice.

Nu există o bază de date internațională, cu toate fotografiile din lume, interogabilă în timp real. În Marea Britanie, țara din Vest, cu cel mai mare număr de camere stradale CCTV conectate la sistemele de recunoaștere a feței, doar un procent din înregistrări este de interes pentru poliție, etc. Multe dispozitive, cum ar fi smartphone-urile, nu ne recunosc ADN-ul, ci amprentele digitale, irisul, doar pentru a le preveni utilizarea de către o persoană neautorizată: este esențial ca astfel de date să fie păstrate în telefon și să nu fie diseminate. Uneori, ADN-ul multor oameni este colectat pentru o anchetă a poliției. Mi se pare inacceptabil, de exemplu, faptul că ADN-ul unor oameni nevinovați este păstrat de poliție chiar și după ce vinovatul a fost identificat, judecat și condamnat: acest lucru este mai rău decât că poliția foloseste recunoașterea facială.

Propunerea UE vizează numai locațiile publice și nu se aplică proprietății/locațiilor private. Personal, cred că este un proiect important și că ar trebui să se interzică utilizarea recunoașterea facială în public. Aș dori să mi se păstreze intimitatea și să nu fiu recunoscută în public sau oriunde nu vreau să apar.

Cartea albă face referire atât la uz privat, cât și la uz public. În document se menționează clar „tehnologia de recunoaștere facială folosită de către actorii privați sau publici, în spații publice”. Așadar, această tehnologie nu se poate utiliza, de exemplu, în zonele comune ale unei clădiri de locuințe, dar se poate utiliza în condiții de siguranță în incinta casei tale. Aceasta nu va avea impact asupra utilizării tehnologiei de recunoaștere facială în aplicațiile care au consimțământul tău sau cum ar fi pentru accelerarea procesului de check-in la conferințe și alte evenimente mari.  Trebuie să fim foarte precauți în ceea ce privește confidențialitatea datelor și protecția împotriva hackerilor.

Există situații (de exemplu, evenimente live, parcuri tematice) în care tehnologia are sens. În măsura în care oricine în aceste spații este de acord cu renunțarea la orice intimitate, o fac oferindu-și consimțământul, din comoditate sau altceva, și într-un spațiu definit și limitat în timp. Aplicațiile deschise, publice, non-consensuale de recunoaștere facială sunt cele care implică riscuri. Este o idee ce merită luată în considerare, chiar dacă ridică probleme legate de respectarea etniei, sexului, vârstei și, de asemenea, aspecte religioase iar percepția ține de înțelegerea fiecăruia.

De multe ori spunem că cei care respectă legea nu ar trebui să fie îngrijorați, recunoaterea facială se va face doar pentru aplicarea legii. Ce părere aveți de clasificarea unui model IA ca produs?! Există o dispoziție similară în preambulul Directivei NIS pentru dezvoltatorii de software, dar nu a fost niciodată testată, din câte știu. Este, de asemenea, o definiție destul de speculativă, deoarece UE nu recunoaște software-ul sau modelele în temeiul legislației privind brevetele. Ambele pot fi utilizate pentru a-ți arăta proprietarul, inclusiv responsabilitatea potențială atunci când se creează și/sau se utilizează. Fără nici o cale clară de a pretinde dreptul de proprietate și de origine, va fi greu de a oferi un cadru de încredere, nu? Certificarea nu se va extinde la copycats, care va trebui să obțină certificarea pe cont propriu. Dar legea drepturilor de autor și de a folosi brevete va intra în joc oricum.

“Uniunea Europeană ia în considerare o interdicție temporară a recunoașterii faciale” se spune în The Guardian , în baza acestui proiect de carte albă. Bruxelles-ul își dorește o perioadă de trei până la cinci ani pentru a evalua implicațiile etice și juridice ale tehnologiei, scrie ziarul. În această perioadă, atât actorilor publici, cât și celor privați li s-ar „interzice utilizarea softwear-ului în spații publice” cum ar fi gările, stadioanele sportive și centrele comerciale și atunci cum de  “Planurile Germaniei sunt de a implementa recunoașterea facială în 134 de gări și 14 aeroporturi ar trebui amânate.”?

Practic, va rămâne la latitudinea fiecărui stat membru de a preveni abuzurile, de exemplu, prin supraveghere parlamentară.

Ultima ora:

ObservatorAlexandru Georgescu: 19 ani de la atentatele care au schimbat lumea – „9/11, un punct de cotitură în istoria post-Război Rece”

PoliticNicușor Dan: Salariile bucureștenilor vor ajunge la 1400 de euro în următorii patru ani

EconomieSergiu Manea: BCR lansează ghidul pentru antreprenori „La ce ne uităm când credităm” – cei șapte indicatori pe care banca îi urmărește în procesul de creditare

ExternOvidiu Nahoi: Bruxelles vrea să unifice aplicațiile mobile anti-Covid

SocialLudovic Orban: Autoritățile locale pot achiziționa cam 500.000 tablete pentru elevi și o pot face mai ușor, prin procedura simplificată

EvenimenteMihai Toader-Pasti, la conferința Building Home

CulturaCristina Popescu: Uniformele regalității (III). Reginele României

EditorialAlexandru Georgescu: 19 ani de la atentatele care au schimbat lumea – „9/11, un punct de cotitură în istoria post-Război Rece”



Club Romania | Elite si idei / www.oranoua.ro - Open Source Internet Database part of a non-governmental project / Contact: office[at]oranoua[.]ro | Operated by CRSC Europe