Tvoj obraz je postal tarča: Kaj moramo vedeti o biometričnem nadzoru v Sloveniji in EU?

V času, ko se nenehno pogovarjamo o prednostih umetne inteligence, ena njenih najnevarnejših oblik ostaja v senci – biometrični nadzor. Medtem ko ga oblasti predstavljajo kot orodje za večjo varnost in učinkovitost, pa se z biometričnimi orodji odpira pot do množičnega nadzora, ki ogroža temelje naše demokracije in osebne svoboščine. Na nedavni razpravi smo skupaj s strokovnjaki razkrivali, kaj se skriva v ozadju obljub o večji varnosti.

Če gre pri vodenju države za ljudi, kaj se potem zgodi, ko odločevalce usmerjajo algoritmi in tehnologija?

Kaj sploh je biometrični nadzor?

Orodja za biometrično prepoznavo uporabljajo naše edinstvene telesne značilnosti – obraz, hojo, glas, šarenico – za našo identifikacijo. Najbolj razširjena je tehnologija za prepoznavanje obraza, ki deluje na dva načina. Primerjava “ena na ena” primerja obraz z eno sliko (npr. osebno izkaznico) za potrditev identitete, medtem ko “ena proti mnogim” obraz primerja z obsežnimi bazami podatkov (npr. posnetki z javnih kamer), kar omogoča sledenje ljudem na vsakem koraku in dopušča množični nadzor. To metodo med drugim uporabljajo organi pregona, obveščevalne službe in zasebna podjetja.

Več nadzora ne pomeni več varnosti

Oblasti po vsem svetu, tudi v EU, uvajajo orodja za biometrično identifikacijo z utemeljitvijo boja proti kriminalu, terorizmu in “nezakonitim” migracijam. Temeljne (seveda zmotne) predpostavke takšne uporabe tehnologije so, da več nadzora vedno pomeni večjo varnost, da je tehnologija učinkovita in nevtralna, z njo pa lahko rešimo večino kompleksnih družbenih problemov. Namesto da bi vlagali v zdravstvo, izobraževanje in socialne programe, ki nam dejansko koristijo, se zaslepljeni zatekamo v drag tehnosolucionizem.

A dokazov o učinkovitosti tovrstnih tehnologij praktično ni, resničnost pa je precej drugačna. Orodja za biometrično identifikacijo državi dajejo zgodovinsko neprimerljivo moč nadzora nad posameznikom, krepijo diskriminacijo z avtomatizacijo in poglabljanjem obstoječih predsodkov ter nesorazmerno ciljajo ranljive in marginalizirane skupine. Obenem zmanjšujejo tudi prostor za civilno udejstvovanje, saj z občutkom nenehnega nadzora omejujejo svobodo zbiranja in izražanja.

Zakaj je argument "ničesar ne skrivam" nevaren mit

Mnogi trdijo, da se jim ni treba bati nadzora, če ne počnejo ničesar narobe (argument “ničesar ne skrivam”). Takšne trditve so nesmiselne z vidika varovanja zasebnosti, hkrati pa se lahko meje med dovoljenim in prepovedanim hitro spremenijo. Že jutri se lahko tehnologije za biometrično identifikacijo uporabljajo za avtomatsko kaznovanje prečkanja ceste pri rdeči luči, prepoznavo oseb, ki opravijo ne-več-legalen splav, ali identifikacijo tistih, ki pomagajo brezdomcem ali se udeležujejo protestov.

Učimo se iz slabih primerov

Čeprav so sistemi za biometrično prepoznavo vse bolj natančni, pa njihova vedno večja razširjenost predstavlja resno grožnjo našim temeljnim pravicam – predvsem do zasebnosti, nediskriminacije in domneve do nedolžnosti. Že hiter pogled na dogajanje v tujini nam dobro oriše problematiko uporabe teh tehnologij.

V Avstriji se je nedolžen državljan leta 2023 zaradi zmotne prepoznave obraza znašel v srbskem zaporu. Program za prepoznavanje obrazov z umetno inteligenco ga je označil za šefa tolpe, ki je v supermarketih kupovala izdelke s ponarejenim denarjem. Brez dokazov ali obremenilnih izjav je bil za njim izdan mednarodni nalog za prijetje. Nato so ga aretirali v Srbiji in šele po dveh mesecih zapora premestili na Dunaj, kjer so dokazali njegovo nedolžnost.

Italijanska policija je uporabljala sistem SARI za prepoznavo obrazov v realnem času, ki je bil prvotno kupljen za uporabo med protesti in javnimi prireditvami, a je bil ukinjen po odločitvi italijanskega organa za varstvo podatkov. Ta je razsodil, da bi sistem lahko odprl vrata neupravičenemu množičnemu nadzoru in da za njegovo uporabo (še!) ni pravne podlage.

Na nedavni prepovedani paradi ponosa v Budimpešti so oblasti uporabljale sisteme za prepoznavo obrazov, s katerimi so identificirale sodelujoče in jim izrekale stroge kazni, kot so visoke globe,v nekaterih primerih pa celo zaporne kazni. Mimogrede, s tem so nadzorovale tudi napačno prečkanje ceste.

Španske oblasti v Ceuti in Melilli bodo začele uporabljati biometrično prepoznavo obrazov za dostop do zdravstvene oskrbe.

Distopični, a žal popolnoma resnični so tudi primeri rabe s strani izraelskih oblasti. Stalni nadzor in zbiranje podatkov dosegata vrhunec na številnih (avtomatiziranih) nadzornih točkah na okupiranih palestinskih ozemljih, ki jih Palestinci prečkajo vsak dan (o tem več tu).

Zgornji primeri kažejo, da ne gre za osamljene rabe, ampak za globalni trend avtoritarne uporabe tehnologije.

Stanje v Sloveniji: Smo že na spolzkem terenu?

Morda se trenutno res zdi, da je to problem drugih (največkrat avtoritarnih) držav. A primeri iz Madžarske, Grčije, Italije, Avstrije, Španije, Francije in Nemčije kažejo, da je trend prisoten tudi v EU. Čeprav pri implementaciji takšnih orodij zaostajamo, pa Slovenija vseeno ni imuna na te trende.

Nedavno je slovenska policija od francoskega podjetja IDEMIA kupila nov sistem za prepoznavanje obrazov. Namen uporabe tega orodja javnosti trenutno še ni znan (brez skrbi, uporabi bomo dosledno sledili tudi na našem Registru UI!), odpira pa vrata potencialnim zlorabam in postopnemu širjenju nadzora.

Naša svoboda je politična odločitev, ne tehnična napaka!

Biometrični nadzor ni vprašanje, ki ga lahko posameznik reši s prekrivanjem obraza. Biometrični nadzor je politična kriza, ki zahteva širši družbeni in sistemski odziv.

Na Danes je nov dan smo zato državo pozvali, da glede uporabe biometričnih tehnologij sprejme dodatne varovalke. Če ne moremo doseči sveta, kjer se takšne tehnologije sploh ne uporabljajo, je naš cilj preprečiti škodljive scenarije in zagotoviti odgovorno uporabo tehnologije, ki ne bo ogrožala temeljnih pravic in svoboščin!

Oglejte si celoten posnetek pogovora Pod krinko varnosti: biometrija in policija v okviru dogodka »Država in umetna inteligenca: kdo postavlja pravila prihodnosti«.

Sogovorniki:
- Jasmina Ploštajner, Danes je nov dan
- Leila Mohamed Belhadj, Privacy Network
- Sebastian Kneidinger, epicenter.works