Leto dni akta o UI: Zakaj so naše pravice še vedno na udaru?

Mineva eno leto, odkar je akt o umetni inteligenci (UI) tudi uradno postal zakon EU. A medtem ko se pristojni organi po Evropi pripravljajo na njegovo polno uveljavitev, so nekateri težko priborjeni zaščitni mehanizmi že ogroženi – zlasti pri uporabi umentointeligenčnih tehnologij na področjih kazenskega pregona in migracij.

Namesto da bi odločevalci ta čas uporabili za dodatno krepitev in implementacijo ključnih ukrepov, ki varujejo človekove pravice, smo priča poskusom njihovega razvrednotenja. Evropska komisija se za zaprtimi vrati postavlja na stran tehnoloških korporacij in nekaterih represivnih vlad ter si pod krinko "poenostavitve" zakonodaje prizadeva oslabiti že tako minimalne zaščite, ki jih določa akt.

Nevarni sistemi dobivajo zeleno luč

V preteklem letu je Evropska komisija organizirala več posvetovanj na temo izvajanja akta v praksi. Vendar pa se zdi, da ti postopki namesto varovanja človekovih pravic odpirajo vrata nevarnim orodjem UI, ki se bodo lahko uporabljala z minimalnim nadzorom in brez ustrezno določene odgovornosti za morebitno škodo. Posledice takšnega popuščanja so še toliko bolj resne, ker se različne tehnologije UI že danes uporablja za profiliranje, targetiranje in škodovanje osebam, ki zaprosijo za vizum ali dovoljenje za prebivanje, iščejo azil ali živijo z neurejenim migrantskim statusom ter drugim marginaliziranim skupnostim.

Poleg tega nekatere vlade v EU že izkoriščajo pravne vrzeli za uporabo množičnega nadzora, ki jih dopušča akt o UI. V Avstriji je vlada uporabila biometrični sistem za identifikacijo podnebnih aktivistov na protestih, na Madžarskem pa so sprejeli zakon, ki dovoljuje uporabo tehnologije za prepoznavanje obrazov na paradah ponosa.

Zahtevamo strožji nadzor in popolno transparentnost

Nedavno so se na evropskem Uradu za umetno inteligenco spraševali, kateri sistemi UI bi morali biti opredeljeni kot visoko tvegani. V sodelovanju s koalicijo Protect not surveil in skupino EDRi za akt o UI zahtevamo, da se na ta seznam uvrsti tudi ročne naprave za biometrično identifikacijo, ki jih uporabljajo policija in mejni organi, orodja za napovedovanje migracijskih tokov ter nadzorne tehnologije na mejah.

Zagovarjamo načelo, da sistemi, ki ne omogočajo popolne transparentnosti, ne smejo biti v uporabi. Akt o UI policiji in migracijskim organom trenutno namreč dovoljuje uporabo sistemov UI brez javne objave podatkov o njihovem delovanju. Uporaba sistema, pri katerem delovanje in posledice niso v celoti pojasnjeni, je v policijskih postopkih ali pri nadzoru meja nesprejemljiva.

Poleg tega mora načelo odgovornosti veljati brez izjeme. Zato morajo evropska podjetja in agencije določila akta o UI spoštovati tudi, ko delujejo zunaj EU, s čimer bomo preprečili izvoz nevarnih tehnologij.

Nekateri sistemi ne potrebujejo regulacije, temveč prepoved

Zagovarjamo stališče, da so nekateri sistemi, ki so trenutno dovoljeni, prenevarni za tudi najstrožjo regulacijo in bi jih bilo treba zato v celoti prepovedati:

• sistemi za družbeno točkovanje,
• "detektorji laži" na podlagi UI,
• vse oblike oddaljene biometrične identifikacije v javnosti,
• sistemi za napovedno policijsko delo,
• orodja za napovedovanje v postopkih prehajanja meja,
• sistemi za prepoznavanje narečij v azilnih postopkih.

Ključen trenutek za ukrepanje

Nahajamo se v kritičnem trenutku, saj obstaja resna nevarnost, da bo način uvajanja in izvajanja akta o UI odprl vrata nevarnim tehnologijam. Vse to je del širšega trenda, kjer nacionalna varnost postaja izgovor za uvajanje škodljivih tehnologij in zmanjševanje zaščite pravic.

Zato je nujno, da skupaj preprečimo zlorabo umetne inteligence s strani policije in migracijskih organov. Pomagajte nam deliti informacije o tveganjih na tem področju.