Kako zapolniti vrzeli iz akta o umetni inteligenci

Si se v zadnjem letu udeležila protesta? Medtem ko naj bi te še svež Akt o umetni inteligenci zaščitil pred nevarnostmi umetne inteligence, bi lahko prav njegove izjeme omogočile, da postaneš tarča nadzora še mesece po udeležbi na mirnem shodu.

Zato se postavlja vprašanje, ali nas novi evropski zakon resnično ščiti ali pa pod krinko varnosti ustvarja nevarne pravne vrzeli za nadzor državljanov?

Akt o umetni inteligenci, ki velja od avgusta 2024, prinaša pomembne spremembe na področju uporabe umetne inteligence (UI). Februarja 2025 so se začele uporabljati določbe glede prepovedanih praks, ki pomenijo nesprejemljivo tveganje za varnost in temeljne pravice državljanov. S tem pa so v veljavo stopile tudi nekatere izjeme, ki nas močno skrbijo.

Ukrepi denimo ne veljajo za uporabo UI sistemov za izključno vojaške, obrambne ali nacionalne varnostne namene. Obenem je seznam prepovedanih praks predvsem spisek pogojnih prepovedi. Zato ostaja skrb, da bodo te vrzeli v predpisu izkoriščene za slabitev demokracije in demokratičnih procesov ter pravne države, kar bo imelo zastrašujoč učinek na javno zbiranje, pravico do protesta, zasebnost in druge temeljne pravice.

S tem v mislih smo na Danes je nov dan pripravili priporočila za državo, s katerimi želimo preprečiti izkoriščanje pravnih vrzeli in zagotoviti, da bodo tehnologije služile ljudem, ne pa jih nadzirale in ogrožale njihove svoboščine.

Izključevanje uporabe UI na področju nacionalne varnosti

Akt o UI na področju nacionalne varnosti torej ne velja, ker naj bi to področje glede na Pogodbo o Evropski uniji ostalo v izključni pristojnosti vsake države članice. Vendar to ne pomeni, da so te dejavnosti popolnoma izvzete s področja prava EU. Države morajo pri uporabi UI sistemov upoštevati splošna načela, kot je recimo načelo sorazmernosti. To pomeni, da mora biti vsak ukrep nujen in ustrezen za dosego določenega cilja, hkrati pa mora spoštovati bistvo temeljnih pravic.

Glede na to, da je pojem nacionalne varnosti širok, obstaja nevarnost, da bi se ta izjema zlorabila. Na primer, proteste ali druge oblike javnega zbiranja bi lahko organi nadzirali z UI sistemi pod pretvezo "nacionalne varnosti", čeprav bi tak nadzor v resnici moral spadati pod področje preprečevanja kaznivih dejanj, ki je v Aktu o UI bolj regulirano. Če želimo to preprečiti, mora država nujno sprejeti jasen protokol ali resolucijo za uporabo UI v te namene.

Pogojne prepovedi za nekatere visokotvegane sisteme

Akt o UI določa nekatere prakse, ki so načeloma prepovedane, vendar dopušča številne izjeme. Zaskrbljujoče so predvsem nejasne izjeme, ki bi lahko omogočile široko uporabo UI sistemov za nadzor prebivalstva:

• Migracije in mejni nadzor: Akt ne zajema nekaterih škodljivih UI sistemov, ki se uporabljajo na področju migracij in upravljanja meja, kar pušča civilnodružbene organizacije in posameznike brez ustrezne zaščite.
• Pomanjkljiva transparentnost: Obveznosti glede preglednosti in obveščanja javnosti so ohlapne, kar onemogoča učinkovit javni nadzor. Javnost in novinarji ne bodo vedeli, kje in v kakšnih okoliščinah se uporabljajo najbolj invazivni sistemi.
• Naknadna biometrična identifikacija: Akt o UI razlikuje med biometrično identifikacijo v realnem času in naknadno identifikacijo (npr. s pomočjo posnetkov). Medtem ko je identifikacija v realnem času močno omejena, so pogoji za naknadno identifikacijo ohlapni. To bi lahko pripeljalo do zlorab, množičnega nadzora in kršitev pravice do zasebnosti ter svobode izražanja. Na primer, policija bi lahko kasneje, na podlagi videoposnetkov, identificirala udeležence protestov, tudi če ti niso storili nobenega kaznivega dejanja. Takšni sistemi prav tako krepijo neravnovesje med tistimi, ki opazujejo, in tistimi, ki so opazovani.
  

Kaj mora storiti država?

V luči teh tveganj je ključno, da država ne sprejema dodatne zakonodaje, ki bi omogočila uporabo biometričnih sistemov v realnem času. Obenem bi morali pristojni:

1. Uvesti bolj restriktivne ukrepe za uporabo UI sistemov, zlasti pri migracijah in biometrični identifikaciji.
2. Zagotoviti jasen in zakonsko urejen postopek za pridobivanje dovoljenj za uporabo sistemov.
3. Vzpostaviti javni register UI sistemov, ki bi omogočil nadzor nad njihovo uporabo.
4. Zagotoviti učinkovit sistem notranjega monitoringa in možnost takojšnje prekinitve delovanja sistemov ob morebitnih kršitvah temeljnih pravic.

Financirano s strani Evropske unije. Izražena stališča in mnenja so zgolj stališča in mnenja avtorja(-ev) in ni nujno, da odražajo stališča in mnenja Evropske unije ali Evropske izvajalske agencije za izobraževanje in kulturo (EACEA). Zanje ne moreta biti odgovorna niti Evropska unija niti EACEA.