EU z uveljavitvijo akta o umetni inteligenci dela zadržan korak naprej

Prvega avgusta 2024 v veljavo stopa dolgo pričakovani akt o umetni inteligenci (UI) in po večletnih pogajanjih postaja uradni zakon EU.

Ta pomemben administrativen korak vladam in podjetjem sporoča, naj se pripravijo na spoštovanje novih pravil. V nasprotnem primeru se lahko pri razvoju, prodaji in uporabi tveganih sistemov UI v EU soočijo z znatnimi sankcijami.

Danes je nov dan skupaj z drugimi civilnodružbenimi organizacijami – koalicijskimi partnericami izraža razočaranje, da EU z aktom ni ubrala pristopa, ki bi bolj temeljil na človekovih pravicah, a končna verzija kljub temu vsebuje več možnih smeri za pozitivne spremembe.

To vključuje ukrepe, kot so zaostritev tehničnih zahtev za razvijalce UI sistemov, nekatera pravila glede transparentnosti javnih subjektov, ki uporabljajo UI sisteme, in zahteve glede dostopnosti za tvegane sisteme. Druge novosti prinašajo možnost vložitve pravnih sredstev prizadetim osebam ter rdečo luč nekaterim najbolj škodljivim rabam, ki kršijo človekove pravice (četudi smo upali, da bodo še ostrejše).

Akt o umetni inteligenci obljube, da bo v središče postavil ljudi in njihove pravice, ne izpolnjuje v celoti, zato bomo kot koalicija še naprej delali na čim bolj smotrni implementaciji teh pravil. Nadaljevali bomo s prizadevanji za aktivno vlogo civilne družbe in za vsebinsko vključevanje vseh, ki jih uporaba umetnointeligenčnih sistemov zadeva, še posebej manjšinskih skupin.

Medtem ko se naše delo na področju umetne inteligence preveša v naslednjo fazo, pozivamo odločevalce, naj zagotovijo:

1. Robustno in na človekovih pravicah temelječo implementacijo akta o umetni inteligenci na ravni EU in nacionalnih ravneh. Pozivamo k strogemu in učinkovitemu ter na na Listini Evropske unije o temeljnih pravicah utemeljenemu tolmačenju prepovedanih in tveganih tehnologij v skladu z aktom o UI, k močnim in neodvisnim nadzornim organom, k smernicam in kodeksom v zvezi s tolmačenjem in izvajanjem akta, ki temeljijo na spoštovanju pravic, ter k pomenljivim ocenam vpliva na temeljne pravice (FRIA).

2. Proaktivne ukrepe za zapolnitev vrzeli, ki jih pušča akt o umetni inteligenci. Še posebej so nujni za boljšo zaščito ljudi z neurejenim migrantskim statusom, za reševanje okoljskih vplivov UI, za odpravo splošnih izjem pri uporabi UI za namene nacionalne varnosti, za zagotovitev dostopnosti vseh (ne le visokotveganih) sistemov osebam z oviranostmi ter za ustavitev izvažanja UI tehnologij, ki kršijo pravice.

3. Dodatne nacionalne prepovedi ali omejitve za nesprejemljivo in škodljivo UI v primerih, ki jih dopušča akt o umetni inteligenci. Najbolj izpostavljamo zahtevo po prepovedi uporabe sistemov za biometrično identifikacijo na daljavo (RBI), kot je prepoznavanje obrazov.

4. Hitro zaustavitev neskladnih rab UI. Seznam prepovedi iz akta o umetni inteligenci bo postal zavezujoč 1. februarja 2025, druga pravila pa bodo postopno stopila v veljavo po tem datumu. Uveljavitev bomo skrbno spremljali in nasprotovali uporabi, ki presega omejitve akta.

5. Resnično transparentne in vključujoče procese. Standardi, ki predstavljajo pomemben del implementacije akta, so pogosto razviti na netransparentne načine, ki favorizirajo zasebne subjekte – kar pomeni tveganje za spodkopavanje pravil v aktu o umetni inteligenci. Poleg določanja standardov pa morajo biti transparentni in za civilno družbo vključujoči tudi razvoj kodeksov ravnanja in svetovalne skupine, ki nadzorujejo akt.

Za več informacij o naših prizadevanjih, da bi v središče zakonov in politik na področju umetne inteligence postavili človekove pravice, obiščite danesjenovdan.si/digitalne-pravice-in-pismenost/.