Prenos akta o umetni inteligenci v slovenski pravni red: priložnost za več zaščite in več pravic!

Čeprav je akt o umetni inteligenci, ki ureja uporabo UI v Evropski uniji, v veljavi že od lanskega leta, imajo države čas, da ga v nacionalni pravni red prenesejo do 2. avgusta 2025. Številne, vključno s Slovenijo, se pri tem odločajo za najpreprostejši pristop, saj z zakonodajo urejajo le tiste vidike, ki jih akt izrecno zahteva.

Na Danes je nov dan verjamemo, da ministrstvo za digitalno preobrazbo s svojim zadržanim pristopom odpira mnoga vprašanja in omogoča različne interpretacije, ki bi lahko v prihodnosti škodile učinkovitemu varovanju pravic. S konkretnimi predlogi za izboljšave kličemo h krepitvi transparentnosti pri uporabi in nadzoru umetne inteligence, zagotavljanju enostavnega dostopa do informacij in prijavnih postopkov za vse posameznike ter k uvedbi jasnih postopkov za posvetovanje in sodelovanje med različnimi deležniki. Zakonodajalca pri tem pozivamo, naj s končnim zakonom zagotovi, da bo v največji meri omogočen kakovosten nadzor nad uporabo umetne inteligence ter dosledno in rigorozno varovanje pravic.

***

Za zagotavljanje transparentnosti pri uporabi umetne inteligence menimo, da je treba:

• Poskrbeti za javno objavo informacij o sistemih UI v nacionalni evidenci visokotveganih sistemov, ki so bili dani na trg ali v uporabo v Sloveniji. Ta evidenca naj bo ločena od podatkovne zbirke Evropske komisije, obenem pa naj vsebuje tudi UI sisteme v javnem sektorju, ki niso visokotvegani, in takšno registracijo spodbuja tudi med podjetji.
• Zagotoviti javno objavo rezultatov nadzornih postopkov in dodeljenih kazni.
• Transparentno in ažurno objavljati informacije o predstavnikih Slovenije v Evropskem odboru za umetno inteligenco.

***

Za omogočanje učinkovitega uveljavljanja pravice do vložitve pritožbe pri organu za nadzor trga menimo, da je treba:

• Vzpostaviti (po možnosti anonimno) enotno točko za prijavo kršitev. Takšna točka bi javnosti omogočila uveljavljanje pravice od vložitve pritožbe tudi v primerih, ko fizična ali pravna oseba ne ve, kateri organ za nadzor trga je pristojen za UI sistem, glede katerega podaja pritožbo, ali ko je pristojnost deljena.
• Obvestiti prijavitelja o odločitvi glede obravnave ali zavrnitve pritožbe in o končnem izidu postopka.

***

Za zagotavljanje učinkovitega in kakovostnega nadzora nad uporabo umetne inteligence menimo, da je treba:

• Zagotoviti popolno neodvisnost organov za nadzor trga, pri čemer preizprašujemo neodvisnost Tržnega inšpektorata RS.
• Vzpostaviti jasna pravila koordinacije in izmenjave med različnimi nadzornimi telesi, da se zagotovi enotno, usklajeno in učinkovito izvajanje nadzora. Obenem pa je to ključno tudi zaradi prepletanja različnih področij in kompleksnosti nadzora, predvsem glede presečnih tem, ki vplivajo na področja iz pristojnosti različnih organov.
• Zagotoviti financiranje vseh organov za nadzor trga in organov, pristojnih za varstvo temeljnih pravic. Trenutno večina organov nima oddelkov za UI oziroma zadostnih kapacitet za delovanje na tem področju.
• Vzpostaviti mehanizme za nadzor nad ponudniki, ki ugotovijo, da njihov UI sistem ne pomeni visokega tveganja. Gre za vrzel v aktu, ki prinaša tveganje, da bodo podjetja nenamerno ali namerno ocenila, da njihov sistem ni visokotvegan.
• Razširiti kazni za kršitev pravice do obrazložitve postopka odločanja na podlagi izhodnih podatkov visokotveganega UI sistema in kršitve informiranja fizičnih oseb najpozneje ob prvi interakciji ali izpostavljenosti UI sistemu.

***

Za izboljšano osveščanje javnosti in posvetovanje z javnostjo menimo, da je treba:

• Jasno opredeliti naloge enotne kontaktne točke, ki jo predpisuje trenutni osnutek zakona. Po našem razumevanju je namen vzpostavitve takšne točke izboljšanje koordinacije med organi za nadzor trga ter z drugimi partnerji na ravni držav članic in EU, kot tudi kakovostno, učinkovito in koordinirano osveščanje ter obveščanje javnosti.
• Zagotoviti osveščenost javnosti o pravicah, ki jih zagotavlja akt o umetni inteligenci, ter o prijavnih postopkih s promocijskimi kampanjami in drugimi komunikacijskimi aktivnostmi.
• Ustanoviti stalno posvetovalno telo iz uravnoteženega izbora deležnikov, vključno z industrijo, zagonskimi podjetji, MSP, civilno družbo in akademskimi krogi, ki bi zagotavljalo tehnično ter strokovno znanje in svetovalo organom za nadzor trga.

V sodelovanju s Pravno mrežo za varstvo demokracije smo pripravili pripombe na osnutek Zakona o izvajanju Uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci, ki smo jih predložili zakonodajalcu v času javne razprave.