Zakaj mora Slovenija vzpostaviti register umetne inteligence

Tehnologije umetne inteligence (UI) so v zadnjih letih močno napredovale in so vse bolj prisotne tudi v slovenskem javnem sektorju. Javnost in odločevalci uporabi UI s strani države ne posvečajo velike pozornosti, čeprav obstajajo dokazi, da lahko algoritmi predlagajo napačne rezultate in vodijo do odločitev, ki so diskriminatorne in nevarne.

Takšno pomanjkanje pozornosti nas skrbi. Družbena razprava o avtomatizaciji javnih storitev, nadzor nad zakonito in odgovorno uporabo UI ter zaupanje javnosti so možni le, če ima javnost dostop do relevantnih informacij in če vemo, kateri sistemi so sploh v uporabi. V Sloveniji temu žal ni tako. Pravzaprav je pri nas praktično nemogoče dobiti vpogled v orodja UI, ki jih uporablja država, ter ugotoviti, na kakšen način delujejo in v katerih postopkih se uporabljajo.

Zaradi pomanjkanja preglednosti smo na Danes je nov dan vzpostavili Register rabe UI, s katerim smo javnosti prvič ponudili osrednji vir informacij o algoritmih v javnem sektorju. Vanj je trenutno vpisanih devet sistemov, ocenjujemo pa, da jih je v uporabi vsaj nekaj deset več. Ob tem se zavedamo, da naša prizadevanja ne morejo nadomestiti sistemske ureditve, saj lahko celovit in verodostojen pregled nad tem področjem zagotovi le država.

Zato pozivamo Ministrstvo za digitalno preobrazbo RS in Vlado RS, naj prevzameta odgovornost in vzpostavita javno dostopen register, ki bo vključeval ključne informacije o vseh sistemih umetne inteligence, ki so v uporabi v javnem sektorju. Vzpostavitev takšnega registra sama po sebi sicer ne more zagotoviti nepristranskosti ali sledljivosti algoritmov, je pa nujen prvi korak, ki zagotavlja, da je raba UI odgovorna, posamezniki pa imajo dostop do informacij o algoritmih, ki vplivajo na njihova življenja.

Kakšen register potrebujemo?

Da bi takšen register postal učinkovito orodje demokratičnega nadzora, mora biti zasnovan premišljeno in vključujoče. To pomeni, da mora preseči vlogo zgolj tehnične zbirke podatkov in postati temelj za bolj odgovorno uvajanje in rabo novih tehnologij.

Pri zasnovi registra naj država zasleduje naslednje cilje:

1. Javnost naj ima dostop do celovitih informacij o UI sistemih.

Transparentnost se ne sme končati pri objavi imena sistema! Za učinkovit nadzor mora register vključevati ključne podatke o celotnem življenjskem ciklu algoritma: od informacij o nakupu, do natančne razlage njegove uporabe, ciljev in vloge pri odločanju. Nujne so tudi tehnične informacije o razvijalcu modela in podatkih, na katerih je bil model treniran, ter opis pritožbenih mehanizmov, ki so na voljo posameznikom.

2. Javnost naj bo informirana o vseh UI sistemih, ki so v uporabi v javnem sektorju.

Register mora vključevati vse sisteme UI, ki so v uporabi – ne glede na to, ali so glede na trenutno evropsko ureditev opredeljeni kot visokotvegani ali ne, skrivni, kot denimo sistemi s področja preprečevanja kaznivih dejanj, migracij in nadzora meja, ali iz nje celo izvzeti. V register naj bodo vključeni tudi sistemi, ki so šele v razvoju ali procesu nakupa, ter tisti, ki niso več v uporabi.

3. Register naj bo uporabnikom prijazen in dostopen.

Informacije so uporabne le, če so dostopne in razumljive. Register mora biti oblikovan tako, da omogoča enostavno iskanje in filtriranje, vsaka sprememba informacij pa mora biti zabeležena. Da bi omogočili nadaljnjo analizo s strani strokovnjakov in medijev, mora biti zbirka strojno berljiva in dostopna preko API klica, programska koda registra pa mora biti odprtokodna.

Za uresničitev te vizije je treba sprejeti ustrezno pravno podlago, zagotoviti stabilno financiranje ter določiti osebe, ki bodo skrbele za redno in verodostojno vnašanje podatkov. Pri razvoju in nadzoru registra morajo sodelovati tudi zunanji deležniki, predvsem strokovne in civilnodružbene organizacije, ki zastopajo pravice ranljivih skupin.

Financirano s strani Evropske unije. Izražena stališča in mnenja so zgolj stališča in mnenja avtorja(-ev) in ni nujno, da odražajo stališča in mnenja Evropske unije ali Evropske izvajalske agencije za izobraževanje in kulturo (EACEA). Zanje ne moreta biti odgovorna niti Evropska unija niti EACEA.