Umetna inteligenca mora delovati v dobro vseh!

Bliskovit napredek umetnointeligenčnih sistemov, nepremišljeno (ali pa premišljeno?) navdušenje nad njimi, zlasti pa uporaba teh sistemov, ki je v nasprotju z javnim dobrim in mu lahko škoduje, nas enostavno morajo skrbeti. Zato verjamemo v regulacijo, ki temelji na zaščiti človekovih pravic.

EU je v zadnji fazi sprejemanja uredbe, ki bo urejala UI sisteme. Poskus regulacije je po definiciji korak v pravo smer, saj nam primeri nenadzorovane rabe (od nizozemskega škandala s kratenjem pravice do socialnih prejemkov pa do diskriminatornega sistema za nadzor vstopa v Združeno kraljestvo) kažejo, da tehnološki napredek ni vedno dober. Evropska civilna družba izraža zaskrbljenost že od objave prve različice t. i. akta o umetni inteligenci.

A korporacije so lakomne zaslužkov, ki jih prinaša prodaja sistemov za nadzor in pregon. Tudi nekatere države imajo velike apetite po tem, da bi s pomočjo tovrstnih tehnologij nadzorovale svoje državljane_ke (biometrične kamere anyone?), v še večji meri pa tujce_ke.

Če je Evropski parlament (EP) uspel prepovedati biometrični nadzor v realnem času, pa je potegnil črto pri tem, za koga to velja. Akt v obstoječi obliki tako ne ščiti vseh enakovredno in vzpostavlja dvonivojski sistem, v katerem so ljudje z neurejenim migrantskim statusom zaščiteni manj od drugih. Državni organi že uporabljajo umetno inteligenco za profiliranje ljudi in območij z namenom predvidevanja kriminalnih dejanj. Sisteme velikokrat razvijajo s podporo zasebnega sektorja, zgrajeni pa so na podlagi pristranskih in celo nestrokovnih predpostavk. Čeprav imajo ti sistemi moč za sprejemanje odločitev, ki spreminjajo življenja, in ustvarjajo velika tveganja za kršenje temeljnih človekovih pravic, EU v njih vidi predvsem koristi, njihove rabe pa izključuje iz akta o umetni inteligenci.

A za spremembe še ni prepozno! Slovenija te dni sprejema novo stališče do akta, ki bo podlaga za usklajevanje med državami članicami, EP in Evropsko komisijo. Če je trenutni garnituri res mar za spoštovanje človekovih pravic, se bo v pogajanjih postavila na stran šibkejših.