Odprto pismo premieru glede javnega naročila za dostop do orodij generativne UI

Spoštovani predsednik Vlade Republike Slovenije dr. Robert Golob,

12. novembra ste na novinarski konferenci javnost obvestili o javnem naročilu za dostop do platforme z velikimi jezikovnimi modeli, ki naj bi vsem Slovenkam in Slovencem omogočila brezplačen dostop do orodij generativne umetne inteligence.

Spodaj podpisani in podpisane podpiramo tehnološke inovacije in verjamemo v Slovenijo, v kateri dostopna, pravična, varna, odprta, trajnostna in vključujoča tehnologija služi ljudem, demokraciji in okolju. Prav zato s tem pismom izražamo zaskrbljenost in nasprotovanje takšnemu javnemu naročilu.

Sprašujemo se o smotrnosti takšnega nakupa – z vidika porabe javnih sredstev in z vidika digitalne suverenosti. V vaši izjavi omenjate predhodne pogovore z nekaterimi največjimi globalnimi ponudniki generativne umetne inteligence. Kupovanje licenc za dostop do velikih jezikovnih modelov je v nasprotju z državnimi strategijami in programi, denimo Nacionalnim programom za umetno inteligenco 2030 (NpUI 2030), ki je trenutno v nastajanju, kot tudi z evropskimi usmeritvami za krepitev odpornosti in tehnološke suverenosti, med drugim z načrtom za trajnostno blaginjo in konkurenčnost Evrope, akcijskim načrtom za celino umetne inteligence in strategijo za uporabo umetne inteligence. Vsi ti dokumenti želijo okrepiti položaj Evrope z razvojem lastne suverene umetne inteligence. Zakaj se potemtakem država odloča za nakup platforme pri tujih tehnoloških korporacijah, katerih rešitve temeljijo na zaprti programski opremi, namesto da bi ta sredstva usmerila v razvoj javne odprtokodne slovenske generativne umetne inteligence, kar zasleduje tudi NpUI 2030? V svetu, ki ga obvladujejo globalne tehnološke platforme in korporacije, katerih odločitve o podatkih, modelih, orodjih in infrastrukturi narekujejo predvsem ozki finančni kot tudi geopolitični interesi, mora Slovenija omejiti svojo odvisnost od komercialnih ponudnikov ter vlagati v razvoj tehnološko, infrastrukturno, podatkovno, regulativno in jezikovno suverene ter zaupanja vredne umetne inteligence v javnem interesu. Prepričani smo, da javni interes ne leži v rokah velikih korporacij.

Sprašujemo se o zasebnosti in varnosti uporabnikov ter naših osebnih podatkov. Uvajanje orodij generativne umetne inteligence brez tehtnega in strokovnega premisleka o njihovem vplivu na posameznike in družbo kot celoto ima lahko daljnosežne posledice. Zaskrbljeni smo ob dejstvu, da v procesu oblikovanja javnega naročila ni bilo opravljeno posvetovanje s strokovnimi in splošnimi javnostmi. Takšno posvetovanje bi lahko razkrilo številne pomisleke glede predlaganega nakupa, na primer zadržanost z vidika varnosti uporabnikov in osebnih podatkov, ki jo je v zadnjih tednih izrazila tudi informacijska pooblaščenka. V svoji izjavi ste omenjali mlade in njihovo radovednost. Ste pri oblikovanju javnega naročila opravili strokovne premisleke glede vpliva generativne umetne inteligence, predvsem klepetalnih vmesnikov, na različne skupine v družbi – med drugim na otroke, osebe z nižjo digitalno pismenostjo, boleznimi ali raznolikimi potrebami? Kako boste preverili, da se tudi v procesu urjenja velikih jezikovnih modelov ni uporabljalo osebnih podatkov ali drugih neetično zbranih podatkov in virov? Podatkovne zbirke pogosto izvirajo iz različnih virov, denimo javnih in zasebnih repozitorijev, uporabniških interakcij z aplikacijami, vključno s strganjem podatkov z avtomatiziranimi boti s spleta, denimo z družbenih omrežij, kjer je kredibilnost in točnost informacij pogosto vprašljiva.

Sprašujemo se o spoštovanju avtorskih pravic. Veliki jezikovni modeli so lahko z vidika avtorskih pravic sporni tako zaradi uporabe tujih del za urjenje kot tudi zaradi vprašljivega avtorstva tako ustvarjenih rezultatov. Kako boste zagotovili, da dela slovenskih ustvarjalk in ustvarjalcev niso bila uporabljena nezakonito? Kakšne ukrepe boste sprejeli, da orodja generativne umetne inteligence ne bodo zlorabljena v procesih ustvarjanja avtorskih del ali v izobraževalnih in raziskovalnih procesih?

Sprašujemo se o spoštovanju delavskih pravic. Industrija generativne umetne inteligence temelji na nevidnem in pogosto nevarnem, podplačanem ali celo nezakonitem delu delavk in delavcev v procesu pridobivanja surovin za infrastrukturo in označevanja podatkov. Ste prepričani, da Slovenija s takšnim nakupom ne bo spodbujala kulture izkoriščanja?

Sprašujemo se o izpolnjevanju okoljskih in podnebnih zavez. Podatkovni centri imajo znaten vpliv na okolje, predvsem zaradi visoke porabe energije, vode in zemljišč, kar doprinaša k visokemu ogljičnemu odtisu, uničevanju narave in skupnosti ter zvočnemu onesnaženju. Kako boste zagotovili, da podatkovni centri in druga infrastruktura, potrebna za uresničitev javnega naročila, spoštujejo načela zelenega prehoda in družbene trajnostnosti?

Spodaj podpisani in podpisane smo prepričani, da mora tehnologija krepiti ljudi, skupnosti, javne storitve in državo. Zato vas pozivamo, da ponovno premislite in omejena javna sredstva raje vložite v avtonomno, pravično, varno, odprto, trajnostno in vključujočo generativno umetno inteligenco, ki je rezultat našega skupnega znanja in truda ter zasleduje javni interes Republike Slovenije.

• Danes je nov dan
• dr. Maja Bogataj Jančič, vodja Inštituta za odprte podatke in intelektualno lastnino ODIPI
• prof. Jana Javornik, Women4Ethical AI pri UNESCO
• izr. prof. dr. Dan Podjed, antropolog
• Špela Stare, generalna sekretarka Društva novinarjev Slovenije
• Maja Vreča, Arnes in Safe.si
• Jasna Zakonjšek, odvetnica
• prof. dr. Darja Zaviršek, UL FSD
• dr. Boris Vezjak, filozof
• Tanja Devetak, Center za raziskave dizajna
• prof. dr. Maca Jogan, FDV, zaslužna profesorica UL
• Milena Javornik, upokojenka
• dr. Katja Koren Ošljak, UL FDV in Zavod VSAK
• Arne Vehovar
• prof. dr. Peter Purg, Univerza v Novi Gorici, Akademija umetnosti in Fakulteta za humanistiko
• prof. Eduard Čehovin
• Sonja Lokar, predsednica ŽLS
• mag. Boštjan Zupančič, prevajalec in tolmač
• Ira Zorko
• Ema Verbnik
• prof. dr. Rajko Muršič
• DUM – društvo umetnikov
• izr. prof. dr. Emilija Stojmenova Duh, UL FE; Women in ethics in AI, UNESCO
• Janez Fakin Janša, umetniški vodija Zavod Aksioma
• Damjan Zorc, prevajalec
• Jure Mesarič
• Martina Lipnik
• Marcela Okretič, direktorica Zavoda Aksioma
• dr. Andrej Lukšič, direktor Inštituta za ekologijo
• asist. Tonja Jerele, UL FDV
• Slovenski PEN
• doc. dr. Polona Petek
• dr. Gorazd Kovačič, sociolog, UL FF
• Visokošolski sindikat Slovenije
• dr. Igor Ž. Žagar, direktor Pedagoškega inštituta
• dr. Andrej Duh, fizik
• dr. Hajdeja Iglič, sociologinja, UL FDV
• Monika Ažman, dipl. m. s., mag. zdravstvene nege
• dr. Dušan Caf, Inštitut Digitas
• dr. Matjaž Ličer, fizik
• Tristan Ažman, MBA
• dr. Maja Simoneti, IPoP, Ljubljana
• prof.dr. Mojca Kovač Šebart, Filozofska fakulteta, UL
• dipl. inž. rač. in inf. Jurij Sitar
• dr. Martin Pogačar, ZRC SAZU
• Miha Frangež, Društvo za elektronsko in računalniško pismenost
• izr. prof. dr. Andrej Kristan, Univerza v Bologni
• doc. dr. Urša Valič, etnologinja in kulturna antropologinja, Filozofska fakulteta
• prof. dr. Ana Kučan
• Maja Hawlina, zavod Avanta Largo
• dr. Ajda Pretnar Žagar, Fakulteta za računalništvo in informatiko; Inštitut za novejšo zgodovino
• ZASUK – sindikat za ustvarjalnost in kulturo
• Umanotera – Slovenska fundacija za trajnostni razvoj
• Kulturno izobraževalno društvo PiNA
• doc. dr. Nina Cvar, UL FF & UL FE
• Nataša Kramberger, samostojna delavka v kulturi
• Meta Kokalj, univ. dipl. prav.
• Piratska stranka
• Anton Luka Šijanec, študent FRI in FMF UL
• dr. Gašper Fele-Žorž, računalničar
• dipl. inž. rač. in inf. Katja Goljat, magistrska študentka UL FRI
• Boštjan Gorenc, prevajalec in pisatelj
• dr. Timotej Lazar, UL FRI; Slovenska tovarna umetne inteligence
• Simon Brežan, dr. med., kognitivni nevroznanstvenik
• Dunja Fabjan, astrofizičarka
• dr. Jana Kolar, ravnateljica NUK
• Lio Novelli, avtor oddaje Tehno klistir
• Jurij Podgoršek, avtor oddaje Tehno klistir
• Samogostiteljski kolektiv Kompot
• mag. Zlata Ploštajner
• Brigita Jurisic, projektni vodja INL, Portugalska
• prof. dr. Vesna Leskošek