Kaj se skriva za umetno inteligenco?

Umetna inteligenca (UI) je po lansiranju orodja ChatGPT konec leta 2022 ponovno pritegnila izjemno pozornost. Tehnološka podjetja se vedno bolj usmerjajo v razvoj umetnointeligenčnih orodij, javni sektor jih pospešeno uporablja pri svojem delu, povečuje pa se tudi njihova uporaba s strani splošne javnosti. A v javnih razpravah pogosto opažamo zgolj dve skrajnosti: navdušenje, da bo UI odpravila vse težave in povečala učinkovitost, ali pa strah, da bo zaradi humanoidnih robotov človeštvo izumrlo. Noben od teh scenarijev ni verjeten, služita zgolj kot dimna zavesa pred resničnimi posledicami razvoja in uporabe UI, ki so že danes tukaj.

Montaža Danes je nov dan

Kritičen, ozaveščen in previden pristop k uporabi umetne inteligence je zato nujen. Posameznikom bo omogočil sprejemanje premišljenih odločitev o življenju z UI, odločevalcem in javnim uslužbencem njeno uvajanje brez škode za človekove pravice ter prevzemanje odgovornosti za sprejete odločitve, civilni družbi pa učinkovit nadzor nad uporabo UI, opozarjanje na morebitne nepravilnosti in soustvarjanje rešitev, ki služijo javnemu interesu.

Kaj je umetna inteligenca?

Odgovoriti na vprašanje, kaj sploh je UI, ni enostavno! Verjetno opažate, da izraz umetna inteligenca različnim ljudem pomeni različne stvari. Ker nimamo univerzalne definicije, se razumevanje razlikuje celo znotraj strokovnih krogov, zaradi česar prihaja tudi do razhajanj pri regulaciji razvoja in rabe UI. Kljub temu pa lahko UI opredelimo kot na strojih temelječe sisteme, ki:

• so sposobni interpretirati podatke, se iz njih učiti in z novimi informacijami ter prilagodljivostjo dosegati različne določene cilje;
• analizirajo, razmišljajo, zaznavajo in prepoznavajo svoje okolje;
• ustvarjajo rezultate, kot so napovedi, priporočila in odločitve, za nabor ciljev, ki so določeni s strani človeka;
• delujejo z različnimi stopnjami avtonomije;
• uporabljajo raznolike metode, med drugim strojno učenje in ekspertne sisteme, kot so recimo metode sklepanja.

Kljub navdušenju in vtisu, da je umetna inteligenca nekaj povsem novega, pa so njeni začetki starejši, kot si predstavljamo. Termin se prvič pojavi leta 1956, primeri njene rabe pa obstajajo že pred tem. Trenutna priljubljenost je deloma posledica dejstva, da se je začel izraz umetna inteligenca uporabljati tudi za tehnologije, ki so se v preteklosti (ali pa še danes) imenovale drugače, denimo napovedna analitika, algoritmi ter prepoznava objektov.

Montaža Danes je nov dan

A če zaradi pomanjkljive definicije nekoliko težje opredelimo, kaj točno UI je, pa lažje pojasnimo, kaj ni.

Umetna inteligenca ni niti umetna niti inteligentna. Zakaj? Zaradi odvisnosti od infrastrukture, materialov, virov in dela ter dejanskega vpliva na ljudi in naravo UI ni umetna – njen obstoj ima namreč oprijemljive posledice za družbo in okolje. Prav tako ni inteligentna, saj ne deluje samostojno, ampak temelji na številnih oblikah dela. Sem spadajo delo rudarjev, ki pridobivajo ključne materiale, kot so baker, kobalt in litij, ponavljajoče se naloge in kognitivno delo slabo plačanih delavcev, ki označujejo podatke na podatkovnih produkcijskih linijah, ter neplačano delo končnih uporabnikov, kot je npr. reševanje CAPTCHA testov, s katerimi prispevamo k izboljšanju prepoznavanja slikovnih materialov.

Anne Fehres, Luke Conroy & AI4Media / Better Images of AI / Humans Do The Heavy Data Lifting / Licenca CC-BY 4.0

Pa vemo, kako UI že danes vpliva na družbo?

Kot vsaka tehnologija tudi vedno bolj razširjeni UI sistemi prinašajo tako prednosti kot slabosti – televizija je razširila dostop do novic, a marsikoga priklenila na kavč; internet je olajšal dostop do informacij, a pomaga pri širjenju lažnih novic. UI nam v določenih primerih vsekakor lahko koristi, vendar pa moramo biti predvsem v situacijah, ko z njo poskušamo predvidevati človeško vedenje ali nanj vplivati, izjemno previdni.

K navdušenju in vlaganju v razvoj prispeva tudi t. i. tehnodeterminizem oz. tehnosolucionizem – pogled na svet, ki tehnologijo vidi kot rešitev za največje družbene, gospodarske in okoljske probleme. Tehnodeterminizem družbene probleme spreminja v zgolj tehnološke probleme, ki so rešljivi s pravo kodo in pravo aplikacijo, s čimer na prvi pogled ponuja lahko rešitev odločevalcem, obenem pa tudi veliko denarja za industrijo.

Pomembno se je zavedati, da UI ni objektivna, univerzalna ali nevtralna tehnološka rešitev, ki se odloča brez človeškega vpliva. Njeni sistemi so vpeti v družbene, politične, kulturne in gospodarske sfere, ki so oblikovane s strani ljudi, institucij in partikularnih interesov. Prav zaradi strukturne diskriminacije, neenakih razmerij moči in porasta družbe nadzora so UI sistemi že v osnovi oblikovani tako, da diskriminirajo, krepijo hierarhije in ozke kategorizacije ter reproducirajo in povečujejo obstoječe sistemske družbene neenakosti.

Nekaj primerov:

• Ocenjevanje oseb, ki prestopajo mejo, pri čemer sistemi preverjajo tudi geografsko območje, iz katerega prihajajo. Nekatera geografska območja so denimo označena kot območja visokega tveganja za terorizem. Posamezniki, ki prihajajo iz teh območij, so zato označeni z višjo stopnjo tveganja in podvrženi bolj invazivnim pregledom, čeprav kraj njihovega izvora ne pomeni, da oseba predstavlja kakršno koli grožnjo.
• Policijski nadzor ulic z avtomatizirano prepoznavo obrazov, ki slabše prepoznavajo temnopolte obraze, zaradi česar vodijo v aretacije ljudi, ki niso storili zločina, a jih je sistem vseeno prepoznal kot iskane osebe.
• Izbira kandidatov za službo, kjer sistem predvideva čustva na videoposnetku in na podlagi tega določi, kdo je ustrezen in kdo ne.

Comuzi / © BBC / Better Images of AI / Mirror D / Licenca CC-BY 4.0

Z uporabo umetne inteligence se vlade, odločevalci, uradniki in zasebna podjetja velikokrat skušajo otresti odgovornosti za sistemske “napake”, ki imajo lahko izjemno velik vpliv na človeška življenja, okolje in družbo kot celoto, saj naj bi tehnologija sprejemala objektivne odločitve! Te napake nam predstavljajo kot anomalije, vendar pa so v resnici ključen del sistema. UI je namreč zasnovana tako, da podpira družbene sisteme, države, korporacije in institucije, ki jim služi. V tem kontekstu je UI politična, ekonomska in znanstvena sila, ki povečuje profit peščice in centralizira moč.

Ne smemo pozabiti, da četudi UI oblikuje našo družbo, ostajamo ljudje tisti, ki oblikujemo načine njenega razvoja in uporabe. Nobenega od izzivov, ki jih postavlja UI, ali načinov, kako naj bi spremenila družbo, ne določa tehnologija sama. Oblikovanje, uvajanje in nadzorovanje rabe UI zato ni le naloga tehnologov in drugih strokovnjakov, ampak moramo biti v te procese vključeni raznoliki deležniki.

Prispevek je povzetek prvega predavanja iz serije Mini tečAI: Umetna inteligenca od A do NVO. Dogodki so bili zasnovani posebej za nevladne in civilnodružbene organizacije ter vse, ki morda nimajo poglobljenega znanja o tehnoloških vidikih umetne inteligence, a želijo bolje razumeti, kako umetna inteligenca vpliva na njihovo delo in kako se z njo učinkovito spoprijeti.

Posnetek prvega predavanja: Kaj je “ej aj”?

Na prvem predavanju se nam je kot gostujoči govorec pridružil dr. Aleš Završnik z Inštituta za kriminologijo pri Pravni fakulteti v Ljubljani.