Zaščitimo varno spletno komunikacijo za otroke in odrasle!

Poziv odločevalcem, da zavrnejo predlog Sveta EU glede preprečevanja spolne zlorabe otrok, ker s prisilnim soglasjem uveljavlja nezakonit množični nadzor nad spletnimi komunikacijami.

V sredo, 19. 6. 2024, bodo na Svetu EU glasovali o predlogu uredbe, ki je v nasprotju z izraženo zavezanostjo Republike Slovenije k varstvu temeljnih človekovih pravic, zlasti varstva osebnih podatkov in zasebnosti in spoštovanja načela sorazmernosti iz več razlogov:

1. Kompromisni predlog ne rešuje kritičnih problemov prvotne uredbe.

Ti so 1) nezakonit množični nadzor, 2) ogrožanje šifriranja sporočil s tako rekoč obveznim skeniranjem na strani ponudnika ali drugimi tehnikami, ki ogrožajo E2E šifriranje, 3) obvezno preverjanje starosti. Nanje so že v preteklosti opozarjale tako nekatere države članice (denimo Nemčija, Avstrija, Francija, Nizozemska), kot tudi mnogi strokovnjaki in civilna družba.

2. Prisilno soglasje.

Skeniranje sporočil, ki je potrebno za izvajanje ukazov za odkrivanje, je v novem predlogu preimenovano v "moderiranje nalaganja", ki se izvaja na podlagi splošnih pogojev platform oziroma storitev in izrecne privolitve uporabnikov. Če uporabniki v to ne privolijo, jim bo onemogočeno pošiljanje ali prejemanje slik, videoposnetkov in hiperpovezav.

Zdi se, da je izhodišče novega pristopa domneva, da če ljudje privolijo v skeniranje, to ni množični nadzor. To je izjemno napačno razumevanje – ne le množičnega nadzora, temveč tudi privolitve. Privolitev za obdelavo podatkov mora biti v skladu z zakonodajo EU podana svobodno in je ni dopustno izsiliti. Žal pristop, opisan v zadnjem predlogu belgijskega predsedovanja, sledi taktikam t. i. temnih vzorcev, ki jih uporabljajo velika podjetja in proti katerim se EU že leta bori. Takšna privolitev ne bi bila zakonita in bi bila lahko izpodbijana na sodišču, kar pomeni, da bi se izvajal nezakonit množični nadzor nad komunikacijami.

3. Slabenje kibernetske varnosti.

V novem predlogu ima odredba po izvršitvi ukaza za odkrivanje prednost pred vzdrževanjem in omogočanjem E2E šifriranja, kar pomeni, da bi bili ponudniki še vedno prisiljeni oslabiti in spodkopati kibernetsko varnost in celovitost svojih storitev, s čimer bi ogrozili vse, ki uporabljajo njihove storitve. Takšna zahteva neizogibno pomeni, da morajo ponudniki uporabljati tehnologije skeniranja na strani odjemalca (CSS), kljub mnogim opozorilom strokovnjakov s področja kibernetske varnosti. Skeniranje na strani ponudnika bo spodkopalo zasebno komunikacijo, ogrozilo varnost in pustilo državljane, podjetja in vlade ranljive za zlonamerne napade. Predlog vsebuje namerno zavajajočo trditev, da je s takšnim skeniranjem E2E šifriranje zaščiteno, kar ne drži.

4. Negativen vpliv na temeljne človekove pravice in nezmožnost zaščite ranljivih.

Tisti, katerih namen je širiti gradiva spolne zlorabe otrok ter pridobivanje otrok za spolne namene, očitno ne bi privolili v skeniranje, kot ga predvideva predlog, in bi se selili na druge kanale. Preostali uporabniki pa bi bili še vedno podvrženi pomankljivemu in defektnemu sistemu umetnointeligenčnega nadzora, vključno z denimo najstniki, ki konsenzualno izražajo svojo spolnost. Zaradi tega je predlog ne le neučinkovit, temveč tudi škodljiv in ne ščiti temeljnih človekovih pravic, zlasti pravice do varstva osebnih podatkov in zasebnosti.

5. Pristop, ki temelji na tveganju, ne bo rešil množičnega nadzora.

Predlog predvideva, da bo mogoče odredbe za odkrivanje izdati samo za storitve v kategoriji visokega tveganja. Vendar so primarni pogoji za izdajo odredbe o odkrivanju nespremenjeni glede na prejšnje kompromisno besedilo, vključno z nejasnimi in preobsežnimi "dokazi o znatnem in sedanjem ali predvidljivem tveganju" storitve, da se uporablja za namene spolne zlorabe otrok. Prav tako natančni pogoji za kategorizacijo tveganj niso določeni.

Ne glede na neznanke pa je jasno, da enkrat, ko je storitev označena za visoko tvegano, se lahko odredbe o odkrivanju izdajo za vse uporabnike, vključno z osebami, ki nimajo nikakršne povezave, niti posredne, s katerim koli zločinom spolne zlorabe otrok. S tega vidika novi predlog ne naslavlja ključnih ugovorov o množičnem nadzoru zasebnih komunikacij in vključevanju popolnoma nedolžnih ljudi med osumljence najhujših zločinov, čeprav niso storili nič slabega.

6. Izjeme za državne komunikacije kažejo na pomanjkljivosti predloga.

Predlog še vedno ohranja izjemo za državne komunikacije za namene kazenskega pregona ali nacionalne varnosti, kar ponovno kaže, da se države EU zavedajo, da bo ta predlog kršil zaupnost in varnost.

POŠLJI POZIV

Skopiraj spodnje sporočilo in ga pošlji na Ministrstvo za notranje zadeve (gp.mnz@gov.si), Ministrstvo za pravosodje (gp.mp@gov.si), predsedniku vlade (gp.kpv@gov.si) in vladi (gp.gs@gov.si)!

Spoštovani,

Prosim vas, da zavrnete predlog belgijskega predsedstva o stališču Sveta EU o Uredbi o spolni zlorabi otrok. V pogajanjih Sveta EU imate v imenu Slovenije moč, ki bi jo morali uporabiti, da bi internet postal bolj varen prostor za vse.

Novi predlog določa, da se lahko od ponudnikov zasebnih komunikacijskih storitev terja, da od uporabnikov zahtevajo privolitev v skeniranje njihovih zasebnih klepetov s pomočjo umetne inteligence ali pa se jim prepove pošiljanje ali prejemanje slik, videoposnetkov in hiperpovezav.

Razumem, da je namen predloga zaščititi otroke. Vendar pa bo zakon v trenutni obliki oblastem omogočil spremljanje legalnih pogovorov vsakogar. Pregledovanje zasebnih klepetov brez upravičenega razloga je vsiljiva praksa, ki krši varnost in zaupanje naše spletne komunikacije. Ta praksa bo tudi temeljito spodkopala šifriranje – tehnologijo, ki med drugim omogoča novinarjem, zagovornikom človekovih pravic, podjetjem in vladnim uradnikom, da varujejo svoje komunikacije.

Z zmanjšano varnostjo interneta bo zakon škodoval vsem, tudi tistim, ki jih želi zaščititi. Nedavni rezultati ankete kažejo, da se 80 % mladih v 13 evropskih državah ne bi počutilo prijetno, ko bi bili politično aktivni ali raziskovali svojo spolnost, če bi oblasti lahko spremljale njihovo digitalno komunikacijo, da bi iskale spolno zlorabo otrok.

Namesto izvajanja obsežnih nadzornih ukrepov bi se morala zakonodaja osredotočiti na alternativne in sistemske pristope k odpravljanju grozljivega zločina spolne zlorabe otrok.

Pozivam vas, da nasprotujete zadnjemu predlogu belgijskega predsedstva in zaščitite našo varnost na spletu.