Uvodno

V Pravni mreži za varstvo demokracije in Danes je nov dan, Inštitutu za druga vprašanja, pozdravljamo dosedanja prizadevanja Ministrstva za digitalno preobrazbo pri pripravi osnutka zakona. Pravočasen in dosleden sprejem tega zakona je namreč ključnega pomena za zagotavljanje varnega in zanesljivega razvoja ter uporabe umetne inteligence v naši državi, spoštovanje rokov za vključevanje zainteresirane javnosti v pripravo osnutka zakona pa je bistveno za kakovostno pripravo zakonov in drugih predpisov ter zagotavljanje enega od temeljnih pogojev za uspešno delovanje pravne države.

Razumemo, da je Ministrstvo za digitalno preobrazbo kot pripravljalec[1] zakona omejen na določbe, ki so nujne za izvajanje Uredbe (EU) 2024/1689 Evropskega parlamenta in Sveta z dne 13. junija 2024 o določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828 (Akt o umetni inteligenci) (v nadaljevanju: Uredba 2024/1689/EU). Kljub temu opozarjamo, da je osnutek zakona mestoma pomanjkljiv, saj ureja samo tisto, ker je z Uredbo 2024/1689/EU eksplicitno predpisano, s takšnim zadržanim pristopom pa pušča številna odprta vprašanja in dopušča možnost različnih interpretaciji. V odzivu opozarjamo na pomanjkljive določbe in pozivamo k temu, da se bolj podrobno opredeli izvajanje Uredbe 2024/1689/EU. Pri tem izpostavljamo, da je tudi Sodišče EU že zavzelo stališče, da lahko države članice “v primeru težav pri razlagi sprejmejo podrobna pravila za uporabo uredbe in hkrati pojasnijo morebitne dvome“.[2]

Komentarji k posameznim členom

K 6. členu

Osnutek zakona v 6. členu opredeljuje organe za nadzor trga. Glede na prvi odstavek 7. člena Uredbe 2024/1689/EU lahko Komisija predlaga spremembe Priloge III, kar vključuje tudi razširitev seznama in uvedbo novih področij nadzora. V luči tega predlagamo, da se 6. člen osnutka zakona razširi in se vanj vključi postopek določitve novih nadzornih teles.

Izpostaviti bi želeli tudi vprašanje neodvisnosti Tržnega inšpektorata, ki ga 6. člen osnutka zakona navaja kot enega izmed organov za nadzor trga. Uredba 2024/1689/EU namreč v prvem odstavku 70. člena določa, da pristojni nacionalni organi, vključno z organi za nadzor trga, svoja pooblastila izvajajo neodvisno, nepristransko in brez predsodkov, zahteva po neodvisnosti organov za nadzor trga pa izhaja tudi iz uvodne določbe 156 Uredbe 2024/1689/EU. Inšpektorati, vključno s Tržnim inšpektoratom, spadajo skladno s tretjim odstavkom 14. člena Zakona o državni upravi (v nadaljevanju: ZDU-1)[3] in drugim odstavkom 8. člena Zakona o inšpekcijskem nadzoru (v nadaljevanju: ZIN)[4] med organe v sestavi ministrstva, posledično pa je vprašljivo, ali Tržni inšpektorat izpolnjuje zahtevo po neodvisnosti, ki jo za organe za nadzor trga določa Uredba 2024/1689/EU.

Skladno z 2. členom ZDU-1 mora uprava (vključno z organi v sestavi ministrstva) sicer svoje delo opravljati samostojno v okviru in na podlagi ustave, zakonov in drugih predpisov, 3. člen ZDU-1 pa določa načelo strokovnosti, politične nevtralnosti in nepristranskosti državne uprave. Prav tako velja izpostaviti, da se organe v sestavi ministrstva med drugim ustanovi, če je zaradi narave nalog ali delovnega področja potrebno zagotoviti večjo stopnjo strokovne samostojnosti pri opravljanju nalog (tretji odstavek 14. člena ZDU-1) oziroma če je zaradi narave nalog ali delovnega področja potrebno zagotoviti večjo stopnjo samostojnosti pri opravljanju nalog (2. točka drugega odstavka 21. člena ZDU-1). Za Tržni inšpektorat kot organ v sestavi ministrstva torej velja poudarjeno načelo samostojnosti napram ostalim upravnim organom, že iz prvih treh odstavkov 23. člena ZDU-1 pa je razvidno, da Tržni inšpektorat kot organ v sestavi ministrstva ni neodvisen, saj izvaja naloge v skladu z zakonom, drugimi predpisi, programom dela, ki ga sprejme minister na predlog predstojnika organa v sestavi, in finančnim načrtom, ki se sprejme v skladu z zakonom o javnih financah. Minister nadalje daje organu v sestavi usmeritve za delo in obvezna navodila za delo ter mu naloži, da v mejah svoje pristojnosti opravi določene naloge ali sprejme določene ukrepe ter mu o tem poroča. Tudi 24. člen ZDU-1 določa, da ministrstvo nadzoruje delo organa v sestavi, pri tem pa lahko minister zahteva poročila, podatke in druge dokumente v zvezi z opravljanjem dela organa v sestavi. Predstojnik organa v sestavi mora prav tako ministru redno in na njegovo posebno zahtevo poročati o delu organa v sestavi in o vseh pomembnejših vprašanjih s področij dela organa v sestavi.

V luči povedanega bi bilo smiselno razmisliti o tem, ali Tržni inšpektorat izpolnjuje zahtevo po neodvisnosti iz Uredbe 2024/1689/EU in ali je s tega vidika ustrezno, da se ga določi kot enega izmed organov za nadzor trga.

K 7. členu

Osnutek zakona v 7. členu vzpostavlja enotno kontaktno točko in določa, da naloge enotne kontaktne točke iz drugega odstavka 70. člena Uredbe 2024/1689/EU opravlja Agencije za komunikacijska omrežja in storitve Republike Slovenije (v nadaljevanju: agencija). Izpostavljamo, da iz predlaganega člena ni jasno, katere naloge bo opravljala enotna kontaktna točka. Zgolj iz obrazložitve člena je možno razbrati, da bo kontaktna točka zadolžena “za stike z javnostjo in drugimi partnerji na ravni držav članic in EU”, kot je opredeljeno že v uvodni določbi 153 Uredbe 2024/1689/EU.

Menimo, da je opredelitev nalog enotne kontaktne točke ključna, saj bi lahko v nasprotnem primeru prišlo do nejasnosti pri delovanju enotne kontaktne točke ali celo neizvajanja nalog. Po našem razumevanju je namen vzpostavitve enotne kontaktne točke izboljšanje koordinacije med organi za nadzor trga ter z drugimi partnerji na ravni držav članic in EU, kot tudi kvalitetno, učinkovito in koordinirano osveščanje in obveščanje javnosti.

K 8. členu

Izpostavljamo, da iz tretjega odstavka 70. člena Uredbe 2024/1689/EU izhaja, da države članice zagotovijo, da imajo njihovi pristojni nacionalni organi na voljo ustrezne tehnične, finančne in človeške vire ter infrastrukturo za učinkovito izpolnjevanje svojih nalog na podlagi te uredbe. Pristojni nacionalni organi morajo imeti zlasti zadostno število stalno razpoložljivega osebja, katerega kompetence in strokovno znanje vključujejo poglobljeno razumevanje tehnologij UI, podatkov in računalniške obdelave podatkov, varstva osebnih podatkov, kibernetske varnosti, temeljnih pravic, zdravstvenih in varnostnih tveganj ter poznavanje obstoječih standardov in pravnih zahtev. Države članice vsako leto ocenijo in po potrebi posodobijo zahteve glede usposobljenosti in virov iz tega odstavka.

Osnutek zakona v 8. členu ureja zgolj financiranje agencije. Pri tem določa, da se ne glede na določbe zakona, ki ureja elektronske komunikacije, sredstva za izvajanje nalog agencije po tem zakonu zagotovijo iz državnega proračuna, in sicer v obsegu, ki omogoča učinkovito izvajanje nalog in pristojnosti agencije po tem zakonu. Razumemo, da je posebna ureditev financiranja agencije za namene tega zakona, kot izhaja iz obrazložitve, potrebna, ker se skladno z 252. členom Zakona o elektronskih komunikacijah[5] agencija financira izključno s prihodki od plačil, ki so določena s tem zakonom ter drugimi zakoni s področja delovanja agencije. Vseeno pa to ne pomeni, da ne bi bilo smiselno nasloviti tudi vprašanja financiranja drugih organov za nadzor trga.

Četudi so države članice že na podlagi navedene določbe Uredbe 2024/1689/EU zavezane zagotoviti vire financiranja za organe nadzora trga, bi bilo po naši oceni smiselno, da se ta zahteva dodatno podkrepi in podrobneje opredeli tudi v zakonu, ki ureja izvajanje Uredbe 2024/1689/EU, in sicer tako, da se vanj vključi vsaj okvirna določba o načinu zagotavljanja finančnih virov vsem organom za nadzor trga. To bi namreč omogočilo celovito naslovitev vprašanja zagotavljanja sredstev organom za nadzor trga. Navedeno je še toliko bolj pomembno zato, ker bodo relevantni organi na podlagi dotičnega zakona pristojni za opravljanje več novih, zlasti tudi kompleksnih, nalog, zato bodo potrebovali okrepitve, tehnični in človeški viri ter infrastruktura, ki jih omenja Uredba 2024/1689/EU, pa so neposredno odvisni od finančnih sredstev, s katerimi razpolagajo oziroma s katerimi bodo razpolagali organi za nadzor trga.

Izpostavljamo, da je podobno v svojem mnenju glede osnutka zakona izpostavil tudi Informacijski pooblaščenec, ki je iz tega razloga predlagal dopolnitev 8. člena na način, da se členu doda tretji odstavek, v katerem se opredeli, da se “financiranje ostalih organov za nadzor trga, tj. Informacijskega pooblaščenca, Banke Slovenije in Agencije za zavarovalni nadzor, zagotavlja v skladu s področno zakonodajo, ki ureja delovanje posameznih organov, in v obsegu, ki omogoča učinkovito izvajanje nalog in pristojnosti navedenih organov po tem zakonu, vključno z vzpostavitvijo regulativnih peskovnikov za UI.”[6]

V primeru dopolnitve člena na tovrsten način bi bilo treba spremeniti tudi naslov 8. člena iz “financiranje agencije” v “financiranje organov za nadzor trga”.

K 12. členu

V zvezi z 12. členom osnutka zakona, ki ureja postopek nadzora, izpostavljamo, da bi bilo smiselno razmisliti o tem, da bi se v navedenem členu predvidela tudi javna objava rezultatov nadzornih postopkov. Trenutni osnutek zakona namreč takšne objave ne predvideva.

Določitev javne objave rezultatov nadzornih postopkov bi prispevala k večji preglednosti oziroma transparentnosti delovanja organov za nadzor trga in subjektov, ki jih ti organi nadzorujejo. Na ta način bi se nadalje krepilo tudi zaupanje javnosti v organe za nadzor trga in v učinkovitost postopkov nadzora. Javna objava rezultatov nadzornih postopkov bi lahko imela tudi preventivni učinek, saj bi dodatno odvračala subjekte od tega, da bi kršili Uredbo 2024/1689/EU, saj bi se zavedali, da bodo njihove kršitve javno vidne.

K 13. členu

Uvodoma se pridružujemo ugotovitvam Informacijskega pooblaščenca iz mnenja IP. Uredba 2024/1689/EU v desetem odstavku 74. člena predvideva usklajevanje med pristojnimi organi in ne zgolj posvetovanja, kot je trenutno določeno v 13. členu osnutka zakona.

Slovar slovenskega knjižnega jezika posvetovanje opredeljuje kot “strokovni pogovor o kaki stvari, problemu”, medtem ko usklajevanje opredeljuje kot “delovanje, s katerim se dosega, da kaj postaja, postane urejeno, skladno”. Posvetovanje je v luči te razlage manj zavezujoče kot usklajevanje.

Menimo, da z desetim odstavkom 74. člena Uredbe 2024/1689/EU predvideno, da bo določen organ za nadzor trga spoštoval odločitev drugega pristojnega organa oziroma se uskladil z odločitvijo drugega pristojnega organa. Takšnega usklajevanja trenutni osnutek zakona ne predvideva. V luči tega predlagamo, da se 13. člen osnutka zakona preimenuje iz “posvetovanje organov za nadzor trga z drugimi inšpekcijskimi organi” v “usklajevanje organov za nadzor trga z drugimi inšpekcijskimi organi”. Prav tako naj se v vseh odstavkih osnutka zakona beseda “posvetuje” zamenja z besedo “uskladi”.

Osnutek zakona v 13. členu ureja posvetovanje med nadzornimi organi z drugimi inšpekcijskimi organi. Izpostavljamo, da pri tem izpušča obveznost posvetovanja za Tržni inšpektorat RS, ki je pristojen za izvajanje nadzora nad visokotveganimi sistemi UI iz točke 5(b) Priloge III Uredbe 2024/1689/EU, za katere ni pristojna Banka Slovenija. Predlagamo, da se 13. člen zato razširi z dodatnim odstavkom:

“Tržni inšpektorat RS se pri izvajanju nadzora nad visokotveganimi sistemi UI iz točke 5(b) Priloge III Uredbe 2024/1689/EU uskladi z Informacijskim pooblaščencem.”

K 14. členu

Osnutek zakona v 14. členu ureja vzpostavitev uradne evidence visokotveganih sistemov UI na področju kritične infrastrukture. 49. člen Uredbe 2024/1689/EU opredeljuje registracijo visokotveganih UI sistemov ter v četrtem odstavku navaja področja, na katerih se registracija opravi v nejavnem delu podatkovne zbirke EU. Glede na to, da visokotvegani sistemi UI iz druge točke Priloge III (kritična infrastruktura) niso na seznamu sistemov, ki so objavljeni v nejavnem delu podatkovne zbirke, menimo, da mora biti zbirka iz 14. člena osnutka zakona javna, in predlagamo, da se to tudi zapiše v 14. člen.

71. člen Uredbe 2024/1689/EU, ki vzpostavlja podatkovno zbirko EU z informacijami o visokotveganih sistemih UI, vsebuje določbe o vsebini in delovanju podatkovne zbirke. Predlagamo, da se podobne določbe zapišejo tudi za delovanje zbirke na državnem nivoju, in sicer:

- naj se doda, da se agencija pri določanju funkcionalnih specifikacij take podatkovne zbirke posvetuje z ustreznimi strokovnjaki, pri posodabljanju funkcionalnih specifikacij take podatkovne zbirke pa s posvetovalnim telesom, ki ga sestavljajo različni deležniki (več o tem v komentarju Sodelovanje z različnimi deležniki, vključno z industrijo, zagonskimi podjetji, MSP, civilno družbo in akademskimi krogi),

- naj se opredeli, kdo mora informacije vnesti v zbirko oz. jih posredovati agenciji,

- naj se doda, da so informacije dostopne in na voljo javnosti na uporabniku prijazen način, po njih se da enostavno iskati in so strojno berljive,

- naj se doda določba, da mora biti podatkovna zbirka skladna z veljavnimi zahtevami glede dostopnosti.

V kolikor se oceni, da bo moral biti del zbirke nejaven, menimo, da morajo biti kriteriji za nejavni del zbirke jasno opredeljeni v osnutku zakona.

K 16. členu

Osnutek 16. člena vzpostavlja podlago za izvedbo promocijskih kampanj o uporabi Uredbe 2024/1689/EU, katerih namen je ozaveščanje malih in srednjih podjetij, vključno z zagonskimi podjetji, uvajalci in organi lokalne samouprave, glede zahtev, ki jih v zvezi s sistemi UI predpisuje Uredba 2024/1689/EU. Pri tem je v obrazložitvi sklic na prvi odstavek 62. člena Uredbe 2024/1689/EU, ki predvideva ukrepe držav članic za ponudnike in uvajalce, zlasti mala in srednja podjetja, vključno z zagonskimi podjetji.

Osnutek zakona ne naslavlja potrebe po izvedbi promocijskih kampanj, ki bi ozaveščale splošno javnost. Menimo, da podlago za tovrstno osveščanje vzpostavlja drugi odstavek 70. člena Uredbe 2024/1689/EU, ki določa, da morajo države članice do 2. avgusta 2025 prek elektronskih komunikacijskih sredstev objaviti informacije o tem, kako je mogoče stopiti v stik s pristojnimi organi in enotnimi kontaktnimi točkami.

Zgolj objava informacij o pristojnih organih in kontaktni točki ter načinih kontaktiranja ni dovolj za učinkovito informiranje posameznikov o pravicah, ki jim jih zagotavlja Uredba 2024/1689/EU, predvsem v členih 85, 86 in 87. Predlagamo, da se v 16. člen osnutka zakona doda drugi odstavek, ki se glasi:

“Ministrstvo lahko v skladu s predpisi o javnem naročanju naroči izvedbo promocijskih kampanj o uporabi Uredbe 2024/1689/EU, katerih namen je ozaveščanje splošne javnosti glede pravic, ki jim jih zagotavlja Uredba 2024/1689/EU, s poudarkom na pravicah iz 85., 86. in 87. členov Uredbe 2024/1689/EU.”

K 17. členu

Prva točka prvega odstavka 17. člena osnutka zakona uporabi napačno poimenovanje za sisteme UI. Ta se namreč glasi “sistem UI, ki uporablja sublimilne tehnike …”. V točki a prvega odstavka 5. člena Uredbe 2024/1689/EU so ti sistemi poimenovani kot subliminalni sistemi.

V izogib nejasnostim predlagamo popravek prve točke prvega odstavka 17. člena, ki naj se glasi:

“sistem UI, ki uporablja subliminalne tehnike, ki presegajo zavest osebe, ali namerno manipulativne ali zavajajoče tehnike, s ciljem ali učinkom bistvenega izkrivljanja vedenja osebe ali skupine oseb, tako da se znatno zmanjša njihova sposobnost, da sprejmejo informirano odločitev, zaradi česar sprejmejo odločitev, ki je sicer ne bi sprejeli, na način, ki tej osebi, drugi osebi ali skupini oseb povzroči znatno škodo ali za katerega obstaja razumna verjetnost, da bo povzročil znatno škodo (točka (a) prvega odstavka 5. člena Uredbe 2024/1689/EU);”

V zvezi z navedenim členom izpostavljamo tudi neskladnost med subjekti, ki so navedeni v prvem odstavku in subjekti, ki so navedeni v petem odstavku 17. člena osnutka zakona. Prvi odstavek navedenega člena namreč kot subjekte, ki se sankcionirajo zaradi neupoštevanja prepovedi praks iz 5. člena Uredbe 2024/1689/EU navaja ponudnika, proizvajalca proizvoda, uvajalca, pooblaščenega zastopnika, uvoznika in distrubuterja. Peti odstavek 17. člena osnutka zakona, ki določa sankcijo za prekršek iz prvega odstavka tega člena, ki je posebno hud zaradi višine povzročene škode oziroma višine pridobljene protipravne premoženjske koristi ali zaradi storilčevega naklepa oziroma njegovega namena koristoljubnosti, pa omenja zgolj ponudnika in uvajalca.

Ker ne vidimo razloga, zakaj se bi peti odstavek nanašal zgolj na ponudnike in uvajalce, ne pa tudi na druge subjekte, opredeljene v prvem odstavku osnutka zakona, saj peti odstavek ureja zgolj hujšo obliko prekrška iz prvega odstavka tega člena, predlagamo, da se navedeni odstavek razširi tako, da zajame tudi te subjekte (torej proizvajalca proizvoda, pooblaščenega zastopnika, uvoznika in distrubuterja), in sicer na način, da se glasi:

“(5) Kadar je prekršek iz prvega odstavka tega člena posebno hud zaradi višine povzročene škode oziroma višine pridobljene protipravne premoženjske koristi ali zaradi storilčevega naklepa oziroma njegovega namena koristoljubnosti, se ponudnik, proizvajalec proizvoda, uvajalec, pooblaščeni zastopnik, uvoznik ali distributer, ki je pravna oseba, samostojni podjetnik posameznik ali posameznik, ki samostojno opravlja dejavnost, kaznuje z globo v višini do 35. 000. 000 eurov ali do sedem odstotkov skupnega svetovnega letnega prometa za preteklo poslovno leto, odvisno od tega, kateri znesek je višji.”

K 22. členu

V zvezi z 22. členom osnutka zakona izpostavljamo, da bi bilo med prekrške uvajalca smiselno dodati tudi kršitev obveznosti iz prvega odstavka 86. člena Uredbe 2024/1689/EU. Ta opredeljuje pravico do obrazložitve postopka odločanja za posamične primere in v prvem odstavku določa, da ima vsaka prizadeta oseba, za katero velja odločitev, ki jo uvajalec sprejme na podlagi izhodnih podatkov visokotveganega sistema UI iz Priloge III, razen sistemov iz točke 2 Priloge III, in ki ima pravne učinke ali na to osebo podobno znatno vpliva na način, ki ima po njenem mnenju negativne učinke na njeno zdravje, varnost in temeljne pravice, pravico od uvajalca pridobiti jasna in smiselna pojasnila o vlogi sistema UI v postopku odločanja in glavnih elementih sprejete odločitve. Drugi in tretji odstavek 86. člena Uredbe 2024/1689/EU pri tem določata izjeme od navedene obveznosti.

Pravica do obrazložitve postopka za posamične primere iz 86. člena Uredbe 2024/1689/EU je ena izmed ključnih pravic, ki jih posameznikom daje omenjena Uredba, vzpostavlja pa tudi obveznost uvajalca, da v primerih, opredeljenih v relevantnem členu, prizadetim osebam omogoči pridobitev jasnih in smiselnih pojasnil o vlogi sistema UI v postopku odločanja in glavnih elementih sprejete odločitve. Odsotnost določitve sankcij za kršitev te obveznosti bi pomenilo pomanjkljivo zaščito relevatne pravice in bi neutemeljeno omejevalo oziroma izključevalo odgovornost uvajalcev glede njihove obveznosti iz 86. člena Uredbe 2024/1689/EU.

Skladno s povedanim predlagamo, da se v prvi odstavek 22. člena doda 16. točka, ki se glasi:

“16. prizadeti osebi, za katero velja odločitev, ki jo sprejme na podlagi izhodnih podatkov visokotveganega sistema UI iz Priloge III, razen sistemov iz točke 2 Priloge III, in ki ima pravne učinke ali na to osebo podobno znatno vpliva na način, ki ima po njenem mnenju negativne učinke na njeno zdravje, varnost in temeljne pravice, ne omogoči pridobitve jasnih in smiselnih pojasnil o vlogi sistema UI v postopku odločanja in glavnih elementih sprejete odločitve, razen v primerih iz drugega in tretjega odstavka 86. člena Uredbe 2024/1689/EU (prvi odstavek 86. člena Uredbe 2024/1689/EU).”

K 24. členu

24. člen osnutka zakona, ki ureja prekrške ponudnikov in uvajalcev sistemov UI glede preglednosti na podlagi 50. člena Uredbe 2024/1689/EU, po naši oceni nepopolno oziroma pomanjkljivo ureja sankcije za kršitve določb o preglednosti.

Osnutek zakona sicer uvaja sankcije za kršitve določb od prvega do četrtega odstavka 50. člena Uredbe 2024/1689/EU, pri čemer pa ne sankcionira tudi ravnanja, ki ni skladno s petim odstavkom 50. člena Uredbe 2024/1689/EU. Ta določa, da morajo biti informacije iz prvega do četrtega odstavka tega člena fizičnim osebam na voljo na jasen in razpoznaven način ter najpozneje ob prvi interakciji ali izpostavljenosti, poleg tega pa tudi, da morajo biti informacije skladne z veljavnimi zahtevami glede dostopnosti. Obveznost ponudnika oziroma uvajalca skladno s 50. členom Uredbe 2024/1689/EU tako ni le zagotovitev informacij iz prvega do četrtega odstavka, temveč tudi zagotovitev teh informacij na način, predviden v petem odstavku tega člena. Za preprečitev potencialnega zavajanja in zagotovitev ustrezne stopnje informiranosti je nujno, da se informacije ne le zagotovijo, temveč da se zagotovijo skladno s predvidenim standardom, ki zagotavlja dejansko dostopnost informacij. Posamezniku namreč sama zagotovitev informacij iz prvega do četrtega odstavka 50. člena Uredbe 2024/1689/EU ne koristi, če informacije niso zagotovljene na jasen in razpoznaven način ter že ob prvi interakciji ali izpostavljenosti sistemom UI oziroma njihovim vsebinam. Odsotnost določitve sankcij za kršitev teh zahtev bi pomenilo pomanjkljivo zaščito posameznikov in bi neutemeljeno omejevalo oziroma izključevalo odgovornost ponudnikov in uvajalcev za ravnanje, ki je v naprotju s petim odstavkom 50. člena Uredbe 2024/1689/EU.

Skladno z navedenim bi bilo treba v osnutek zakona vključiti tudi sankcioniranje ponudnika oziroma uvajalca, ki informacij iz prvega do drugega odstavka 50. člena Uredbe 2024/1689/EU ne zagotovi na način, predviden v petem odstavku 50. člena Uredbe 2024/1689/EU. Takšno ureditev predvideva na primer tudi španski osnutek zakona,[7] ki sankcionira tako neizpolnjevanje obveznosti iz prvega do četrtega odstavka kot tudi neizpolnjevanje obveznosti iz petega odstavka 50. člena Uredbe 2024/1689/EU.[8] Prvi odstavek 24. člena osnutka zakona bi tako bilo smiselno dopolniti, na primer tako, da se doda 7. točko, ki se glasi:

“7. informacij iz prvega do četrtega odstavka 50. člena Uredbe 2024/1689/EU ne da na voljo zadevnim fizičnim osebam na jasen in razpoznaven način ter najpozneje ob prvi interakciji ali izpostavljenosti oziroma če te informacije niso skladne z veljavnimi zahtevami glede dostopnosti (peti odstavek 50. člena Uredbe 2024/1689/EU).”

K 29. členu

29. člen osnutka zakona določa, da organi za nadzor trga do 31. januarja Ministrstvu za digitalno preobrazbo Republike Slovenije pošljejo podatke o kaznih, ki so jih v skladu z Uredbo 2024/1689/EU naložili v predhodnem koledarskem letu, ter o vseh povezanih pravnih sporih in sodnih postopkih. Menimo, da bi bilo smiselno razmisliti o tem, da bi se v navedenem členu predvidela tudi javna objava teh podatkov.

Ocenjujemo, da gre za podatke javnega značaja ter da bi bila njihova proaktivna objava koristna, saj bi prispevala k večji preglednosti oziroma transparentnosti delovanja organov za nadzor trga in subjektov, ki jih ti organi nadzorujejo. Na ta način bi se nadalje krepilo tudi zaupanje javnosti v organe za nadzor trga in v učinkovitost postopkov nadzora. Javna objava rezultatov nadzornih postopkov bi lahko imela tudi preventivni učinek, saj bi dodatno odvračala subjekte od tega, da bi kršili Uredbo 2024/1689/EU, saj bi se zavedali, da bodo njihove kršitve javno vidne.

Zadeve, ki v osnutku zakona niso naslovljene

Dodatno izpostavljamo, da določena zadeve, ki bi bodisi morale biti naslovljene v nacionalni implementacijski zakonodaji bodisi bi bilo to koristno z vidika učinkovitega nadzora, v osnutku zakona niso naslovljene. V nadaljevanju izpostavljamo pomanjkljivosti in podajamo predloge za izboljšavo.

1.Transparentna objava informacij o sistemih UI ter objava evidence visokotveganih sistemov UI tudi na nacionalnem nivoju

71. člen Uredbe 2024/1689/EU vzpostavlja podatkovno zbirko EU, ki vsebuje informacije o visokotveganih sistemih UI. Uredba držav članic nikjer ne omejuje pri objavi takšne zbirke tudi na nacionalnem nivoju ter razširitvi seznama sistemov, ki morajo biti vključeni v nacionalno podatkovno zbirko. Objava slovenske podatkovne zbirke bi posameznikom v Sloveniji olajšala dostop do teh podatkov ter tako zagotovila, da se določbe o objavi na uporabniku prijazen način ter dostopnosti dejansko udejanjijo v praksi. Poleg tega menimo, da je transparentnost glede uporabe UI sistemov ključna za zagotavljanje zaupanje vredne UI, principa, ki mu je Slovenija zavezana v več strategijah in dokumentih, med drugim tudi v Nacionalnem programu spodbujanja razvoja in uporabe umetne inteligence v Republiki Sloveniji do leta 2025 (NpUI).

Zato predlagamo, da se v osnutek zakona doda, da bo agencija pripravila (oz. prilagodila) ter enotna kontaktna točka javno objavila podatkovno zbirko Evropske komisije z UI sistemi, ki so bili dani na trg ali v uporabo v Sloveniji. Poleg tega predlagamo, da se omogoči, da se v slovensko podatkovno zbirko vpišejo tudi UI sistemi, ki niso visokorizični, ter takšno registracijo spodbuja tudi med podjetji. Hkrati predlagamo, da se predvidi ureditev, ki bi v prihodnosti omogočila razširitev nabora informacij, ki jih morajo posredovati ponudniki ali uvajalci visokotveganih sistemov, ter razširitev nabora sistemov, ki morajo biti del podatkovne zbirke.

2.Sodelovanje z različnimi deležniki, vključno z industrijo, zagonskimi podjetji, MSP, civilno družbo in akademskimi krogi

Predlagamo, da se po vzoru 67. člena Uredbe 2024/1689/EU, ki vzpostavlja Svetovalni forum, podobno posvetovalno telo ustanovi tudi na nacionalnem nivoju. Zakonodajalec je potrebo po sodelovanju z različnimi deležniki že prepoznal in udejanil z ustanovitvijo Strokovnega sveta za svetovanje pri implementaciji Akta o umetni inteligenci.

Predlagamo, da se ustanovi stalno posvetovalno telo, ki bi zagotavljalo tehnično ter strokovno znanje in svetovalo organom za nadzor trga. Članstvo posvetovalnega telesa naj bo sestavljeno iz uravnoteženega izbora deležnikov, vključno z industrijo, zagonskimi podjetji, MSP, civilno družbo in akademskimi krogi. Člane naj imenujejo organi za nadzor trga po predlogu relevantnih predstavniških organizacij. Organi za nadzor trga naj se sestanejo s posvetovalnim telesom najmanj dvakrat letno. Posvetovalno telo pripravi letno poročilo o svojih dejavnostih, ki je javno objavljeno.

3.Omogočanje učinkovitega uveljavljanja pravice do vložitve pritožbe pri organu za nadzor trga

85. člen Uredbe 2024/1689/EU določa, da ima vsaka fizična ali pravna oseba pravico do vložitve pritožbe pri organu za nadzor trga, če utemeljeno misli, da je prišlo do kršitev določb te uredbe.

Glede na to, da osnutek zakona uvaja kompleksen sistem s petimi organi za nadzor trga, predlagamo, da se v osnutek zakona vključi vzpostavitev (po možnosti anonimne) enotne točke za prijavo kršitev določb Uredbe 2024/1689/EU. Takšna enotna točka bi javnosti omogočila uveljavljanje pravice od vložitve pritožbe tudi v primerih, ko fizična ali pravna oseba ne ve, kateri organ za nadzor trga je pristojen za UI sistem, glede katerega podaja pritožbo, ali ko je pristojnost deljena (UI sistem, ki hkrati spada pod več področij, opredeljenih v Uredbi 2024/1689/EU). Predlagamo, da je enotna točka za prijavo kršitev del enotne kontaktne točke. Slovenija se pri tem lahko zgleduje po osnutku španskega zakona o implementaciji Uredbe 2024/1689/EU, ki vzpostavlja enotno digitalno točko za vlaganje pritožb.[9]

Poleg tega predlagamo, da se v osnutek zakona doda, da je fizična ali pravna oseba, ki je podala pritožbo, informirana:

- ali je organ sprejel odločitev, da zavrže ali obravnava pritožbo, ter,

- v kolikor je organ obravnaval pritožbo, o končni odločitvi v postopku.

Tukaj se lahko Slovenija zgleduje po poljskem osnutku zakona, ki predvideva, da je fizična ali pravna oseba, ki je vložila pritožbo, informirana o zaključku postopka,[10] ter španskem osnutku zakona, ki predpisuje rok, znotraj katerega organ vlagatelja informira, ali bo obravnaval pritožbo, ter rok, znotraj katerega organ vlagatelja informira o rezultatu postopka.[11]

4.Zagotavljanje ustreznega financiranja javnih organov, odgovornih za nadzor ter pristojnih za varstvo temeljnih pravic

Opozarjamo, da organi in javna telesa, ki imajo pooblastila iz 77. člena Uredbe 2024/1689/EU (v Sloveniji so to Zagovornik načela enakosti, Informacijski pooblaščenec, Agencija za komunikacijska omrežja in storitve RS, Tržni inšpektorat RS, Inšpektorat RS za notranje zadeve, Inšpektorat RS za delo, Inšpektorat RS za šolstvo, Inšpektorat RS za kulturo in medije, Inšpektorat RS za okolje in energijo, Inšpektorat RS za naravne vire in prostor) ter inšpekcija za informacijsko družbo (11. člen osnutka zakona) trenutno večinoma nimajo oddelkov za UI oziroma zadostnih kapacitet za delovanje na tem področju.

Da bi zagotovili učinkovito izvajanje Uredbe 2024/1689/EU, je potrebno zagotoviti ustrezno financiranje ter kapacitete zgoraj omenjenih organov. Glede na to, da se z Uredbo 2024/1689/EU veča delokrog in pristojnosti organov, pozivamo k zagotovitvi tega, da se to odraža tudi v njihovem financiranju.

5.Koordinacija med organi za nadzor trga

Glede na komentarje na 13. člen osnutka zakona in v skladu z desetim odstavkom 74. člena Uredbe 2024/1689/EU menimo, da bi bilo potrebno z dopolnitvijo 13. člena osnutka zakona ali z dodatnim členom urediti način usklajevanja, koordinacije in sodelovanja med organi za nadzor trga ter drugimi pristojnimi organi s področja Uredbe zaradi zagotavljanja enotnega, usklajenega in učinkovitega izvajanja nalog, ki jim jih nalagata ta zakon in Uredba 2024/1689/EU.

Obenem opozarjamo, da bosta takšno usklajevanje in koordinacija med organi za nadzor trga ključna zaradi prepletanja različnih področij in kompleksnosti nadzora, predvsem glede presečnih tem, ki vplivajo na področja iz pristojnosti različnih organov. Usklajevanje in koordinacija sta ključna tudi zaradi zagotavljanja izmenjave informacij za pripravo usklajenega letnega poročila, ki ga določa šesti odstavek 5. člena Uredbe 2024/1689/EU, ter za izvajanje 15. člena osnutka zakona.

Zaradi tega je ključno, da organi za nadzor trga med seboj izmenjujejo vse operativne informacije, da zagotovijo ustrezno informiranost in koordinacijo pri izvajanju njihovih nalog, naloga zakonodajalca pa je, da to delovanje uredi sistemsko.

V luči tega predlagamo, da se osnutek zakona razširi z ustanovitvijo skupnega odbora organov za nadzor trga, ki ga koordinira agencija kot kontaktna točka, in ki naj se sestane vsaj enkrat na četrtletje, da zagotovi kontinuirano delovanje in sistematično koordiniranje.

6.Nadzor nad ponudniki, ki ugotovijo, da njihov UI sistem ne pomeni visokega tveganja

Četrti odstavek 6. člena Uredbe 2024/1689/EU pravi, da lahko ponudnik ugotovi, da sistem iz Priloge III zadovoljuje pogoje iz tretjega odstavka 6. člena in ne predstavlja visokega tveganja. Takšen sistem mora biti registriran v podatkovno zbirko EU za visokotvegane sisteme, vendar zanj ne veljajo ostale določbe za visokotvegane sisteme.

Gre za vrzel v ureditvi, ki prinaša tveganje, da bodo podjetja nenamerno ali namerno ocenila, da njihov sistem ni visokotvegan. Uredba 2024/1689/EU nikjer podrobno ne določa, kako bo potekal nadzor nad ponudniki, ki pripravijo takšno samooceno, hkrati pa četrti odstavek 6. člena predvideva, da ponudnik na zahtevo pristojnih nacionalnih organov predloži dokumentacijo o oceni. Menimo, da bi bilo treba podrobneje določiti, kako naj ta nadzor poteka in to v osnutku zakona tudi opredeliti. Organom bi se denimo lahko naložilo, da zahtevajo in preučijo dokumentacijo o oceni najmanj 50 odstotkov vseh sistemov, ki spadajo v to kategorijo. Ta odstotek se glede na število zaznanih kršitev lahko kasneje zniža ali zviša.

7.Delovanje Evropskega odbora za umetno inteligenco

Uredba 2024/1689/EU predvideva ustanovitev Evropskega odbora za umetno inteligenco (v nadaljevanju: Odbor), v katerega vsaka država imenuje svojega predstavnika, v njegovem okviru pa deluje tudi več podskupin, v vsako izmed njih je bilo imenovanih več nacionalnih predstavnikov. Glede sodelovanja predstavnikov držav članic v Odboru Uredba 2024/1689/EU ureja le imenovanje predstavnikov in nekatere temeljne obveznosti držav članic, na primer da predstavnikom zagotovijo ustrezna pooblastila in pristojnosti, da so določeni kot enotna kontaktna točka za deležnike in da skrbijo za spodbujanje doslednosti in usklajevanja med pristojnimi nacionalnimi organi v svoji državi članici.

V osnutku zakona vidimo dve pomanjkljivosti:

1. V skladu z zavezo glede transparentnosti delovanja in spodbujanja zaupanja vredne umetne inteligence predlagamo, da se javno objavi seznam predstavnikov Republike Slovenije v Odboru in njegovih podskupinah, saj so po točki b tretjega odstavka 65. člena Uredbe 2024/1689/EU predstavniki tudi kontaktne točke za deležnike. Takšnega transparentnega delovanja se poslužujejo nekatere druge države članice.[12] Predlagamo, da se zahteva po transparentnosti in ažurnosti seznama predstavnikov vključi v osnutek zakona.
2. Osnutek zakona ne predpisuje dodatnih pravil glede usklajevanja, poročanja ali drugih oblik posvetovanja med predstavniki Republike Slovenije. Predlagamo, da se usklajevanje in sodelovanje predstavnikov Republike Slovenije, ki sodelujejo v podskupinah Odbora, uredi v osnutku zakona.

Opombe

[1] V besedilu uporabljene slovnične oblike se enakovredno nanašajo na vse spolne identitete.

[2] P.-J. Loewenthal, M. Klamert, Article 288, v: THE EU TREATIES AND THE CHARTER OF FUNDAMENTAL RIGHTS - A COMMENTARY (ur. M. Kellerbauer, M. Klamert, J. Tomkin), str. 1899.

[3] Zakon o državni upravi, Uradni list RS, št. 113/05 – uradno prečiščeno besedilo, 89/07 – odl. US, 126/07 – ZUP-E, 48/09, 8/10 – ZUP-G, 8/12 – ZVRS-F, 21/12, 47/13, 12/14, 90/14, 51/16, 36/21, 82/21, 189/21, 153/22 in 18/23.

[4] Zakon o inšpekcijskem nadzoru, Uradni list RS, št. 43/07 – uradno prečiščeno besedilo in 40/14.

[5] Zakon o elektronskih komunikacijah, Uradni list RS, št. 130/22 in 18/23 – ZDU-1O.

[6] Informacijski pooblaščenec, 5. 3. 2025, Osnutek Zakona o izvajanju Uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci – Mnenje Informacijskega pooblaščenca, str. 2, dostop: https://www.ip-rs.si/fileadmin/user_upload/Pdf/pripombe/2025/MDP_Osnutek%20zakona%20o%20izvajanju%20Akta%20o%20umetni%20inteligenci_Mnenje%20IP_05032025.pdf. V nadaljevanju: mnenje IP.

[7] Glej španski osnutek zakona: ANTEPROYECTO DE LEY PARA EL BUEN USO Y LA GOBERNANZA DE LA INTELIGENCIA ARTIFICIAL, dostop: https://avance.digital.gob.es/_layouts/15/HttpHandlerParticipacionPublicaAnexos.ashx?k=19128

[8] Glej točko b) in c) prvega odstavka 16. člena in točko a) in b) prvega odstavka 20. člena španskega osnutka zakona.

[9] Glej 4. točko 29. člena španskega osnutka zakona.

[10] Glej poljski osnutek zakona: Projekt ustawy o systemach sztucznej inteligencji, dostop: https://legislacja.gov.pl/projekt/12390551/katalog/13087901#13087901

[11] Glej 4. in 5. točko 29. člena španskega osnutka zakona.

[12] Denimo Finska, dostop: https://tem.fi/en/eu-ai-board-and-its-sub-groups