(Ne)omejena raba umetne inteligence v imenu nacionalne varnosti?

Uvodno

V letu 2024 je v Evropski uniji (v nadaljevanju: EU) v veljavo stopila Uredba o določitvi harmoniziranih pravil o umetni inteligenci (v nadaljevanju: Akt o UI),[1] postopoma pa se začenjajo uporabljati tudi njene določbe. V Državnem zboru je trenutno tudi predlog Zakona o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci, ki določa organe za izvajanje in nadzor nad izvajanjem Akta o UI ter relevantne prekrške in globe.[2]

Akt o UI naj bi določal enoten pravni okvir za razvoj, dajanje na trg in uporabo umetnointeligenčnih sistemov v Evropski uniji,[3] eni izmed večjih varovalk, ki jih vzpostavlja, pa sta prepoved določenih praks umetne inteligence in posebna pravila za visokorizične umetnointeligenčne sisteme.

Že tekom priprave in ob sprejemu je bil Akt o UI deležen več kritik, ki se danes še stopnjujejo. Na eni strani gre za kritike zagonskih podjetij, ki pozivajo k zamrznitvi uporabe določb Akta o UI, saj naj bi bila regulacija nejasna in naj bi omejevala inovacije ter napredek na področju razvoja umetne inteligence.[4] Na drugi strani pa so prisotne kritike civilne družbe, ki opozarja na vrzeli Akta o UI, ki ne nudijo zadostne zaščite pravic posameznikov in omogočajo potencialne zlorabe.[5] Ena izmed najbolj perečih problematik je tudi izključitev področja nacionalne varnosti iz uporabe Akta o UI.

Regulacija “da,” a ne za vsa področja

Uporaba Akta o UI je omejena in določena področja tudi popolnoma izključuje, kar pomeni, da tam regulacija in varovalke, ki jih predvideva, ne veljajo. Iz člena 2(3) Akta o UI izhaja, da se med drugim ne uporablja za področja, ki ne spadajo na polje uporabe prava EU in v nobenem primeru ne vpliva na pristojnosti držav članic glede nacionalne varnosti. Člen nadalje določa, da se Akt o UI ne uporablja za sisteme umetne inteligence, kadar so dani na trg ali v uporabo oziroma se uporabljajo izključno za nacionalne varnostne, vojaške ali obrambne namene. Prav tako se ne uporablja za sisteme umetne inteligence, ki niso dani na trg ali v uporabo v EU, kadar se izhodni podatki uporabljajo v EU izključno za nacionalne varnostne vojaške ali obrambne namene.

Iz navedene določbe izhaja, da se Akt o UI ne uporablja le, ko se sistem umetne inteligence uporablja izključno za zgoraj opredeljene namene. Že sam Akt o UI pri tem predvideva več možnih situacij, pri katerih se odpira pomembno vprašanje, ali gre za izključno rabo v te namene ali ne. Iz 24. točke njegove preambule izhaja, da sistem umetne inteligence, ki se uporablja v vojaške ali obrambne namene oziroma za namene nacionalne varnosti, sodi na področje uporabe Akta o UI, če se začasno ali stalno uporablja za druge namene, oziroma je bil dan na trg ali v uporabo tudi za druge namene. Nasprotno pa sistem umetne inteligence, dan na trg za civilne namene, ki se nato (s spremembami ali brez njih) uporablja za vojaške in obrambne namene ali namene nacionalne varnosti, ne sodi na področje uporabe Akta o UI.

Kaj vse spada pod nacionalno varnost?

Vojaških, obrambnih in nacionalnovarnostnih namenov Akt o UI ne definira, pri čemer je problematična zlasti odprtost in neopredeljenost pojma nacionalna varnost, ki se lahko interpretira zelo široko in omogoča državam članicam EU široko polje proste presoje.

Člen 4(2) Pogodbe o Evropski uniji (v nadaljevanju: PEU),[6] na katerega se glede izključitve področja nacionalne varnosti sklicuje tudi Akt o UI,[7] med drugim določa, da EU spoštuje temeljne državne funkcije njenih držav članic, zlasti zagotavljanje ozemeljske celovitosti, vzdrževanje javnega reda ter varovanje nacionalne varnosti. Pri tem določba izrecno navaja, da zlasti nacionalna varnost ostaja v izključni pristojnosti vsake države članice. V skladu s tem je posledično v izključni pristojnosti držav članic tudi opredelitev bistvenih varnostnih interesov, ki spadajo pod nacionalno varnost. Kljub temu gre tudi za pojem prava EU, ki ga je Sodišče EU v združenih zadevah C‑511/18, C‑512/18 in C‑520/18 (La Quadrature du Net)[8] z dne 6. 10. 2020 opredelilo kot prvobitni interes, “ki je zaščititi bistvene funkcije države in temeljne interese družbe, ter vključuje preprečevanje in kaznovanje dejavnosti, ki lahko resno destabilizirajo temeljne ustavne, politične, gospodarske ali družbene strukture države ter zlasti neposredno ogrozijo družbo, prebivalstvo ali državo kot tako, kot so zlasti teroristična dejanja.”[9] S tem je postavilo okvirno definicijo oziroma zamejitev pojma nacionalne varnosti na ravni EU, države članice pa znotraj tega relativno širokega okvira ohranjajo pristojnost, da opredelijo svoje bistvene varnostne interese in sprejmejo primerne ukrepe za zagotovitev svoje notranje in zunanje varnosti. Države članice imajo tako še vedno relativno široko polje proste presoje glede vprašanja, kaj bodo štele kot vprašanje nacionalne varnosti.

Iz ustaljene sodne prakse Sodišča EU sicer zgolj dejstvo, da je bil nacionalni ukrep sprejet zaradi zaščite nacionalne varnosti, ne more povzročiti izključitve uporabe prava EU in držav članic oprostiti obveznosti spoštovanja tega prava.[10] Odstopanja v skladu z določbami o varnosti držav članic se namreč nanašajo na izjemne in jasno opredeljene primere ter ne predstavljajo splošne izjeme, posledično pa jih je treba razlagati restriktivno. Ukrepi nacionalne varnosti tudi niso v celoti izvzeti s področja uporabe prava EU, saj morajo biti še vedno v skladu s splošnimi načeli prava EU, med drugim z načelom sorazmernosti, skladno s katerim morajo odstopanja ostati v mejah tega, kar je primerno in potrebno za dosego zastavljenega cilja.[11]

Izraz nacionalna varnost (national security)[12] na več mestih vsebuje tudi Evropska konvencija o varstvu človekovih pravic (v nadaljevanju: EKČP),[13] ki pojem prav tako pušča odprt za interpretacijo.[14] Evropska komisija za človekove pravice – predhodnica Evropskega sodišča za človekove pravice (v nadaljevanju: ESČP) – je ocenila, da pojma ni mogoče celovito opredeliti, iz prakse komisije oziroma ESČP pa sicer izhaja, da vsekakor vključuje zaščito državne varnosti in ustavne demokracije pred vohunstvom, terorizmom, podporo terorizmu, separatizmom in spodbujanjem h kršenju vojaške discipline.[15]

Tudi na ravni Slovenije nimamo jasne definicije nacionalne varnosti.[16] Okvirna vsebina pojma je sicer razvidna iz nacionalnih interesov in nacionalnovarnostnih ciljev, ki jih Resolucija o strategiji nacionalne varnosti[17] opredeljuje kot izhodišče za zagotavljanje nacionalne varnosti.[18] Mednje spadajo npr. ohranitev neodvisnosti, ozemeljske celovitosti in suverenosti države ter nacionalne identitete; priznavanje in spoštovanje nedotakljivosti mednarodno priznanih meja ter državnega območja Slovenije; blaginja prebivalcev in celovit razvoj družbe ter ohranitev okolja in naravnih virov države.[19]

Kaj prinaša izključitev področja nacionalne varnosti?

Izključitev področja nacionalne varnosti je potencialno problematična z več vidikov. Izključeno je namreč celotno področje, izjema za vojaške, obrambne in nacionalne varnostne namene pa velja ne glede na vrsto subjekta in torej zajema tako javne (državne) organe kot tudi zasebne subjekte, ki izvajajo te dejavnosti.[20] Nadalje obstaja v povezavi z izjemo nacionalne varnosti v Aktu o UI nevarnost, da bi države in varnostni organi izjemo nacionalne varnosti zlorabili in uporabili za uvajanje sistemov umetne inteligence, ki posegajo v človekove pravice, tudi zunaj strogega okvira nacionalne varnosti, npr. na področju upravljanja meja. Zadevo dodatno otežuje odsotnost jasne skupne opredelitve nacionalne varnosti v državah članicah EU (kljub opredelitvi oziroma zamejitvi pojma v zgoraj omenjeni sodbi Sodišča EU) in zahtevnost ter nejasna meja med konceptoma nacionalne in javne varnosti.[21]

Pereč problem predstavlja tudi vprašanje razlikovanja med nacionalno varnostjo ter preprečevanjem, odkrivanjem in preiskovanjem kaznivih dejanj (law enforcement), ki pušča odprta vrata za potencialne zlorabe. To razlikovanje je namreč ključnega pomena, saj je od tega, kam spada določena dejavnost, odvisno, ali se bo Akt o UI (in varovalke, ki jih vsebuje) v konkretnem primeru uporabil ali ne.

Za razliko od nacionalne varnosti je preprečevanje, odkrivanje in preiskovanje kaznivih dejanj v Aktu o UI izrecno opredeljeno in načeloma spada pod njegovo uporabo. Definicija preprečevanja, odkrivanja in preiskovanja kaznivih dejanj[22] ter organov, ki so za to pristojni,[23] pa je relativno široka. Zaradi široke definicije tega področja (in zlasti ob odsotnosti definicije nacionalne varnosti v Aktu o UI) je meja med preprečevanjem, odkrivanjem in preiskovanjem kaznivih dejanj ter nacionalno varnostjo do določene mere zabrisana ter omogoča prekrivanje teh področij. V praksi bo tako težko vnaprej opredeliti, ali se bo določena tehnologija uporabila izključno za namene nacionalne varnosti in ne za namen preprečevanja, odkrivanja ali preiskovanja kaznivih dejanj.[24] Uporabo zmogljivosti prepoznavanja obrazov za iskanje in identifikacijo osumljenca terorizma na velikem zborovanju ali dogodku bi bilo na primer mogoče utemeljiti tako z nacionalno varnostjo kot tudi s preprečevanjem, odkrivanjem in preiskovanjem kaznivih dejanj. Pri tem obstaja nevarnost, da bi se organ za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj skušal izogniti omejitvam, ki jih Akt o UI nalaga za biometrično identifikacijo v realnem času, izvedeno na javnih prostorih, s sklicevanjem na to, da gre za namene nacionalne varnosti, ki je popolnoma izključena iz uporabe Akta o UI.[25]

Sklepno

Izključitev področja nacionalne varnosti iz uporabe Akta o UI odpira številna vprašanja, ki jih bo v bodoče treba nasloviti. Pri tem ostaja nejasno, v katero smer se bo v bodoče razvijala regulacija rabe umetne inteligence na ravni EU in njenih držav članic. Bolj verjeten od strožjega je sicer blažji pristop k regulaciji. Kot omenjeno, je namreč že Akt o UI, ki vsebuje več vrzeli z vidika varstva pravic posameznikov, deležen kritik s strani določenih gospodarskih družb in inovatorjev, ki delujejo na področju umetne inteligence. Zagotovo bi bila na globalni ravni smiselna zaveza k ustrezni regulaciji rabe umetne inteligence, ki bi bila v prvi vrsti usmerjena v ustrezno zaščito pravic posameznikov in bi zajemala vsa področja, tudi področje nacionalne varnosti oziroma bi to področje vsaj posebej urejala. Žal pa zaradi raznih pritiskov in želje po napredku na področju umetne inteligence ter prihodnosti, ki jo ta obljublja, takšne uskladitve verjetno še dolgo ne bomo dočakali. Še toliko manj je to verjetno za regulacijo na področju nacionalne varnosti, kjer je vzpostavitev posebne ureditve vprašljiva že na nacionalni ravni, saj si države, utemeljeno ali ne, na tem področju rade puščajo široko polje proste presoje – “za vsak slučaj...”

Opombe:

[1] Uredba (EU) 2024/1689 Evropskega parlamenta in Sveta z dne 13. junija 2024 o določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828.

[2] Glej 1. člen Predloga Zakona o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci, URL: https://imss.dz-rs.si/IMiS/ImisAdmin.nsf/ImisnetAgent?OpenAgent&2&DZ-MSS-01/70045a0359c34c58be15891f5322e8ebfdb44853847921b447f42a1798395f19.

[3] Glej prvo točko preambule Akta o UI.

[4] Glej npr. Schildt Johannes, Osika Anton, Hjelm Fredrik et. al., Europe must hit pause on the AI Act, 30. 6. 2025, URL: https://sifted.eu/articles/ai-act-pause-opinion-eu-european-startups.

[5] Glej npr. Amnesty International, EU: Artificial Intelligence rulebook fails to stop proliferation of abusive technologies, 13. 3. 2024, URL: https://www.amnesty.org/en/latest/news/2024/03/eu-artificial-intelligence-rulebook-fails-to-stop-proliferation-of-abusive-technologies/.

[6] Pogodba o Evropski uniji z dne 13. decembra 2007 – prečiščena različica, UL C 202, 7.6.2016, str. 13–46.

[7] Glej 24. točko preambule Akta o UI. Poleg člena 4(2) PEU kot razlog za izključitev področja nacionalne varnosti navaja tudi posebno naravo ter operativne potrebe dejavnosti nacionalne varnosti in posebna nacionalna pravila, ki se uporabljajo za dejavnosti nacionalne varnosti.

[8] Sodišče EU, v združenih zadevah C‑511/18, C‑512/18 in C‑520/18 z dne 6. 10. 2020, URL: https://curia.europa.eu/juris/document/document.jsf;jsessionid=356695CB12AF6B8B04830FAB2D40762A?text=&docid=232084&pageIndex=0&doclang=SL&mode=lst&dir=&occ=first&part=1&cid=11509485.

[9] Glej tč. 135 relevantne sodbe.

[10] Glej npr. Sodišče EU v zadevi C‑623/17 Privacy International proti Secretary of State for Foreign and Commonwealth Affairs in ostalim z dne 6. 10. 2020, tč. 44, URL: https://curia.europa.eu/juris/document/document.jsf;jsessionid=4706384BCCC8843C19D194043F47490E?text=&docid=232083&pageIndex=0&doclang=SL&mode=lst&dir=&occ=first&part=1&cid=2983804.

[11] Slepak, Vitaly, National security clause: law and practice of European Union and Eurasia Economic Union, 2019, J. Phys.: Conf. Ser. 1406, str. 3-4, URL: https://iopscience.iop.org/article/10.1088/1742-6596/1406/1/012002/pdf.

[12] V slovenskem prevodu EKČP se sicer uporablja prevod državna varnost oziroma varnost države, kar kaže na nekonsistenten prevod tega pojma.

[13] Zakon o ratifikaciji Konvencije o varstvu človekovih pravic in temeljnih svoboščin, spremenjene s protokoli št. 3, 5 in 8 ter dopolnjene s protokolom št. 2, ter njenih protokolov št. 1, 4, 6, 7, 9, 10 in 11 (MKVCP), Uradni list RS – Mednarodne pogodbe, št. 7/94.

[14] Glej npr. prvi odstavek 6. člena, drugi odstavek 8. člena in drugi odstavek 10. člena EKČP ter tretji odstavek 2. člena Protokola št. 4 k EKČP in drugi odstavek 1. člena Protokola št. 7 k EKČP.

[15] European Court of Human Rights, Research Division: National security and European case-law, URL: https://rm.coe.int/168067d214.

[16] Izrecno jo je sicer definirala Resolucija o izhodiščih zasnove nacionalne varnosti Republike Slovenije, Uradni list RS, št. 71/93, 2/94 – popr. in 56/01, ki pa ne velja več.

[17] Resolucija o strategiji nacionalne varnosti, Uradni list RS, št. 59/19.

[18] Glej točko 2 Resolucije o strategiji nacionalne varnosti “2. Interesi in cilji Republike Slovenije.”

[19] Prav tam.

[20] Glej npr. European Centre for Non-profit Law, Tech and AI Packed with loopholes: why the AI Act fails to protect civic space and the rule of law, 2024, URL: https://ecnl.org/news/packed-loopholes-why-ai-act-fails-protect-civic-space-and-rule-law.

[21] Vogiatzoglou Plixavra, The AI Act National Security Exception room for manoeuvres?, 9. 12. 2024, URL: https://verfassungsblog.de/the-ai-act-national-security-exception/ in Powell Rosamund, The EU AI Act: National Security Implications, 2024, URL: https://cetas.turing.ac.uk/publications/eu-ai-act-national-security-implications.

[22] V 46. točki člena 3 Akta o UI je preprečevanje, odkrivanje in preiskovanje kaznivih dejanj definirano kot “dejavnosti, ki jih organi za preprečevanje, odkrivanje ali preiskovanje kaznivih dejanj izvajajo ali se izvajajo v njihovem imenu za preprečevanje, preiskovanje, odkrivanje ali pregon kaznivih dejanj ali izvrševanje kazenskih sankcij, vključno z varovanjem pred grožnjami javni varnosti in njihovim preprečevanjem.”

[23] 45. točka člena 3 Akta o UI organ za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj opredeljuje kot: “(a) kateri koli javni organ, ki je pristojen za preprečevanje, preiskovanje, odkrivanje ali pregon kaznivih dejanj ali izvrševanje kazenskih sankcij, vključno z varovanjem pred grožnjami javni varnosti in njihovim preprečevanjem, ali (b) kateri koli drug organ ali subjekt, ki v skladu s pravom države članice lahko opravlja javne funkcije in izvaja javna pooblastila za preprečevanje, preiskovanje, odkrivanje ali pregon kaznivih dejanj ali izvrševanje kazenskih sankcij, vključno z varovanjem pred grožnjami javni varnosti in njihovim preprečevanjem.”

[24] Powell Rosamund, The EU AI Act: National Security Implications, 2024, URL: https://cetas.turing.ac.uk/publications/eu-ai-act-national-security-implications.

[25] Glej npr. Cabrera Lazaro Laura, EU AI Act Brief – Pt. 2, Privacy & Surveillance, 2024, URL: https://cdt.org/insights/eu-ai-act-brief-pt-2-privacy-surveillance/.