Ali je prihodnost že tu? Pregled osnutka uredbe EU o umetni inteligenci

Komisija EU je 21. aprila 2021 objavila predlog uredbe o umetni inteligenci (osnutek uredbe o umetni inteligenci, predlagana uredba)^[1], ki je del "evropske strategije za podatke"^[2] in naj bi določila zlati standard za urejanje umetne inteligence v Uniji.[^3] Medtem ko se trenutno o predlagani uredbi razpravlja in obstaja več tisoč predlogov za spremembe, naj bi bila sprejeta jeseni 2022.^[4] Po sprejetju bo uredba o umetni inteligenci začela veljati dvajset dni po objavi, vsem organizacijam, ki zagotavljajo ali uporabljajo sisteme umetne inteligence v EU, pa bo za izvajanje ustreznih ukrepov in obveznosti ostalo 24-mesečno prehodno obdobje.

Ta članek vsebuje pregled osnutka uredbe o umetni inteligenci in njenih posledic za organizacije po vsem svetu.

Področje uporabe

Osnutek uredbe o umetni inteligenci bo imel ekstrateritorialni domet v slogu GDPR in se bo uporabljal za (člen 2):

• ponudnike, ki tržijo v EU ali dajejo sisteme UI v uporabo v EU;
• uporabnike sistemov umetne inteligence v EU in
• ponudnike in uporabnike sistemov UI, katerih rezultati se uporabljajo v EU.

V osnutku uredbe o UI je izraz "ponudnik" opredeljen kot oseba, ki razvije sistem UI ali ki da razviti sistem UI, da bi ga dala na trg ali v uporabo pod svojim imenom ali blagovno znamko (člen 3). Opozoriti je treba, da se za ponudnika šteje vsak distributer, uvoznik, uporabnik ali druga tretja oseba, če je (28. člen):

1. da sistem umetne inteligence na trg pod svojim imenom ali blagovno znamko;
2. spremeni predvideni namen obstoječega sistema umetne inteligence ali
3. bistveno spremeni sistem umetne inteligence.

Izraz "uporabnik" je opredeljen kot oseba, ki uporablja sistem umetne inteligence po svojem pooblastilu, razen kadar se sistem umetne inteligence uporablja v okviru osebne nepoklicne dejavnosti (člen 3).

Pomembno je, da osnutek uredbe o UI predvideva horizontalni regulativni okvir^. obstoječi predpisi, zakoni, standardi, norme itd. o tehnologijah se v večini primerov nanašajo na določene panoge in ne obravnavajo izvajanja teh tehnologij prek sistemov strojne in programske opreme. Predlog uredbe bo poskušal UI urediti horizontalno in torej neodvisno od primerov uporabe^[6].

Opredelitev umetne inteligence

Predlagana uredba ne vsebuje opredelitve umetne inteligence. Namesto tega vsebuje opredelitev sistemov umetne inteligence (člen 3):

"[S]istem umetne inteligence" (sistem UI) pomeni programsko opremo, ki je razvita z eno ali več tehnikami in pristopi, navedenimi v Prilogi I, in lahko za določen niz ciljev, ki jih opredeli človek, ustvarja rezultate, kot so vsebine, napovedi, priporočila ali odločitve, ki vplivajo na okolja, s katerimi so v interakciji."

Seznam tehnik in pristopov iz Priloge I vključuje pristope strojnega učenja, logične pristope in pristope, ki temeljijo na znanju, ter statistične pristope.

Preširoka opredelitev sistemov umetne inteligence v osnutku uredbe o umetni inteligenci je bila deležna kritik različnih zainteresiranih strani. Čeprav še ni znano, kakšna bo končna različica osnutka uredbe o UI, so nekatere države predlagale ožjo opredelitev umetne inteligence z dvema dodatnima zahtevama: da je sistem sposoben "učenja, sklepanja ali modeliranja, ki se izvaja s tehnikami in pristopi", in da je tudi "generativni sistem", ki neposredno vpliva na svoje okolje^[7].

Vrste sistemov umetne inteligence in ustrezne zahteve glede skladnosti

Osnutek uredbe o UI deli sisteme UI v štiri kategorije: sistemi UI z nesprejemljivim tveganjem, sistemi UI z visokim tveganjem, sistemi UI z obveznostmi glede preglednosti in sistemi UI z minimalnim tveganjem.

Sistemi umetne inteligence z nesprejemljivim tveganjem (člen 5): Za sisteme z nesprejemljivim tveganjem se na primer štejejo prakse UI, ki so v nasprotju z vrednotami EU in jasno ogrožajo varnost, preživetje in temeljne pravice ljudi. Takšni sistemi v osnutku uredbe o umetni inteligenci niso dovoljeni.

Sistemi UI z visokim tveganjem (člen 6): V to kategorijo spadajo naslednje kategorije sistemov UI:

1. sistemi za biometrično identifikacijo;
2. kritične infrastrukture, ki bi lahko ogrozile življenje in zdravje državljanov;
3. Izobraževanje ali poklicno usposabljanje, ki lahko določa dostop do izobraževanja in poklicno pot posameznika;
4. varnostne komponente izdelkov;
5. zaposlovanje, upravljanje delavcev in dostop do samozaposlitve;
6. bistvene zasebne in javne storitve;
7. kazenski pregon, pravosodje in demokratični procesi;
8. upravljanje migracij, azila in mejnega nadzora.

Za ponudnike sistemov umetne inteligence z visokim tveganjem veljajo naslednje vsebinske obveznosti:

1. ustvariti in izvajati ustrezen sistem za obvladovanje in zmanjševanje tveganj (člen 9);
2. skrbno upravljati podatke in upravljanje podatkov, vključno z usposabljanjem in testiranjem sistemov AI z visokim tveganjem, ki uporabljajo podatke (člen 10);
3. ustvariti in uporabnikom zagotoviti tehnično dokumentacijo (člen 11);
4. zagotoviti podrobno vodenje evidenc za organe (člena 12 in 20);
5. omogočiti uporabnikom jasne in ustrezne informacije (čl. 13);
6. zagotoviti ustrezno raven človeškega nadzora (člen 14);
7. poskrbeti za natančnost, robustnost in kibernetsko varnost (člen 15);
8. vzpostaviti ustrezen sistem upravljanja kakovosti (člen 17);
9. izvajati spremljanje delovanja sistemov umetne inteligence z visokim tveganjem po dajanju na trg (člen 61).

Ponudniki sistemov UI z visokim tveganjem morajo izpolnjevati tudi naslednje postopkovne obveznosti:

1. Ponudniki morajo zagotoviti, da njihovi sistemi UI z visokim tveganjem opravijo tako imenovano "ugotavljanje skladnosti", preden se lahko ponudijo na trgu ali začnejo uporabljati (člen 19). Skladnost biometričnih identifikacijskih sistemov mora izvesti ustrezni "priglašeni organ" (Priloga VII). Za vse druge vrste sistemov UI z visokim tveganjem lahko ponudniki izvedejo samooceno (Priloga VI);
2. Ko sistem UI z visokim tveganjem opravi ugotavljanje skladnosti, morajo ponudniki pripraviti pisno izjavo o skladnosti (člen 48), dokumentaciji sistema UI z visokim tveganjem priložiti oznako skladnosti CE (člen 49) in sistem UI z visokim tveganjem registrirati v zbirki podatkov EU (člen 51);
3. ponudniki morajo v 15 dneh poročati ustreznemu organu o "resnem incidentu" ali "nepravilnem delovanju" sistema UI z visokim tveganjem (člen 62).

Za razliko od ponudnikov veljajo za uporabnike visoko tveganih sistemov umetne inteligence omejene zahteve. Z razširitvijo morajo zagotoviti, da uporabljajo visoko tvegane sisteme umetne inteligence v skladu z navodili za njihovo uporabo, spremljati delovanje visoko tveganih sistemov umetne inteligence in voditi evidenco dnevnikov, ki jih ustvarjajo visoko tvegani sistemi umetne inteligence (člen 29).

Sistemi umetne inteligence z obveznostmi glede preglednosti (člen 52): V to kategorijo spadajo klepetalni boti ali posnemovalni boti. Ponudniki takih sistemov morajo zagotoviti, da so zasnovani in razviti tako, da so fizične osebe obveščene, da komunicirajo s sistemom umetne inteligence.

Sistemi UI z minimalnim tveganjem (člen 69): V to kategorijo spadajo videoigre z umetno inteligenco ali filtri za nezaželeno pošto. Za takšne sisteme UI ni zahtev glede skladnosti. Veliko večino sistemov umetne inteligence, ki se trenutno uporabljajo v EU, je mogoče opredeliti kot sisteme umetne inteligence z minimalnim tveganjem.

Sankcije

Kršitev obveznosti iz osnutka uredbe o umetni inteligenci ima za posledico globe, ki so določene glede na vrsto kršitve (člen 71).

Kršitelju (ponudniku in/ali uporabniku, kjer je to primerno) se za naslednji dve vrsti kršitev izrečejo upravne globe v višini do 30 000 000 EUR ali, če je kršitelj podjetje, do 6 % njegovega skupnega svetovnega letnega prometa za preteklo poslovno leto, kar je višje:

• dajanje na trg, dajanje v uporabo ali uporaba nesprejemljivo tveganih praks AI (člen 5);
• neizpolnjevanje zahtev glede upravljanja podatkov sistema UI z visokim tveganjem (člen 10(4)).

Za neizpolnjevanje drugih zahtev in obveznosti, ki niso navedene, se kršitelju izreče upravna globa v višini do 20 000 000 EUR ali, če je kršitelj podjetje, do 4 % njegovega skupnega svetovnega letnega prometa za preteklo poslovno leto, pri čemer se upošteva višji znesek.

Osnutek uredbe o umetni inteligenci predvideva tudi sankcije, če priglašenim organom in pristojnim nacionalnim organom na kakršno koli zahtevo ne zagotovi pravilnih, popolnih ali točnih informacij. V tem primeru se kršiteljem izrečejo upravne globe v višini do 10 000 000 EUR ali, če je kršitelj podjetje, do 2 % njegovega skupnega svetovnega letnega prometa za preteklo poslovno leto, pri čemer se upošteva višja vrednost.

Posledice za podjetja

Osnutek uredbe o umetni inteligenci postavlja visoko letvico za obveznosti industrijskih panog na področju umetne inteligence v vseh gospodarskih sektorjih glede skladnosti. Globalna raziskava, ki jo je izvedel McKinsey, kaže, da številne organizacije močno zaostajajo pri izpolnjevanju morebitnih zahtev po skladnosti iz prihajajoče uredbe, saj jih le 38 odstotkov aktivno obravnava tveganja glede skladnosti z zakonodajo na področju UI^.[8] V zvezi s tem se morajo prizadete organizacije pripraviti na predpise, ki bodo zagotovo sledili, in sprejeti strateški program skladnosti za svoje sisteme UI. To bo zahtevalo potrebne sklope spretnosti in vire, kar bo privedlo do povečane vloge strokovnjakov za skladnost. Od podjetij se lahko pričakuje, da bodo razširila svoje ekipe za skladnost in zaposlila več strokovnjakov s tem specifičnim predznanjem. Povečala se bo tudi potreba po zunanjih pravnih svetovalcih.