Ar ateitis jau atėjo? ES dirbtinio intelekto reglamento projekto apžvalga

2021 m. balandžio 21 d. ES Komisija paskelbė pasiūlymą dėl reglamento dėl dirbtinio intelekto (reglamento dėl dirbtinio intelekto projektas, siūlomas reglamentas)^[1].[2] Reglamento dėl dirbtinio intelekto projektas yra "Europos duomenų strategijos"^[ 3] dalis ir juo siekiama nustatyti dirbtinio intelekto reguliavimo Sąjungoje auksinį standartą.[^3] Nors šiuo metu dėl siūlomo reglamento vyksta diskusijos ir yra keli tūkstančiai pasiūlymų dėl pakeitimų, tikimasi, kad jis bus priimtas iki 2022 m. rudens^[4] Priėmus reglamentą dėl dirbtinio intelekto, jis įsigalios praėjus dvidešimčiai dienų nuo jo paskelbimo ir visoms organizacijoms, kurios ES teikia arba naudoja dirbtinio intelekto sistemas, bus paliktas 24 mėnesių pereinamasis laikotarpis atitinkamoms priemonėms ir įpareigojimams įgyvendinti.

Šiame straipsnyje apžvelgiamas AI reglamento projektas ir jo poveikis organizacijoms visame pasaulyje.

Taikymo sritis

AI reglamento projektas turės BDAR tipo ekstrateritorinę taikymo sritį ir bus taikomas (2 straipsnis):

• paslaugų teikėjams, kurie prekiauja ES arba naudoja dirbtinio intelekto sistemas ES;
• dirbtinio intelekto sistemų naudotojams ES; ir
• teikėjams ir naudotojams, kurių dirbtinio intelekto sistemų rezultatai naudojami ES.

AI reglamento projekte sąvoka "teikėjas" apibrėžiama kaip asmuo, kuris kuria AI sistemą arba kuriam AI sistema sukurta siekiant ją pateikti rinkai arba pradėti naudoti savo vardu ar prekės ženklu (3 str.). Pažymėtina, kad bet kuris platintojas, importuotojas, naudotojas ar kita trečioji šalis bus laikoma teikėju, jei ji (28 str.):

1. pateikia dirbtinio intelekto sistemą į rinką savo vardu arba naudodamas savo prekės ženklą;
2. pakeičia esamos dirbtinio intelekto sistemos paskirtį; arba
3. iš esmės pakeičia dirbtinio intelekto sistemą.

Sąvoka "naudotojas" apibrėžiama kaip asmuo, naudojantis AI sistemą pagal savo įgaliojimus, išskyrus atvejus, kai AI sistema naudojama vykdant asmeninę neprofesinę veiklą (3 str.).

Pažymėtina, kad reglamento dėl dirbtinio intelekto projekte numatyta horizontali reguliavimo sistema. ^5. Esami reglamentai, įstatymai, standartai, normos ir kt. technologijų reglamentai daugeliu atvejų taikomi konkrečioms pramonės šakoms ir nėra susiję su šių technologijų diegimu naudojant aparatinę ir programinę įrangą. Siūlomu reglamentu bus bandoma reguliuoti dirbtinį intelektą horizontaliai, taigi nepriklausomai nuo naudojimo atvejų^[6].

Dirbtinio intelekto apibrėžtis

Siūlomame reglamente nepateikiama dirbtinio intelekto apibrėžtis. Vietoj to jame pateikiama dirbtinio intelekto sistemų apibrėžtis (3 straipsnis):

"[Dirbtinio intelekto sistema] (toliau - AI sistema) - programinė įranga, sukurta naudojant vieną ar daugiau I priede išvardytų metodų ir metodų, kuri, atsižvelgdama į tam tikrą žmogaus nustatytų tikslų rinkinį, gali generuoti rezultatus, pavyzdžiui, turinį, prognozes, rekomendacijas ar sprendimus, darančius įtaką aplinkai, su kuria ji sąveikauja."

I priede pateiktame metodų ir metodų sąraše nurodyti mašininio mokymosi metodai, logika ir žiniomis pagrįsti metodai, taip pat statistiniai metodai.

Dėl pernelyg plačios dirbtinio intelekto sistemų apibrėžties reglamento dėl dirbtinio intelekto projekte įvairios suinteresuotosios šalys sulaukė kritikos. Nors dar neaišku, kaip atrodys galutinė AI reglamento projekto versija, kai kurios valstybės pasiūlė siauresnę dirbtinio intelekto apibrėžtį su dviem papildomais reikalavimais: kad sistema galėtų "mokytis, samprotauti ar modeliuoti, įgyvendinama taikant metodus ir požiūrius", ir kad ji taip pat būtų "generatyvinė sistema", tiesiogiai veikianti savo aplinką^[7].

Dirbtinio intelekto sistemų tipai ir atitinkami atitikties reikalavimai

AI reglamento projekte AI sistemos skirstomos į keturias kategorijas: nepriimtinos rizikos AI sistemos, didelės rizikos AI sistemos, AI sistemos, kurioms taikomi skaidrumo įpareigojimai, ir minimalios rizikos AI sistemos.

Nepriimtinos rizikos AI sistemos (5 straipsnis): Pavyzdžiui, nepriimtinos rizikos sistemomis laikoma AI praktika, prieštaraujanti ES vertybėms ir kelianti aiškią grėsmę žmonių saugumui, pragyvenimui ir pagrindinėms teisėms. Tokios sistemos neleidžiamos pagal AI reglamento projektą.

Didelės rizikos AI sistemos (6 straipsnis): Šiai kategorijai priskiriamos šios kategorijos dirbtinio intelekto sistemos:

1. Biometrinės identifikavimo sistemos;
2. kritinės infrastruktūros objektai, dėl kurių gali kilti pavojus piliečių gyvybei ir sveikatai;
3. Švietimo ar profesinio mokymo priemonės, kurios gali nulemti galimybę įgyti išsilavinimą ir profesinį gyvenimą;
4. produktų saugos komponentai;
5. įdarbinimas, darbuotojų valdymas ir galimybė dirbti savarankiškai;
6. svarbiausios privačios ir viešosios paslaugos;
7. Teisėsauga, teisingumo vykdymas ir demokratiniai procesai;
8. Migracija, prieglobsčio suteikimas ir sienų kontrolė.

Didelės rizikos AI sistemų teikėjams taikomi šie esminiai įsipareigojimai:

1. Sukurti ir įgyvendinti tinkamą rizikos valdymo ir mažinimo sistemą (9 straipsnis);
2. kruopščiai tvarkyti duomenis ir duomenų valdymą, įskaitant mokymą ir didelės rizikos AI sistemų, naudojančių duomenis, testavimą (10 str.);
3. Sukurti ir pateikti naudotojams techninę dokumentaciją (11 str.);
4. Užtikrinti išsamų valdžios institucijų įrašų tvarkymą (12, 20 str.);
5. Suteikti naudotojams aiškią ir tinkamą informaciją (13 str.);
6. Užtikrinti tinkamo lygio žmogiškąją priežiūrą (14 str.);
7. rūpintis tikslumu, patikimumu ir kibernetiniu saugumu (15 str.);
8. Įdiegti tinkamą kokybės valdymo sistemą (17 straipsnis);
9. vykdyti didelės rizikos dirbtinio intelekto sistemų veikimo stebėseną po pateikimo į rinką (61 straipsnis).

Didelės rizikos dirbtinių intelektinių gebėjimų sistemų teikėjai taip pat privalo laikytis šių procedūrinių įpareigojimų:

1. Teikėjai turėtų užtikrinti, kad jų didelės rizikos dirbtinių intelektinių gebėjimų sistemos, prieš pradedant jas siūlyti rinkai arba pradėti naudoti, būtų atliktas vadinamasis "atitikties vertinimas" (19 str.). Biometrinių identifikavimo sistemų atitiktį turi atlikti atitinkama "notifikuotoji įstaiga" (VII priedas). Visų kitų tipų didelės rizikos dirbtinio intelekto sistemų atveju paslaugų teikėjai gali atlikti savarankišką vertinimą (VI priedas);
2. Atlikę didelės rizikos AI sistemos atitikties vertinimą, paslaugų teikėjai turėtų parengti rašytinę atitikties deklaraciją (48 straipsnis), prie didelės rizikos AI sistemos dokumentų pridėti CE atitikties ženklą (49 straipsnis) ir užregistruoti didelės rizikos AI sistemą ES duomenų bazėje (51 straipsnis);
3. paslaugų teikėjai per 15 dienų turėtų pranešti atitinkamai institucijai apie didelės rizikos dirbtinio intelekto sistemos "rimtą incidentą" arba "netinkamą veikimą" (62 str.).

Skirtingai nei paslaugų teikėjams, didelės rizikos dirbtinių intelektinių gebėjimų sistemų naudotojams taikomi riboto pobūdžio reikalavimai. Jie turi užtikrinti, kad didelės rizikos dirbtinių intelektinių gebėjimų sistemos būtų naudojamos pagal jų naudojimo instrukcijas, stebėti didelės rizikos dirbtinių intelektinių gebėjimų sistemų veikimą ir registruoti didelės rizikos dirbtinių intelektinių gebėjimų sistemų sukurtus žurnalus (29 str.).

AI sistemos, kurioms taikomi skaidrumo įpareigojimai (52 straipsnis): Šiai kategorijai priskiriami pokalbių robotai arba apsimetėlių robotai. Tokių sistemų teikėjai turi užtikrinti, kad jos būtų suprojektuotos ir sukurtos taip, kad fiziniai asmenys būtų informuoti, jog bendrauja su dirbtinio intelekto sistema.

Minimalios rizikos dirbtinio intelekto sistemos (69 straipsnis): Šiai kategorijai priskiriami vaizdo žaidimai su dirbtiniu intelektu arba nepageidaujamų laiškų filtrai. Tokioms dirbtinio intelekto sistemoms netaikomi jokie atitikties reikalavimai. Didžioji dauguma šiuo metu ES naudojamų dirbtinio intelekto sistemų gali būti apibrėžtos kaip minimalios rizikos dirbtinio intelekto sistemos.

Sankcijos

Už AI reglamento projekte numatytų įpareigojimų pažeidimą skiriamos baudos, kurių dydis priklauso nuo pažeidimo rūšies (71 straipsnis).

Pažeidėjui (teikėjui ir (arba) naudotojui, kai taikoma) už šių dviejų rūšių pažeidimus bus skiriamos administracinės baudos iki 30 000 000 EUR arba, jei pažeidėjas yra įmonė, iki 6 % jos bendros pasaulinės metinės apyvartos praėjusiais finansiniais metais, atsižvelgiant į tai, kuri suma yra didesnė:

• nepriimtinos rizikos AI praktikos pateikimas rinkai, pradėjimas naudoti arba naudojimas (5 straipsnis);
• didelės rizikos AI sistemos duomenų valdymo reikalavimų nesilaikymas (10 straipsnio 4 dalis).

Už kitų reikalavimų ir įpareigojimų, išskyrus minėtus, nesilaikymą pažeidėjui skiriama administracinė bauda iki 20 000 000 EUR arba, jei pažeidėjas yra įmonė, iki 4 % jos bendros pasaulinės metinės apyvartos praėjusiais finansiniais metais, atsižvelgiant į tai, kuri suma yra didesnė.

AI reglamento projekte taip pat numatytos sankcijos už tai, kad notifikuotosioms įstaigoms ir nacionalinėms kompetentingoms institucijoms pagal bet kokį prašymą nepateikiama teisinga, išsami ar tiksli informacija. Tokiu atveju pažeidėjams skiriamos administracinės baudos iki 10 000 000 EUR arba, jei pažeidėjas yra įmonė, iki 2 % jos bendros pasaulinės metinės apyvartos praėjusiais finansiniais metais, atsižvelgiant į tai, kuri suma yra didesnė.

Poveikis verslui

AI reglamento projekte aukštai iškeliama AI srities pramonės šakų atitikties prievolių visuose ekonomikos sektoriuose kartelė. McKinsey atlikta pasaulinė apklausa rodo, kad daugelis organizacijų gerokai atsilieka nuo galimų būsimo reglamento atitikties reikalavimų, nes tik 38 proc. iš jų aktyviai sprendžia AI srities reguliavimo atitikties rizikos klausimus^[8]. šiuo atžvilgiu paveiktos organizacijos turėtų pasirengti reglamentams, kurie neabejotinai bus priimti vėliau, ir priimti strateginę savo AI sistemų atitikties programą. Tam reikės reikiamų įgūdžių ir išteklių, dėl kurių padidės atitikties užtikrinimo specialistų vaidmuo. Gali būti tikimasi, kad įmonės išplės savo atitikties užtikrinimo komandas ir pasamdys daugiau šios srities specialistų. Taip pat padidės išorės teisininkų poreikis.