Vispārīga informācija

1. Pēdējos gados mākslīgais intelekts (MI) ir ietekmējis ikvienu mūsu dzīves aspektu, sākot no triviāla līdz ļoti izrietošam, piemēram, lēmumu pieņemšanai saistībā ar medicīniskām diagnozēm vai sociālā nodrošinājuma pabalstiem.

2. Eiropas Ombuds cieši sekoja līdzi šim tematam un 2021. gada martā rīkoja tīmekļsemināru par MI un e-pārvaldi publiskajā pārvaldē Eiropas ombudu tīklam (ENO). Daudzi no MI izvirzītajiem jautājumiem attiecas uz ombuda darba pamatjomām, piemēram, pārredzamību, lēmumu pieņemšanas pārskatatbildību, ētiku un pamattiesībām. Daži ombuda biroji valsts līmenī jau ir izskatījuši sūdzības un izdevuši norādījumus ^[1] saistībā ar MI izmantošanu.

3. 2021. gadā Eiropas Komisija nāca klajā ar priekšlikumu jaunai ES regulai, kas reglamentē MI: “MI akta” projekts ^[2] Priekšlikums ir Eiropas Ombuda un ENO locekļu tiešā interesēs. Tajā paredzēts, ka iestādes tiks izraudzītas vai izveidotas valsts līmenī, lai nodrošinātu regulas īstenošanu. Ja ES iestādes, biroji, struktūras un aģentūras ietilpst regulas darbības jomā, ir paredzēts, ka attiecīgā uzraudzības iestāde būs Eiropas Datu aizsardzības uzraudzītājs (EDAU). Priekšlikuma mērķis ir nodrošināt pamattiesību, tostarp tiesību uz labu pārvaldību, augsta līmeņa aizsardzību, kā arī labas pārvaldības principu ievērošanu ^[3]. 

4. Šajā sakarā 2021. gada jūnijā ombude rakstīja Komisijai un EDAU, lūdzot rīkot sanāksmes, lai uzzinātu vairāk par priekšlikumu un apspriestu, kā turpmākie noteikumi darbosies attiecībā uz ES pārvaldi un valsts pārvaldes iestādēm kopumā. Šīs stratēģiskās iniciatīvas mērķis bija informēt ENO locekļus par šīm svarīgajām norisēm ES līmenī un palīdzēt sagatavot Eiropas Ombuda biroju iespējamam turpmākam darbam šajā jomā, jo īpaši izskatot iespējamās sūdzības par ES iestāžu pieļautām administratīvām kļūmēm ^[4].

Ierosinātais MI akts un standarti, kas saistīti ar pārredzamību, pamattiesībām un labas pārvaldības principiem

5. MI akta priekšlikuma mērķis ir paredzēt vienotus noteikumus MI sistēmām ES tirgū. Tajā ir ierosināti noteikumi, kas piemērojami visam MI dzīves ciklam, tostarp MI sistēmu laišanai tirgū, nodošanai ekspluatācijā un izmantošanai.

6. MI akta priekšlikumā ir izmantota uz risku balstīta pieeja, kas nozīmē, ka regulatīva iejaukšanās ir nepieciešama tikai tad, kad tas ir nepieciešams atkarībā no riska līmeņa drošībai un pamattiesībām, ko MI sistēma varētu radīt. Priekšlikumā MI sistēmas ir klasificētas četrās kategorijās:

• nepieņemams risks (ir četras aizliegtas MI prakses, tostarp dažu cilvēku neaizsargātības izmantošana),
• augsta riska AI sistēmas (atļautas, bet ar nosacījumu, ka tās atbilst prasībām),
• MI, kas rada noteiktus ar pārredzamību saistītus riskus (atļauts, ievērojot informācijas sniegšanas pienākumus), un
• MI rada minimālu risku vai nerada to (atļauts bez papildu ierobežojumiem, bet iespējama atbilstība brīvprātīgiem rīcības kodeksiem).

7. Saskaņā ar ierosināto MI aktu nodrošinātāju pienākumi ietver autonomu MI sistēmu reģistrēšanu publiskā ES datubāzē un ziņošanu tirgus uzraudzības iestādēm par nopietniem incidentiem un darbības traucējumiem, kas var radīt riskus pamattiesībām.

8. Lietotāju pienākumi ietvers cilvēka virsvadības nodrošināšanu, izmantojot MI sistēmas (kas ir būtiskas publiskām iestādēm), un sagādātāja vai izplatītāja informēšanu par visiem nopietniem incidentiem vai darbības traucējumiem.

9. MI akta projektā ir iekļauti dažādi pārredzamības noteikumi, jo īpaši pienākums proaktīvi informēt lietotājus par to, ka viņi mijiedarbojas ar MI sistēmu. Šie pārredzamības pienākumi ir paredzēti kā papildinājums tiem, kas paredzēti spēkā esošajos tiesību aktos, piemēram, patērētāju aizsardzības vai datu aizsardzības tiesību aktos ES un valstu līmenī.

10. Lai jo īpaši novērstu nepārredzamību un nodrošinātu pārredzamību plašākai sabiedrībai, ierosinātajā MI aktā ir iekļauti noteikumi par:

1. augsta riska AI sistēmu pārredzamība un izsekojamība

2. Kompetento uzraudzības iestāžu piekļuves tiesības

3. pārredzamība attiecībā uz skartajiem cilvēkiem (cilvēki ir jāinformē, ja viņi izmanto noteiktas MI sistēmas, tostarp, ja tās nav klasificētas kā augsta riska sistēmas);

4. publiskā pārraudzība: ES mēroga publiski pieejama atsevišķa augsta riska MI datubāze.

11. Ja indivīdi uzskata, ka MI sistēma ir pārkāpusi viņu tiesības, ir paredzēts, ka viņi varēs vērsties pēc tiesiskās aizsardzības tirgus uzraudzības iestādēs un/vai citās esošās iestādēs, piemēram, ombuda iestādēs, datu aizsardzības iestādēs, patērētāju aizsardzības iestādēs, diskriminācijas novēršanas iestādēs utt. Tādā gadījumā šīm iestādēm būtu pilnvaras pieprasīt piekļuvi visai attiecīgajai informācijai par attiecīgo MI sistēmu. Spēja sazināties ar esošajām iestādēm nozīmē, ka sabiedrībai nebūs jāvēršas pie jaunām un nezināmām iestādēm un ka pastāv konsekventa pieeja problēmu risināšanai. Vajadzības gadījumā attiecīgajām iestādēm būs pilnvaras analizēt attiecīgo MI sistēmu, pat ietverot pirmkodu.

12. Akta pārvaldības struktūras pamatā ir sistēma, kas aptver valsts un ES līmeni. Valsts līmenim būtu būtiska nozīme izpildes panākšanā ar valsts tirgus uzraudzības iestāžu starpniecību. ES līmenī tiktu koordinēta īstenošana un informācijas apmaiņa, izmantojot ES MI padomi. Tiktu izveidota arī Komisijas ekspertu grupa tehnisku un zinātnisku konsultāciju sniegšanai, kurā būtu pārstāvētas visas attiecīgās ieinteresētās personas (pilsoniskā sabiedrība, akadēmiskās aprindas, uzņēmumi u. c.).

13. Saskaņā ar MI akta projektu dalībvalstis varētu noteikt ombuda birojus par attiecīgo valsts struktūru pamattiesību aizsardzības garantēšanai. Šīm struktūrām būs tiesības piekļūt būtiskiem dokumentiem un informācijai, un tās varēs izmantot jaunus mehānismus sadarbībai ar tirgus uzraudzības iestādēm.

14. Attiecībā uz izpildi būs svarīgi apsvērt, kā valstu iestādes reaģēs uz saviem jaunajiem uzdevumiem saskaņā ar MI akta projektu, kā rezultātā dažādu veidu valstu iestādēm var būt pilnvaras un mandāti, kas pārklājas vai ir savstarpēji saistīti. Piemēram, akta projektā ir iekļauts priekšlikums (63. pantā), ka attiecībā uz MI sistēmām, ko izmanto tiesībaizsardzības un migrācijas, patvēruma un robežkontroles pārvaldībā, tirgus uzraudzības iestāde būs attiecīgā iestāde datu aizsardzības uzraudzībai. Ja ir gadījumi, kad dažādām valsts iestādēm ir pilnvaras, kas pārklājas vai ir savstarpēji saistītas, šīm iestādēm būtu cieši jāsadarbojas, lai nodrošinātu konsekventu izpildi.

15. Priekšlikums pašlaik tiek apspriests Padomē un Eiropas Parlamentā. Pēc pieņemšanas būs divu gadu pārejas periods, pēc kura MI aktam būtu jākļūst tieši piemērojamam kopumā un obligātam operatoriem.

Mākslīgais intelekts un ES administrācija

16. Ierosinātais MI akts attieksies uz ES iestādēm, struktūrām, birojiem un aģentūrām, kad tās darbosies kā MI sistēmu sagādātāji vai lietotāji.

17. Kad ES iestādes, struktūras, biroji un aģentūras izstrādā sistēmas iekšēji (nevis “nopērk tās no plaukta kā gatavu produktu” no tirgus), tās tiks uzskatītas par “pakalpojumu sniedzēju”, kad šīs sistēmas tiks nodotas ekspluatācijā pašu lietošanai. Tām attiecīgi būtu jāievēro attiecīgās prasības, tostarp attiecībā uz datu kvalitāti, pārredzamību un cilvēka virsvadību.

18. Ja valsts iestāde sistēmu neizstrādā pati, bet gan pērk to “ārpus plaukta”, tā tiktu uzskatīta par lietotāju un tai būtu jāizpilda visi no tā izrietošie pienākumi, tostarp pārredzamības pienākumi pret skartajām personām.

19. ES administrācija MI jau izmanto dažādās jomās, piemēram, tulkošanā: Konferences par Eiropas nākotni platformā ir iekļauts tulkošanas rīks ^[5]. Citi piemēri ir Eiropas Savienības Patvēruma aģentūras agrīnās brīdināšanas un sagatavotības sistēma un instrumenti, ko Eiropas Robežu un krasta apsardzes aģentūra (Frontex) izmanto riska profilēšanai, piemēram, kuģiem.

20. Daži piemēri MI lietojumiem, ko plāno ES administrācija, ir šādi:

• Komisijas Komunikācijas ģenerāldirektorāta (COMM ĢD) projekts, kura mērķis ir uzlabot mijiedarbību ar iedzīvotājiem sociālajos medijos.
• COMM ĢD un Europe Direct projekts, kura mērķis ir izveidot zināšanu repozitoriju ar informāciju, kas darbiniekiem vajadzīga, lai atbildētu uz pilsoņu jautājumiem par viņu tiesībām, jo īpaši sasaistot un izgūstot informāciju, kas varētu būt svarīga. AI var izmantot arī jautājumu klasificēšanai.
• Eurostat apsver iespēju izmantot virtuālos asistentus (tērzēšanas botus) saistībā ar statistikas informācijas paziņošanu.
• ES Aģentūra lielapjoma IT sistēmu darbības pārvaldībai brīvības, drošības un tiesiskuma telpā (eu-LISA) plāno uzlabot savu datubāzu, jo īpaši Šengenas Informācijas sistēmas, veiktspēju, izmantojot MI, tostarp uzlabojot biometrisko datu precizitāti.
• Eiropas Personāla atlases birojs izskata iespēju darbā pieņemšanas darbībās izmantot MI.

21. Saskaņā ar gaidāmajiem pienākumiem, kas izriet no ierosinātā MI akta, Komisija jau ir sākusi izstrādāt rīcības kodeksu un pamatnostādnes MI izstrādei un izmantošanai.

EDAU un ierosinātais MI akts

22. Pamatojoties uz pašreizējo MI akta priekšlikuma tekstu, EDAU būtu trīs galvenie uzdevumi:

1.  Kompetentā uzraudzības iestāde: EDAU nodrošinās, ka ES iestādes ievēro MI aktu, kas ietver akta uzraudzību un izpildi.

2. Paziņojošā struktūra: vismaz dažos gadījumos EDAU veiks atbilstības novērtējumus ES iestādēm, kas izstrādās augsta riska MI sistēmas.

3. Tirgus uzraudzības iestāde: vēl nav skaidrs, ko tas nozīmēs. EDAU savā EDAK un EDAU kopīgajā atzinumā par MI aktu ir paudis šaubas un lūdzis Komisiju precizēt, ko ietvers MI tirgus ES iestādēm, struktūrām, birojiem un aģentūrām un vai tā uzraudzība attieksies tikai uz ES iestādēm vai arī trešām personām un privātiem uzņēmumiem, kas nodrošina MI sistēmas un pakalpojumus.

23. EDAU būs arī daļa no jaunās Eiropas MI padomes, kas sniegs atzinumus un ieteikumus par MI jautājumiem. Kopumā tas ietvers sagatavošanas darbu, lai neatpaliktu no jaunākajiem MI tehnoloģijas atjauninājumiem un sekotu standartizācijas procesiem.

24. EDAU uzskata, ka ir vajadzīgi papildu precizējumi attiecībā uz MI tiesību aktiem, lai precizētu to jauno uzdevumu apjomu un redzētu, kā MI akts ietekmēs spēkā esošos datu aizsardzības tiesību aktus un mijiedarbosies ar tiem ^[6].

25. EDAU uzskata, ka ierosinātajā MI aktā ir iespējami uzlabojumi attiecībā uz pārredzamības pienākumiem pret lietotāju, proti, sabiedrības informēšanu par to, kad un kā MI sistēmas tiek izmantotas.

26. EDAU jau veic uzraudzības darbības, jo dažas ES iestādes ir sākušas izstrādāt mašīnmācīšanās sistēmas. EDAU veic revīzijas un lūdz informāciju par to, kā ES iestādes izstrādā mašīnmācīšanās modeļus, izmantojot personas datus. Iestādes, kas izstrādā vai iepērk MI sistēmas, apspriežas arī ar EDAU, lai palīdzētu tām pienācīgi apsvērt datu aizsardzību jau izstrādes posmā, apzināt iespējamos riskus datu subjektu tiesībām un brīvībām un tos pienācīgi mazināt.

Secinājums

27. Labas pārvaldības principi ietver uz pakalpojumiem orientētu mijiedarbību ar personām, saprātīgumu un proporcionalitāti. Tie ietver lēmumu skaidru izskaidrošanu un empātisku attieksmi pret personām, kuras skar šādi lēmumi. Citiem vārdiem sakot, laba pārvaldība nozīmē humānu un cilvēcisku. Kad cilvēki tiek izņemti no pakalpojumu sniegšanas vienādojuma, ir skaidrs, ka var rasties problēmas. Aizvien pieaugošā pāreja uz e-pārvaldi un mākslīgā intelekta izmantošana publiskās pārvaldes iestādēs būtiski ietekmēs ombuda iestāžu darbu, kas būs šīs pārejas seku risināšanas priekšplānā.

28. ES Pamattiesību aģentūras (FRA) veiktais pētījums liecina, ka vairumā gadījumu MI tiek izmantots efektivitātes nolūkos.^[7] Tam, protams, nevajadzētu būt vienīgajam mērķim. Mākslīgais intelekts ietekmē ne tikai pamattiesības uz privātumu un datu aizsardzību, bet arī pamattiesības uz līdztiesību un nediskrimināciju (jo īpašu vai neaizsargātu grupu tiesības bieži vien netiek apspriestas) un pamattiesības uz piekļuvi efektīviem tiesiskās aizsardzības līdzekļiem (tostarp izpratni par to, ka cilvēkiem ir tiesības iesniegt sūdzību). Lēmumiem jābūt taisnīgiem un pārredzamiem, un risinājumiem lēmumu apstrīdēšanai jābūt pieejamiem un piekļūstamiem.

29. FRA ir sagatavojusi galveno apsvērumu kontrolsarakstu, lai palīdzētu uzņēmumiem un pārvaldes iestādēm ievērot pamattiesības, izmantojot MI.^[8] Tas ir noderīgs resurss ombuda birojiem. 2022. gada ENO konferences ^[9] secinājumos bija iekļauts priekšlikums izveidot labas prakses sarakstu publiskās pārvaldes iestādēm, kas izmanto MI. Šāds saraksts varētu būt vērtīgs, jo īpaši ņemot vērā to, ka vēl būs vajadzīgi vairāki gadi, pirms MI akta projektā ierosinātie standarti un aizsardzības pasākumi stāsies spēkā, savukārt publiskās pārvaldes iestādes jau tagad izmanto MI un drīzumā plāno ieviest vairāk MI savu funkciju atbalstam.^[10]  Eiropas Ombuds apsvērs, kā sadarbībā ar ENO locekļiem izstrādāt šādu sarakstu.

30. Mākslīgā intelekta parādīšanās ir arī cilvēkresursu problēma. Gan publiskais, gan privātais sektors ir sācis meklēt ekspertus MI jomā, un pieredzējušu speciālistu trūkums varētu kļūt par izaicinājumu jo īpaši publiskajam sektoram. Šī problēma attieksies arī uz ombuda birojiem, un Eiropas Ombuds apsvērs, kā to risināt, tostarp ENO ietvaros.

31. Pieņemot, ka MI akts tiks pieņemts, būs plašas iespējas turpmākai sadarbībai ENO. MI akta projektā ierosinātā izpildes, īstenošanas un informācijas apmaiņas pārvaldības struktūra ir balstīta uz valstu un ES struktūru mijiedarbības sistēmu. Dalībvalstis varētu arī noteikt, ka ombuda biroji ir valsts struktūras, kas uzrauga pamattiesību aizsardzību. Eiropas Ombuds turpinās izvērtēt, kādus praktiskus pasākumus šajā jomā varētu veikt ENO ietvaros.

32. Šī stratēģiskā iniciatīva ir parādījusi, ka nākotnē, visticamāk, būs atklāti jautājumi par pārredzamību sabiedrībai (piemēram, par ierosināto neatkarīgo MI sistēmu publisko ES mēroga reģistru). Sagaidāms arī, ka būs grūtības saistībā ar pārskatatbildību: atbilstība cilvēka virsvadības prasībām; MI testēšanas un validēšanas procesos izmantoto rādītāju pārredzamība; kā tiks nodrošināta izsekojamība; un atbilstība pienākumam glabāt žurnālus un dokumentāciju.

33. Šī stratēģiskā iniciatīva ļāva Eiropas Ombudam un ENO gūt labu priekšstatu par turpmāko ES regulatīvo vidi MI jomā, par tā ieviešanu ES administrācijā un publiskajā sektorā kopumā. Papildus tam, ka Eiropas Ombuds turpinās dalīties ar attiecīgo informāciju ar ENO, kura prioritāte ir publiskās pārvaldes iestāžu digitalizācija, Eiropas Ombuds izmantos šo stratēģisko iniciatīvu, lai sniegtu informāciju iespējamam turpmākam darbam šajā jomā un sagatavotos iespējamām turpmākām sūdzībām.

[1] Šādu norādījumu piemērs ir Nīderlandes ombuda ziņojums “Iedzīvotājs nav datu kopa”: https://www.nationaleombudsman.nl/nieuws/onderzoeken/the-citizen-is-not-a-dataset

[2] Priekšlikums Eiropas Parlamenta un Padomes regulai, kas nosaka saskaņotas normas mākslīgā intelekta jomā (MI akts) https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206

[3] Priekšlikums Eiropas Parlamenta un Padomes regulai, ar ko paredz saskaņotus noteikumus par mākslīgo intelektu (Mākslīgā intelekta akts) https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206

Sk. arī https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence.

[4] Pilns sanāksmju ziņojumu teksts ir pieejams šeit:

https://www.ombudsman.europa.eu/en/doc/inspection-report/en/149338

https://www.ombudsman.europa.eu/en/doc/inspection-report/en/154290

[5] Plašāka informācija par platformu: https://ec.europa.eu/commission/presscorner/api/files/attachment/868811/Future%20of%20Europe%20Conference%20Introducing%20platform.pdf.pdf  

[6] Sk. EDAU un EDAU kopīgo atzinumu par priekšlikumu Mākslīgā intelekta aktam: https://edps.europa.eu/node/7140_en

[7] Sk. FRA´s 2020. gada ziņojumu “Getting the Future Right: mākslīgais intelekts un pamattiesības”, pieejams tīmekļa vietnē: https://fra.europa.eu/sites/default/files/fra_uploads/fra-2020-artificial-intelligence_en.pdf

[8] https://fra.europa.eu/en/publications-and-resources/infographics/fundamental-rights-ai-what-consider

[9] https://www.ombudsman.europa.eu/en/event/en/1438

[10] 2022. gada ENO konferencē Dānijas parlamentārais ombuds ierosināja, ka ombudi jau varētu mēģināt sadarboties ar publiskajām iestādēm jaunu digitālo sistēmu izstrādes posmā, izmantojot MI, lai palīdzētu projektētājiem ņemt vērā juridiskās saistības un labas pārvaldības principus.