Lieta: SI/3/2021/VS

Lietas nosaukums: Mākslīgais intelekts un ES administrācija

Datums: Trešdien, 2021. gada 29. septembrī

Neklātienes sanāksme Briselē

Piedalījās:

Eiropas Komisija

CNECT A2 ĢD nodaļas vadītājs

— DG CNECT A2 MI politikas sektora vadītājs

Komunikācijas tīklu, satura un tehnoloģiju ĢD A2 jurists un politikas speciālists

Juridiskā un politikas asistente, CNECT ĢD A2

Juridiskā asistente, Komunikācijas tīklu, satura un tehnoloģiju ĢD

DIGIT nodaļas vadītājs

- DIGIT grupas vadītājs, datu zinātnieks

- ES politikas programmu vadītājs, DIGIT

JUST ĢD pārstāvis

HOME ĢD pārstāvis

Plānošana un politikas vadība, Cilvēkresursu un drošības ĢD

vecākā eksperte, starpiestāžu attiecību koordinatore, attiecības ar Eiropas Ombudu, izpētes grupa

Ģenerālsekretariāta jurists un politikas speciālists

Administratīvais darbinieks, SG.DPO

ģenerālsekretāra padomnieks

Eiropas ombuds

- Rosita Hickey, izmeklēšanas direktore

Pīters Dirbergs (Peter Dyrberg), izmeklēšanas un procesu eksperts

- Valentina Stoeva, izmeklēšanas speciāliste

- Nicholas Hernanz, izmeklēšanas speciālists

Olatz Fínez Marañón, izmeklēšanas praktikants

Ievešana

Eiropas Ombuda izmeklēšanas direktore Rosita Hickey atklāja sanāksmi, sveicot dalībniekus un pateicoties Eiropas Komisijai par to, ka tā pieņēma uzaicinājumu uz sanāksmi. Sanāksmes mērķis bija apspriest, kā Komisija paredz, ka nesen ierosinātie saskaņotie noteikumi par mākslīgo intelektu (MI) varētu darboties, jo īpaši attiecībā uz ES pārvaldi un publiskās pārvaldes iestādēm kopumā. Viņa norāda, ka šis temats ir nozīmīgs Eiropas Ombudam, kā arī Eiropas ombudu tīklam (ENO), jo īpaši ņemot vērā to, ka valstu ombudi ir izskatījuši sūdzības šajā jomā. Viņa piebilda, ka MI izmantošana publiskās pārvaldes iestādēs ir jautājums, kas rada bažas par pārredzamību un pamattiesību aizsardzību.

Sanāksmē piedalījās dažādu Eiropas Komisijas ģenerāldirektorātu pārstāvji, tostarp CNECT ĢD, DIGIT ĢD, JUST ĢD, HOME ĢD, SG un HR.

Hickey deva vārdu Komisijai, lai tā iepazīstinātu ar savu priekšlikumu Mākslīgā intelekta aktam.

PRIEKŠLIKUMS PAR Mākslīgās intelekta akta priekšlikumu (AIA)

Eiropas Komisija 2021. gada aprīlī pieņēma priekšlikumu pirmajai visaptverošajai regulai par mākslīgo intelektu. Tas bija vairāku gadu sagatavošanas iniciatīvu rezultāts: Komisija 2018. gada aprīlī izklāstīja savu Eiropas mākslīgā intelekta stratēģiju, 2018. gada decembrī nāca klajā ar koordinētu mākslīgā intelekta plānu (sagatavots kopā ar dalībvalstīm) un neilgi pēc tam iecēla augsta līmeņa ekspertu grupu mākslīgā intelekta jautājumos, kura izstrādāja ētikas pamatnostādnes uzticamam mākslīgajam intelektam. Pēc Baltās grāmatas par mākslīgo intelektu publicēšanas 2020. gada februārī notika sabiedriskā apspriešana, kurā dažādas ieinteresētās personas iesniedza vairāk nekā 1200 atbilžu.

MI akta priekšlikuma mērķis ir paredzēt vienotus noteikumus MI sistēmām ES tirgū. Tajā ir ierosināti noteikumi, kas piemērojami visam MI dzīves ciklam, tostarp MI sistēmu laišanai tirgū, nodošanai ekspluatācijā un izmantošanai Savienībā. Tai ir divi galvenie mērķi:

1. novērst riskus drošībai un pamattiesībām

2. izveidot vienotu tirgu uzticamam mākslīgajam intelektam ES

MI akta priekšlikuma mērķis ir nodrošināt inovācijai labvēlīgu un samērīgu uz risku balstītu satvaru, kura mērķis ir izvairīties no pārmērīga regulējuma, vienlaikus nodrošinot juridisko noteiktību sagādātājiem un lietotājiem un stimulējot uzticēšanos tirgum. Tas arī radītu vienlīdzīgus konkurences apstākļus galvenajiem dalībniekiem visā MI vērtības ķēdē neatkarīgi no to izcelsmes (no ES vai trešām valstīm).

Attiecībā uz piemērošanas jomu regula būtu piemērojama:

• publiskā un privātā sektora sagādātāji neatkarīgi no to izcelsmes, laiž tirgū vai nodod ekspluatācijā MI sistēmas Savienībā;
• AI sistēmu lietotājiem, kas atrodas Savienībā;
• citi sagādātāji un lietotāji, ja MI sistēmas radīto iznākumu izmanto Savienībā.

Regula attiecas arī uz ES iestādēm, struktūrām, birojiem un aģentūrām, kad tās darbojas kā MI sistēmu sagādātāji vai lietotāji. Tomēr regula neattiektos uz valsts drošību (principā izslēgta no ES tiesību aktu darbības jomas), MI tikai militāriem mērķiem (divējāda lietojuma MI sistēmām tiktu piemērota regula) un publiskām iestādēm un starptautiskām organizācijām trešās valstīs, kas darbojas saskaņā ar nolīgumiem par tiesībaizsardzības vai tiesu iestāžu sadarbību ar ES vai kādu dalībvalsti.

Priekšlikumā ir definētas MI sistēmas, pamatojoties uz definīciju, kas sniegta ESAO Padomes Ieteikumā par MI ^[1], un ņemti vērā divi kumulatīvi elementi:

• Funkcionālā definīcija: MI ir programmatūra, kurā cilvēks nodrošina mērķu kopumu (nevis tieši noteikumus šo mērķu sasniegšanai), kas rada tādus iznākumus kā saturs, prognozes, ieteikumi vai lēmumi, kuri ietekmē vidi, ar ko tas mijiedarbojas; to programmatūras izstrādes metožu un pieeju saraksts (I pielikums), kas sagrupētas mācību, spriešanas un modelēšanas pieejās.  Šo sarakstu Komisija laika gaitā var atjaunināt, lai ņemtu vērā tehnoloģiju un tirgus attīstību.

MI akta priekšlikumā ir izmantota uz risku balstīta pieeja, kas nozīmē, ka regulatīva iejaukšanās ir nepieciešama tikai tad, kad tas ir nepieciešams atkarībā no riska līmeņa drošībai un pamattiesībām, ko MI sistēma varētu radīt. Priekšlikumā MI sistēmas ir klasificētas četrās kategorijās:

• nepieņemams risks (četras aizliegtas MI prakses: kaitīgas subliminālas manipulācijas; atsevišķu cilvēku neaizsargātības izmantošana; valsts iestāžu veikta sociālā novērtēšana; un reāllaika biometriskā tālidentifikācija tiesībaizsardzības nolūkos sabiedriskās vietās, ievērojot dažus stingri noteiktus izņēmumus),
• augsta riska AI sistēmas (atļautas, bet ar nosacījumu, ka tās atbilst prasībām),
• MI, kas rada noteiktus ar pārredzamību saistītus riskus (atļauts, ievērojot informēšanas pienākumus), un
• MI rada minimālu risku vai nerada to (atļauts bez papildu ierobežojumiem, bet iespējama atbilstība brīvprātīgiem rīcības kodeksiem).

Augsta riska kategorija, kas ietver tiesību akta priekšlikuma galveno daļu, ietver divas galvenās MI sistēmu kategorijas:

1. AI sistēmas, ko paredzēts izmantot kā noteiktu reglamentētu produktu drošības sastāvdaļas (2. pielikums)

2. Dažas savrupas AI sistēmas, ko paredzēts izmantot iepriekš noteiktās jomās (3. pielikumā uzskaitītie īpašie lietojuma gadījumi), tostarp dažas sistēmas cita starpā šādās jomās (visbūtiskākās ombudiem):

• biometriskā tālidentifikācija un kategorizācija;
• nodarbinātība un darba ņēmēju pārvaldība, piekļuve pašnodarbinātībai;
• piekļuvi būtiskiem privātiem pakalpojumiem un sabiedriskiem pakalpojumiem un priekšrocībām un to izmantošanu;
• tiesībaizsardzība;
• migrācija, patvērums un robežkontroles pārvaldība;
• tiesas spriešana un demokrātiskie procesi.

MI akta priekšlikumā ir sīki izklāstītas prasības augsta riska MI sistēmām, proti:

• augstas kvalitātes apmācības, validēšanas un testēšanas datu un datu pārvaldības procedūru izmantošana,
• izstrādāt dokumentāciju par sistēmas un projektēšanas reģistrēšanas funkcijām,
• nodrošinot pienācīgu pārredzamības līmeni un sniedzot lietotājiem informāciju,
• nodrošināt cilvēka virsvadību,
• stabilitātes, precizitātes un kiberdrošības nodrošināšana.

Lai nodrošinātu atbilstību šīm prasībām, lielākā daļa pienākumu tiek uzlikta nodrošinātājam, paredzot vieglākus lietotāju pienākumus, kuru mērķis ir nodrošināt, ka MI sistēmas ir drošas un atbilst pamattiesībām visā to dzīves ciklā.  

1. Pakalpojumu sniedzēja pienākumi:

• jāveic ex ante atbilstības novērtēšana, lai pierādītu atbilstību MI prasībām, pirms sistēmu var laist ES tirgū/nodot ekspluatācijā (pašnovērtējums MI sistēmām, kas uzskaitītas Komisijas priekšlikuma III pielikumā, izņemot biometriskās tālidentifikācijas sistēmas), un iespējama sistēmas atkārtota novērtēšana (būtisku izmaiņu gadījumā);
• savā organizācijā izveido un īsteno kvalitātes vadības sistēmu;
• sagatavo un atjaunina tehnisko dokumentāciju;
• glabā reģistra ierakstus, lai uzraudzītu augsta riska MI sistēmas darbību (ja to atļauj tiesību akti vai lietotājs);
• reģistrēt autonomas MI sistēmas publiskā ES datubāzē;
• uzliek CE zīmi un paraksta atbilstības deklarāciju;
• veikt uzraudzību pēc laišanas tirgū un veikt korektīvus pasākumus;
• ziņo tirgus uzraudzības iestādēm par nopietniem incidentiem un darbības traucējumiem, kas var radīt riskus pamattiesībām;
• sadarboties ar tirgus uzraudzības iestādēm.

2. Lietotāja pienākumi:

• ekspluatēt AI sistēmas saskaņā ar lietošanas instrukcijām;
• nodrošināt cilvēka virsvadību MI sistēmu izmantošanā (būtiski publiskajām iestādēm);
• uzraudzīt darbību attiecībā uz iespējamiem riskiem;
• informē pakalpojumu sniedzēju vai izplatītāju par visiem nopietniem incidentiem vai darbības traucējumiem;
• izmantot pakalpojumu sniedzēja sniegto informāciju novērtējumam par ietekmi uz datu aizsardzību (attiecīgā gadījumā);
• lietotājiem joprojām ir spēkā esošie juridiskie pienākumi.

Lai jo īpaši novērstu nepārredzamību un nodrošinātu pārredzamību plašākai sabiedrībai, ierosinātajā AIA ir iekļauti noteikumi par:

1. Augsta riska AI sistēmu pārredzamība un izsekojamība (11.-13. pants)

2. Kompetento uzraudzības iestāžu piekļuves tiesības (64. pants)

3. pārredzamība attiecībā uz skartajiem cilvēkiem (cilvēki ir jāinformē, ja viņi izmanto noteiktas MI sistēmas, tostarp, ja tās nav klasificētas kā augsta riska sistēmas) (52. pants)

4. publiskā pārraudzība: ES mēroga publiski pieejama atsevišķa augsta riska MI datubāze (60. pants).

Attiecībā uz to, kā priekšlikums risina diskriminācijas riskus un riskus citām pamattiesībām, Komisija paskaidroja, ka MI akta priekšlikums atvieglotu spēkā esošo ES un valstu līdztiesības tiesību aktu īstenošanu un tādējādi līdz minimumam samazinātu risku gadījumos, kad var būt iesaistītas “augsta riska MI sistēmas”. Šajā nolūkā tajā ir paredzētas prasības un attiecīgie pienākumi, lai nodrošinātu:  

1. riska pārvaldības sistēmu ieviešana

2. augstas kvalitātes datu kopas

3. cilvēka virsvadība

4. precizitāte un robustums

5. pasākumi, kas ļauj izsekot un pierādīt pamattiesību pārkāpumus.

Akta pārvaldības struktūras pamatā ir sistēma, kas aptver valsts un ES līmeni. Valsts līmenim būtu būtiska nozīme izpildes panākšanā ar valsts tirgus uzraudzības iestāžu starpniecību. ES līmenī tiktu koordinēta īstenošana un informācijas apmaiņa, izmantojot ES MI padomi (Komisija darbotos kā padomes sekretariāts). Eiropas Datu aizsardzības uzraudzītājs (EDAU) būtu ES iestāžu, biroju, struktūru un aģentūru tirgus uzraudzības iestāde. Tiktu izveidota arī Komisijas ekspertu grupa tehnisku un zinātnisku konsultāciju sniegšanai, kurā būtu pārstāvētas visas attiecīgās ieinteresētās personas (pilsoniskā sabiedrība, akadēmiskās aprindas, uzņēmumi utt.).

Eiropas MI padomes uzdevumi būtu šādi:

• veicināt tiesiskā regulējuma konsekventu piemērošanu dalībvalstīs;
• veicina tirgus uzraudzību;
• apkopot paraugpraksi un apmainīties ar to;
• veicināt standartu / MI politikas izstrādi;
• sniegt konsultācijas par MI jautājumiem.

MI akta priekšlikumā ir iekļauti jauni mehānismi sadarbībai un pilnvaras publiskajām iestādēm, kas atbild par pamattiesību uzraudzību (piemēram, līdztiesības iestādēm, datu aizsardzības iestādēm, ombudu birojiem utt.):

• pieprasīt piekļuvi visiem dokumentiem, kas tiek glabāti saskaņā ar šo regulu, ja tas ir nepieciešams viņu pienākumu veikšanai saskaņā ar viņu pilnvarām;
• pieprasīt augsta riska MI sistēmu kopīgu testēšanu, kas jāorganizē tirgus uzraudzības iestādēm;
• saņemt informāciju, ja tirgus uzraudzības iestādēm ir aizdomas, ka MI sistēma rada risku pamattiesībām;
• saņemt informāciju no tirgus uzraudzības iestādēm par ziņotajiem augsta riska MI sistēmu darbības traucējumiem, kas ir Savienības vai valsts tiesību aktos noteikto pamattiesību pienākumu pārkāpums.

Komisija sniedza pārskatu par turpmākajiem pasākumiem. Priekšlikums pašlaik tiek apspriests Padomē un Eiropas Parlamentā. Pēc pieņemšanas būtu divu gadu pārejas periods, pēc kura AIA būtu jākļūst tieši piemērojamam kopumā un obligātam operatoriem pēc divu gadu pārejas perioda pēc tā stāšanās spēkā. Vienlaikus Eiropas standartizācijas organizāciju (CEN/CENELEC, ETSI) izstrādātajiem saskaņotajiem standartiem vajadzētu būt gataviem un atbalstīt operatorus jauno prasību un atbilstības novērtēšanas procedūru praktiskajā īstenošanā.

Jautājumi un atbildes

Eiropas Ombuda (EO) komanda izvirzīja jautājumu par valsts iestāžu uzdevumiem pamattiesību uzraudzībā. Komisijas pārstāvji atbildēja, ka dalībvalstis var brīvi izraudzīties attiecīgās tirgus uzraudzības iestādes, kas var būt arī iestādes, kuras īsteno pamattiesību uzraudzību (Komisija īpaši minēja datu aizsardzības iestādes). Turklāt valstu publiskās iestādes vai struktūras, kas uzrauga vai panāk, ka tiek ievēroti pienākumi saskaņā ar Savienības tiesību aktiem, kuri aizsargā pamattiesības, varētu pieprasīt piekļuvi jebkādai dokumentācijai, kas izveidota vai tiek uzturēta saskaņā ar MI aktu un kas tām ļautu pilnībā pildīt savus uzdevumus. Būs arī jaunas iespējas MI sistēmu kopīgai testēšanai un informācijas apmaiņai ar tirgus uzraudzības iestādēm.

Katrai dalībvalstij būtu jānosaka pamattiesību uzraudzības iestādes un jādara iestāžu saraksts publiski pieejams. Par tiem būtu jāpaziņo arī Komisijai un visām pārējām dalībvalstīm.

I. Ombuda iestāžu un citu pārraudzības struktūru darbs

1. Ombuda iestāžu kopienā jautājumi, kas saistīti ar MI izmantošanu, var radīt problēmas to izmeklēšanas spējai un negatīvi ietekmēt iedzīvotāju spēju iesniegt sūdzības (piemēram, iedzīvotāji neapzinās, ka MI tiek izmantots, un tāpēc nevar savā sūdzībā izklāstīt šo aspektu). Tiek arī uzskatīts, ka, saskaroties ar problēmām, ko rada MI izmantošana, dažādām pārraudzības struktūrām vajadzētu būt gatavām sadarboties un ka noteikumi būtu jāpārskata, lai atvieglotu šo kopīgo darbu [2]. ^Vai šī pieredze / šīs problēmas ir jebkādā veidā ņemtas vērā Komisijas līdzšinējā domāšanā?

Komisijas pārstāvji bija vienisprātis, ka pastāv pamatotas bažas par MI izmantošanu un tā iespējamo negatīvo ietekmi uz iedzīvotāju spēju iesniegt sūdzības. Komisija norādīja, ka tas ir viens no šā likuma pamatā esošajiem iemesliem. Regulai būtu pilnībā jādod iedzīvotājiem iespējas izmantot savas tiesības.

Saskaņā ar AIA dalībvalstis varētu noteikt ombuda birojus kā valsts struktūras, kas uzrauga pamattiesību aizsardzību un tādējādi izmanto tiesības piekļūt dokumentiem un jaunus mehānismus sadarbībai ar tirgus uzraudzības iestādēm. Komisija atzinīgi vērtē jebkādus turpmākus ierosinājumus par regulas īstenošanu. Regula ietver dažāda veida pārredzamības noteikumus, piemēram, attiecībā uz cilvēkiem, kuri saskaras ar noteiktām MI sistēmām, lai viņi zinātu, kad mijiedarbojas ar MI sistēmu. Šie pārredzamības pienākumi papildina pienākumus, kas noteikti spēkā esošajos tiesību aktos, piemēram, patērētāju aizsardzības vai datu aizsardzības tiesību aktos ES un valstu līmenī.

2. Vai Komisija varētu sniegt dažus piemērus par MI darbināmiem rīkiem, ko pašlaik izmanto vai plāno valstu publiskās pārvaldes iestādes un kas ietekmēs iedzīvotājus un var izraisīt saņemto sūdzību skaita pieaugumu?

Dažās valstu pārvaldes iestādēs tiek izmantots mākslīgais intelekts, tostarp sarežģītākas metodes. Ņemot vērā attiecīgo izmantošanas gadījumu vispārējo sensitivitāti, tie bieži vien kļūst publiski zināmi pēc kāda laika pēc īstenošanas. Ņemot vērā publiski pieejamās informācijas trūkumu, ne vienmēr ir pilnīgi skaidrs, vai algoritms patiešām ir MI sistēma vai tradicionāla programmatūra, kuras radītie iznākumi ir cilvēku iepriekš skaidri definētu noteikumu tiešs rezultāts.

Ar šiem diviem brīdinājumiem Komisija sniedza trīs ilustratīvus piemērus tam, kā publiskās pārvaldes iestādes izmanto ar MI darbināmus rīkus.  

Nīderlande

Nīderlandes Sociālo lietu un nodarbinātības ministrija 2014. gadā izstrādāja riska aprēķināšanas modeli Systeem Risico Indicatie (SyRI), lai prognozētu iespējamību, ka persona varētu iesaistīties pabalstu izsniegšanā un krāpšanā nodokļu jomā, kā arī darba tiesību pārkāpumos. SyRI izmantoja mākslīgo intelektu, lai meklētu dažādās valdības datubāzēs, kurās ir personas dati. Cilvēktiesību organizācijas pauda bažas par to, ka sistēma ir nesamērīgi vērsta uz rajoniem ar zemiem ienākumiem. Nīderlandes tiesa 2020. gada februārī aizliedza sistēmu, jo valdība nebija pietiekami pārredzama attiecībā uz algoritmu darbību ^[3].

Spānija

2017. gadā Spānijas Zaļās enerģijas pārkārtošanās ministrija izmantoja ar mākslīgo intelektu darbināmu programmatūru BOSCO, kas izskata pieteikumus par sociālo prēmiju, ko Spānijas valdība piešķīrusi nabadzīgām mājsaimniecībām par to elektroenerģijas rēķiniem. BOSCO darbības traucējumu dēļ vairāk nekā pusmiljonam pieteikuma iesniedzēju tika noraidīts viņu pieprasījums pēc sociālās piemaksas, lai gan viņi atbilda prasībām finansiālā atbalsta saņemšanai. Spānijas administrācija atteicās kopīgot programmatūras pirmkodu, apgalvojot, ka tas būtu intelektuālā īpašuma tiesību pārkāpums, pat ja tas būtu publiski izmantojams. Tā rezultātā glitches nevarēja atrast. Visbeidzot, Spānijas tiesa nolēma, ka kodekss ir jāpublisko ^[4].

Beļģija

2018. gadā Flandrijā vairākas pilsētas sāka organizēt skolas reģistrāciju, izmantojot centrālu tiešsaistes sistēmu, kas izmanto algoritmu, lai izlemtu, kurā skolā bērnu var reģistrēt. Lai izvairītos no sociālās segregācijas dažādās skolās, Lēvenes pilsēta algoritmā ieviesa mainīgo lielumu kopumu: pamatojoties uz vecāku sniegtajām atbildēm uz virkni jautājumu, kas saistīti ar mātes izglītības līmeni un to, vai students saņem stipendiju, studenti tika iedalīti “rādītāju skolniekos” (definēti kā tādi, kuriem ir mazāk izredžu dzīvē) un “studentos, kas nav rādītāju skolnieki”. Vēl viens mainīgais bija attālums no mājām līdz skolai. Sistēma izslēdza lielu skaitu skolēnu, un algoritms parādīja trūkumus, jo tas nejauši novietoja skolēnus skolās tālu no viņu mājām.

II. Pārredzamība

1. Kādi ir paredzētie pārredzamības pienākumi saskaņā ar ierosināto MI aktu un kā tie attiektos uz ES iestādēm, kad tās darbojas kā MI sistēmas nodrošinātājs vai lietotājs? Kāda ir atšķirība starp priekšlikumā noteiktajiem pārredzamības pienākumiem un VDAR noteikto pienākumu informēt lietotājus par automatizētas lēmumu pieņemšanas (profilēšanas) rīkos ietverto loģiku?

Viens no galvenajiem Mākslīgā intelekta akta mērķiem ir novērst MI sistēmu necaurredzamību to iekšējā darbā un attiecībā uz lietotājiem un cilvēkiem, kurus skar šīs sistēmas, kā arī kompetentajām uzraudzības iestādēm. Sīkāku informāciju skatīt iepriekš prezentācijā par attiecīgajām pārredzamības prasībām.

Attiecībā uz mijiedarbību ar VDAR ierosinātais AIA neierobežo tiesības, ko VDAR piešķir tās 22. pantā un kas ir pilnībā piemērojamas. Cilvēki būtu jāinformē, ja tiek izmantotas tikai automatizētas lēmumu pieņemšanas sistēmas ar juridiskām un līdzīgi nozīmīgām sekām. Šīs tiesības tiks veicinātas ar ierosināto MI aktu. Nodrošinot, ka MI sistēmu darbība ir izsekojama un pārredzama “integrēti”, AIA veicinātu atbilstību datu aizsardzības pienākumiem attiecībā uz skaidrošanu, cilvēka iejaukšanos un skarto cilvēku tiesībām uz tiesisko aizsardzību saskaņā ar esošajiem mehānismiem, tostarp datu aizsardzības tiesību aktiem.

2. Vai ir iespējams sniegt norādi par procesu un darbību veidiem, kuriem Komisija kā administrācija pašlaik izmanto MI, un kādi ir Komisijas plāni šajā sakarā?

Komisija paskaidroja, ka attiecībā uz MI iekšējiem lietojumiem tas joprojām ir izpētes posmā. Komisija pēta MI, kas varētu palīdzēt politikas veidošanas procesos vai Komisijas vispārējā darbībā. E-tulkošana ir viena no jomām, kas interesē un izmanto. Piemēram, konferences par Eiropas nākotni platformā ir tulkošanas rīks ^[5]. Lietotāji tiek informēti par to, ka viņi izmanto mākslīgo intelektu. Virtuālos asistentus (tērzēšanas robotus) nākotnē varētu izmantot arī iekšējai un ārējai mijiedarbībai. Piemēram, Eurostat to apsver saistībā ar statistikas informāciju. Vēl viena joma, kas tiek apsvērta, ir mākslīgā intelekta atbalstīta progresīva analītika, piemēram, lai analizētu atsauksmes par politiku, ko iedzīvotāji snieguši portālā “Izsakiet viedokli” (piemēram, Komisija norādīja, ka ir saņēmusi 4 miljonus atbilžu sabiedriskajā apspriešanā par “vasaras laiku”). Saskaņā ar gaidāmajiem pienākumiem, kas izriet no ierosinātā MI akta, Komisija jau ir sākusi izstrādāt rīcības kodeksu un pamatnostādnes MI izstrādei un izmantošanai Komisijā.

Citi plāni ietver rīku krāpniecībai tīmeklī, kas ļautu Komisijai apkopot informāciju no tīmekļa par to, kā tiek piemērota ES politika. Tiešsaistes tirdzniecības vietu sagrābšana tīmeklī, kā arī kameru atpazīšanas programmatūras izmantošana arī nākotnē varētu palīdzēt atklāt un novērst bīstamu ražojumu ievešanu ES.

Komisija apsver arī MI izmantošanu cilvēkresursu pārvaldības jomā. Tas joprojām ir ļoti agrīnā stadijā. Interese ir izmantot MI darbā pieņemšanas procesos (piemēram, MI ļautu saskaņot darba aprakstus ar pieteikuma iesniedzēju CV). Šis projekts joprojām ir pētniecības posmā. Pastāv izpratne par neobjektivitāti, ko varētu radīt MI izmantošana šāda veida scenārijos. Eiropas Personāla atlases birojs (EPSO) arī pēta, kā MI varētu izmantot tā darbā un procesos.

3. Kā saskaņā ar Mākslīgā intelekta aktu tiek nodrošināta iedzīvotāju perspektīva un līdzdalība?

Galvenā garantija šajā sakarā ir tāda, ka ierosinātajā MI aktā ir noteikts, ka nodrošinātājiem ir jāinformē iedzīvotāji, kad viņi nodarbojas ar MI (PI 52. pants), un iedzīvotāji var arī piekļūt publiski pieejamai informācijai par visām augsta riska MI sistēmām, kas laistas vai nodotas ekspluatācijā ES tirgū (PI 60. pants). Turklāt, ja un kad iedzīvotāji ir augsta riska MI sistēmu lietotāji, nodrošinātājam viņiem ir jāsniedz sīkāka informācija par sistēmas spējām un ierobežojumiem, tostarp informācija par visiem iespējamiem riskiem.

Turklāt, ja iedzīvotāji uzskata, ka MI sistēma ir pārkāpusi viņu tiesības, viņi var iesniegt sūdzību tirgus uzraudzības iestādēm un/vai iestādēm, kuras viņi jau zina, piemēram, datu aizsardzības iestādēm, patērētāju aizsardzības iestādēm, diskriminācijas novēršanas iestādēm, ombudiem utt. Šīs iestādes pēc tam var pieprasīt piekļuvi visai attiecīgajai informācijai par augsta riska MI sistēmu. Iedzīvotāju priekšrocība ir tā, ka viņiem nav jāvēršas pie jaunām un nezināmām iestādēm un ka pastāv integrēta pieeja viņu bažām, savukārt kompetentās iestādes var analizēt MI, ja nepieciešams, pat iekļaujot pirmkodu.

ES līmeņa pārvaldības sistēmas ietvaros Komisija arī plāno izveidot ekspertu grupu, kurā cita starpā ietilptu pilsoniskās sabiedrības organizācijas, kas pārstāv iedzīvotājus un viņu intereses.

III. Laba pārvaldība

1. ES administrācija kā MI lietotājs. Vai ir iespējams sniegt norādes par lietotājiem paredzēto pienākumu veidiem un to saikni ar labas pārvaldības principiem?

Precizitāte, izsekojamība, pārskatatbildība, efektīva cilvēka virsvadība, datu aizsardzība utt. ir principi, kas ir saistoši ES administrācijai un kuru īstenošanu ierosinātā MI akta mērķis ir veicināt praksē.

ES administrācija var būt gan MI sistēmu sagādātāja, gan lietotāja.

Ja ES iestādes, struktūras, biroji un aģentūras izstrādā sistēmas iekšēji (nevis “nopērk tās no plaukta kā gatavu produktu” no tirgus), ES administrācija tiks uzskatīta par “pakalpojumu sniedzēju”, kad šīs sistēmas tiks nodotas ekspluatācijā savām vajadzībām. Tam attiecīgi būtu jāatbilst III sadaļas II nodaļas prasībām (riska pārvaldība, datu kvalitāte, izsekojamība, pārredzamība, cilvēka virsvadība utt.) un jāveic atbilstības novērtēšanas procedūras, pamatojoties uz iekšējām pārbaudēm (neiesaistot trešās personas, izņemot biometriskos datus). Ir piemērojami arī attiecīgie procesuālie pienākumi, piemēram, pienākums ieviest kvalitātes pārvaldības sistēmu un sistēmu uzraudzībai pēc laišanas tirgū, glabāt dokumentāciju un žurnālus, ziņot par darbības traucējumiem, kas izraisa pamattiesību pienākumu pārkāpumus, utt.

Ja publiskā iestāde sistēmu neizstrādā iekšēji, bet pērk to “ārpus plaukta”, tā būtu tikai lietotājs, kas īsteno varu pār MI sistēmas izmantošanu, un tai būtu jāizpilda visi no tā izrietošie pienākumi (piemēram, saistībā ar priekšlikuma 5. pantā aizliegto praksi, pārredzamības pienākumi pret skartajām personām saskaņā ar 52. pantu). Attiecībā uz augsta riska MI sistēmām lietotājiem ir arī jauni horizontāli pienākumi:

• ievērot lietošanas instrukcijas un īstenot efektīvu cilvēka virsvadību (kas ir īpaši svarīgi publiskajām iestādēm, lai nodrošinātu to darbību pārskatatbildību un likumību);
• nodrošina, ka ievades dati ir relevanti, ņemot vērā augsta riska MI sistēmai paredzēto nolūku;
• uzrauga darbību un, ja izmantošanas rezultātā MI sistēma var radīt risku pamattiesībām, informē sagādātāju vai izplatītāju un aptur sistēmas izmantošanu;
• glabā minētās augsta riska MI sistēmas automātiski ģenerētās žurnāldatnes;
• attiecīgā gadījumā izmantot pakalpojumu sniedzēja sniegto informāciju, lai izpildītu savu pienākumu veikt novērtējumu par ietekmi uz datu aizsardzību saskaņā ar VDAR/Tiesībaizsardzības direktīvu (LED).

Visi šie pienākumi palīdzēs publiskajām iestādēm (neatkarīgi no tā, vai tās sistēmu izstrādā iekšēji vai pērk to no tirgus) izpildīt savus pašreizējos pienākumus saskaņā ar publiskajām administratīvajām tiesībām un labas pārvaldības principiem. Pienākumiem būtu jāpalīdz nodrošināt pārskatatbildību par to, kā tie izmanto augsta riska MI sistēmas, pamato savus uz MI balstītos administratīvos lēmumus ar pārredzamākām un izskaidrojamākām sistēmām un izmanto tikai pārbaudītas un validētas sistēmas neobjektivitātes, precizitātes un drošības jomā, uz kurām attiecas jēgpilna cilvēka virsvadība un pastāvīga pamattiesību risku uzraudzība. Šie pienākumi un prasības arī palīdzētu uzraudzības iestādēm atklāt, izmeklēt un sodīt pamattiesību pārkāpumu gadījumus, kad augsta riska MI sistēmas izmanto publiskās iestādes un citi lietotāji.

2. Vai Komisija ir informēta par jebkādiem ar MI darbināmiem rīkiem, ko izmanto Komisija vai citas ES aģentūras vai struktūras, piemēram, cilvēkresursu/personāla jautājumos, EPSO/darbā pieņemšanas vai robežu uzraudzības jomā (Frontex, EASO, eu-LISA), kas nākotnē varētu izraisīt vairāk sūdzību?

Pašlaik Komisijas cilvēkresursu dienestos MI nav ieviests. Pašlaik tie ir izpētes/pētniecības posmā. Tomēr notiek dažas sākotnējas neformālas diskusijas par MI iespējamo izmantošanu darbā pieņemšanas procesos. EPSO arī pēta, kā MI varētu izmantot atlases procedūrās.

Attiecībā uz MI, ko izmanto ES aģentūras iekšlietu jomā, skatīt atbildi turpmāk.

3. Vai ir plānots izmantot ar MI darbināmus sarunbotus vai automatizētus balss kontrolētus asistentus ES iestāžu, struktūru vai aģentūru līmenī, lai palielinātu iedzīvotāju pieprasījumu apstrādes efektivitāti (piemēram, Europe Direct)?

Pašlaik tiek īstenoti divi projekti, kuros iesaistīts Komisijas Komunikācijas ģenerāldirektorāts (COMM ĢD). Pirmais ir par mijiedarbību ar iedzīvotājiem sociālajos medijos. MI sniegs atbalstu sociālo mediju darbiniekiem aizkulisēs. Otrais projekts kopā ar Europe Direct paredz izveidot zināšanu repozitoriju, kurā apkopota informācija, kas darbiniekiem vajadzīga, lai atbildētu iedzīvotājiem, jo īpaši sasaistot un izgūstot informāciju, kas varētu būt svarīga. AI varētu izmantot attiecīgajā klasifikācijā.

Komisija arī norādīja, ka Frontex, EASO un eu-LISA darbojas saskaņā ar saviem noteikumiem un var izmantot noteiktus MI rīkus, kas atļauti to pilnvarās. Uz aģentūrām attiecas stingras uzraudzības sistēmas attiecībā uz datu aizsardzību. Piemēram, EASO izmanto agrīnās brīdināšanas un sagatavotības sistēmu. Frontex veic riska profilēšanu, piemēram, attiecībā uz kuģiem. eu-LISA ir aģentūra, kas atbild par iekšlietu datubāzēm. Tā plāno uzlabot datubāzu veiktspēju, izmantojot MI, jo īpaši ceļotājiem, kuri izmanto Šengenas Informācijas sistēmu, palielinot biometrisko datu precizitāti. eu-LISA stingri aprobežojas ar datubāzu uzturēšanu, tai atšķirībā no dalībvalstu iestādēm pie robežām nav tiešas mijiedarbības ar personām. Komisija paskaidroja, ka viedrobežu vārti izmanto MI, lai pārbaudītu personas identitāti. Ir plānots robežpārbaudēs izmantot dziļās mācīšanās spējas attiecībā uz biometriskajiem datiem. Tas nav nekas jauns; tā ir izmantota kopš Vīzu informācijas sistēmas stāšanās spēkā 2011. gadā. Komisija norādīja, ka tā nav saņēmusi nekādas sūdzības par sistēmas izmantošanu. MI tehnoloģijas būtiski palīdz uzlabot sistēmu datu precizitāti. Komisija ir secinājusi, ka MI rīki palīdz uzlabot pamattiesības šādās situācijās.

IV. Pamattiesības

1. Tiesības uz labu pārvaldību ir pamattiesības. Kādas ex ante un ex post kontroles attiecībā uz pamattiesību ievērošanu ir paredzētas MI aktā?  Kāda ir saistība starp ex ante un ex post kontroli?

MI akts paredz ex ante (pirms augsta riska MI sistēmas laišanas tirgū/nodošanas ekspluatācijā) un ex post izpildes apvienošanu.

Ex ante atbilstības novērtēšanas procedūras ir obligātas augsta riska MI sistēmām saskaņā ar procedūrām, kas jau izveidotas saskaņā ar spēkā esošajiem jaunā tiesiskā regulējuma (JTR) tiesību aktiem par produktu drošumu. Nodrošinātājam būtu jāpierāda atbilstība augsta riska MI prasībām, kas uzskaitītas AIA 9.–16. pantā. Ex ante novērtējums (izmantojot iekšējās pārbaudes vai iesaistot trešo personu) ir sadalīts pēc risku veida un mijiedarbības līmeņa ar spēkā esošajiem ES tiesību aktiem par produktu drošumu — II pielikums ir pakļauts trešās personas veiktam atbilstības novērtējumam un III pielikums ir pakļauts pašnovērtējumam (izņemot biometriskās tālidentifikācijas (RBI) sistēmas). Attiecībā uz III pielikumā minētajām sistēmām nodrošinātājam būtu arī jāreģistrē savrupas augsta riska MI sistēmas ES datubāzē, ko pārvaldītu Komisija, un tas uzlabos pārredzamību. Turklāt jebkurā no šiem gadījumiem būtu nepieciešama atkārtota atbilstības novērtēšana, ja AI sistēmas tiek būtiski pārveidotas.

Dalībvalstu izraudzītās valsts kompetentās iestādes izveidos tirgus uzraudzības ex post sistēmu. To uzdevums būtu ex post kontrolēt tirgu un izmeklēt atbilstību pienākumiem un prasībām attiecībā uz visām augsta riska MI sistēmām, kas jau ir laistas tirgū. Aizliegumi saskaņā ar 5. pantu un pārredzamības pienākumi saskaņā ar 52. pantu arī tiks izpildīti ex post. Tirgus uzraudzības iestādēm būtu visas pilnvaras saskaņā ar Regulu (ES) 2019/1020 par tirgus uzraudzību ^[6], tostarp pilnvaras: veikt turpmākus pasākumus saistībā ar sūdzībām par riskiem un neatbilstību; veikt AI sistēmu pārbaudes un revīzijas uz vietas un attālināti; pieprasīt dokumentāciju, tehniskās specifikācijas un citu būtisku informāciju no visiem operatoriem visā vērtības ķēdē; pieprasīt visiem attiecīgajiem operatoriem veikt korektīvus pasākumus, lai novērstu riskus, vai, ja neatbilstība vai risks turpinās, aizliegt vai uzdot to izņemt no tirgus/atsaukt no tirgus/nekavējoties apturēt izmantošanu; piemērot sankcijas par pienākumu nepildīšanu.

2. Kā priekšlikums nodrošina, ka nepastāv diskriminācijas aizspriedumi vai algoritmiska diskriminācija, jo īpaši dzimuma un etniskās piederības dēļ?

 Ierosinātais MI akts ietver dažādas prasības augsta riska MI sistēmām attiecībā uz datu kvalitāti un datu pārvaldības procedūrām (projektēšanas izvēles un pieņēmumi, marķējums, datu nepilnību novērtējums, neobjektivitātes pārbaude utt.). Datu kopām, ar kurām sistēma tiek izstrādāta un testēta, vajadzētu būt reprezentatīvām, atbilstīgām, pilnīgām un precīzām, un tajās būtu jāiekļauj to personu attiecīgie statistiskie raksturlielumi, attiecībā uz kurām sistēmu paredzēts izmantot (likuma 10. pants). Pakalpojumu sniedzējam būtu arī jāizveido riska pārvaldības sistēma, tostarp obligāta iepriekšēja testēšana, lai novērstu diskriminācijas risku, ņemot vērā sistēmas paredzēto nolūku. Tas novērsīs neobjektivitāti un diskrimināciju. Tiks noteikti standarti datu kopu pārbaudei, lai palīdzētu pakalpojumu sniedzējiem pierādīt atbilstību šīm jaunajām prasībām.

Turklāt būtu nepieciešama izsekojamība un dokumentācija, lai varētu izsekot MI sistēmu rezultātiem. Precizitātes prasības prasīs pārbaudīt un validēt sistēmu, ko tā uzticami veic dažādās demogrāfiskajās grupās, un izmantoto rādītāju pārredzamību. Visbeidzot, pārredzamības un cilvēka virsvadības prasības palīdz augsta riska MI sistēmu lietotājiem identificēt diskriminācijas risku un veikt atbilstošus pasākumus tā novēršanai. Šai cilvēka virsvadībai būtu jānovērš visi sistēmas ierobežojumi un arī jāizvairās no “novirzes automatizācijas”, kad persona automātiski paļaujas uz sistēmas iznākumu.  Lietotājiem būs arī pastāvīgi jāuzrauga sistēma un jāziņo par visiem darbības traucējumiem, kas var izraisīt pamattiesību pārkāpumu, tostarp diskrimināciju.

Šīs prasības tiks novērtētas visā augsta riska MI sistēmu dzīves ciklā.

V. Eiropas Mākslīgā intelekta padome

Pašreizējais priekšlikums ir izveidot padomi, kurā būtu dalībvalstu un EDAU pārstāvji un kuru vadītu Komisija, lai:

- veicināt regulas saskaņotu īstenošanu;

- sniegt norādījumus Komisijai;

- veicināt valstu uzraudzības iestāžu efektīvu sadarbību;

Vai Komisija varētu sniegt sīkāku informāciju par šīs jaunās struktūras izveidi, mērķiem un paredzēto darbību?

Eiropas MI padomes mērķis ir papildināt īstenošanu valsts līmenī, darbojoties kā ES padomdevējai struktūrai un platformai apmaiņai starp dalībvalstīm. Šajā nolūkā tā būtu atbildīga par vairākiem uzdevumiem, tostarp paraugprakses apkopošanu un apmaiņu starp dalībvalstīm un ieguldījumu atzinumu, ieteikumu, padomu vai norādījumu sniegšanā jautājumos, kas saistīti ar regulas īstenošanu.

Komisija darbotos kā padomes priekšsēdētājs un sekretariāts, būtu atbildīga par sanāksmju sasaukšanu un darba kārtības sagatavošanu, kā arī sniegtu administratīvu un analītisku atbalstu. Kolēģijas sastāvā būtu augsta līmeņa pārstāvji no katras dalībvalsts uzraudzības iestādes, EDAU un Komisijas pārstāvis kā priekšsēdētājs.

MI padomes sastāvam būtu jānodrošina jēgpilna informācijas apmaiņa starp un ar valstu iestādēm, kuras savā ikdienas darbā novēro MI sistēmu darbību un ietekmi. Kolēģijas locekļi sniegs ieskatu par to, kā mākslīgais intelekts var ietekmēt iedzīvotājus un kā reaģēt regulatīvā līmenī. Pilsoņiem būtu jāgūst labums no paraugprakses, norādījumu un ieteikumu apmaiņas. Tas nodrošinātu, ka Eiropā tiek piemērota pēc iespējas labākā un saskaņotākā pieeja.

Par iekšējo darbību lemtu pati padome, jo tā izstrādātu un pieņemtu savu reglamentu. Tie ietvertu arī darbības aspektus, kas saistīti ar tās uzdevumu izpildi. Valde var brīvi izstrādāt savu iekšējo struktūru un var arī izveidot apakšgrupas konkrētiem tematiem un jautājumiem.

Kā papildu darbību (kas pašlaik nav paredzēta regulā) Komisija ir iecerējusi īstenošanas procesā izveidot neatkarīgu ekspertu grupu. Ekspertu grupas sastāvā būtu eksperti, kurus Komisija pieņem darbā un atalgo, lai vajadzības gadījumā nodrošinātu padomei un Komisijai papildu speciālās zināšanas.

Secinājums

EO pārstāvji pateicās Komisijas pārstāvjiem par kopīgoto informāciju, tostarp par spēka punktu prezentāciju, kas būs pieejama ENO.

Briselē, 2021. gada 29. septembrī

Rosita Hickey Valentīna Stoeva

Izmeklēšanas darbinieka direktors

 

[1] https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449.

[2] Ombudu ziņojumi:

https://www.nationaleombudsman.nl/nieuws/onderzoeken/the-citizen-is-not-a-dataset

https://www.defenseurdesdroits.fr/sites/default/files/atoms/files/synth-algos-en-num-16.07.20.pdf

https://bcombudsperson.ca/guide/getting-ahead-of-the-curve/

[3] https://www.theguardian.com/technology/2020/feb/05/welfare-surveillance-system-violates-human-rights-dutch-court-rules

Pilns sprieduma teksts angļu valodā: https://uitspraken.rechtspraak.nl/inziendocument?id=ECLI:NL:RBDHA:2020:1878

[4] Lieta ir minēta šajā pantā (spāņu valodā): https://derecholocal.es/opinion/control-judicial-de-los-algoritmos-robots-administracion-y-estado-de-derecho. Skatīt arī šo rakstu: "Tiesiskuma apstākļos demokrātiskā valstī nekad nedrīkst pieļaut valdīšanu, izmantojot slepenus pirmkodus vai algoritmus" | Civio

Pirms vēršanās tiesā lieta tika iesniegta Consejo de Transparencia y Buen Gobierno- CTBG (Pārskatāmības un labas pārvaldības padome). Tās lēmums par šo jautājumu tika publicēts 2019. gada februārī: https://www.consejodetransparencia.es/ct_Home/Actividad/recursos_jurisprudencia/Recursos_AGE/2019/128_particular_35.html

[5] https://futureu.europa.eu/?locale=en

[6] Eiropas Parlamenta un Padomes Regula (ES) 2019/1020 (2019. gada 20. jūnijs) par tirgus uzraudzību un produktu atbilstību un ar ko groza Direktīvu 2004/42/EK un Regulas (EK) Nr. 765/2008 un (ES) Nr. 305/2011.