Naslov zadeve: Kako Izvajalska agencija Evropskega sveta za inovacije ter za mala in srednja podjetja (EISMEA) in Evropska komisija zagotavljata, da je uporaba umetne inteligence s strani zunanjih strokovnjakov združljiva z njihovimi nalogami ocenjevalcev vlog za sredstva programa Obzorje

Datum: Ponedeljek, 23. marec 2026

Srečanje na sedežu GD za raziskave in inovacije

Prisotni 

Evropska komisija

• Vodja sektorja za pritožbe in spore. GD RTD.H1. Skupna služba za pravno podporo (CLSS)

• pravnik, GD RTD.H1. CLSS

• Upravni asistent, GD RTD.H1. CLSS

• Politični analitik, REGIO.G1 

• Pravni uradnik, REGIO.B4

Izvajalska agencija Evropskega sveta za inovacije ter za mala in srednja podjetja (EISMEA)

• Pravna ekipa vodje ekipe, EISMEA.Team.C-pravna ekipa

• Pravni vodja, EISMEA.Team.C-Legal

• Pravni svetovalec, EISMEA.Team.C-Legal

Evropski varuh človekovih pravic:

• Tanja EHNERT, koordinatorka za poizvedbe 

• Michał KRAJEWSKI, preiskovalec

• José Luis da MOTA FLORES, Povpraševanje praktikant

Namen pregleda dokumentov in sestanka 

Varuhinja človekovih pravic je začela preiskavo o tem, kako EISMEA in Komisija zagotavljata, da je uporaba orodij umetne inteligence tretjih oseb s strani zunanjih strokovnjakov, najetih za ocenjevanje predlogov za financiranje EU, združljiva z njihovimi nalogami ocenjevalcev. Namen sestanka je bil, da preiskovalna skupina varuhinje človekovih pravic zbere informacije in pojasnila v zvezi s pravili, ki se uporabljajo v zvezi s tem, in sredstvi za spremljanje, ali se ta pravila upoštevajo v praksi. Agencija EISMEA in Komisija sta varuhinji človekovih pravic pred sestankom na zahtevo predložili nekatera pojasnila in ustrezno dokumentacijo posredovali preiskovalni skupini varuhinje človekovih pravic.

Uvod in postopkovne informacije 

Preiskovalna skupina varuhinje človekovih pravic se je predstavila, se zahvalila predstavnikom Komisije in EISMEA za srečanje z njimi ter predstavila namen srečanja. 

Opisali so pravni okvir, ki se uporablja za sestanke varuha človekovih pravic, zlasti da varuh človekovih pravic brez predhodnega soglasja Komisije in EISMEA ne bi razkril nobenih informacij, ki sta jih Komisija in EISMEA opredelili kot zaupne, niti pritožniku niti kateri koli drugi osebi zunaj urada varuha človekovih pravic ^[1].

Preiskovalna skupina je pojasnila, da bo pripravila osnutek poročila o sestanku, ki ga bo poslala Komisiji in EISMEA, da bi zagotovila točnost in popolnost vsebine. Poročilo o sestanku bi bilo nato dokončno oblikovano, vključeno v dokumentacijo in predloženo pritožniku. Zaupne informacije ne bi bile vključene v poročilo ali kako drugače posredovane pritožniku ali kateri koli tretji osebi.

Izmenjane informacije 

Osnovne informacije 

Predstavniki Komisije so na kratko predstavili postopek ocenjevanja predlogov, predloženih v okviru programa Obzorje Evropa. Komisija je pojasnila, da je postopek osredotočen na „odličnost“, „učinek“ ter „kakovost in učinkovitost izvajanja“, za zagotovitev kakovosti in zanesljivosti ocen pa izbor predlogov temelji na oceni, ki jo opravijo usposobljeni neodvisni zunanji strokovnjaki. Postopek se običajno začne s preverjanjem dopustnosti in upravičenosti, ki mu sledi dodelitev predloženih predlogov neodvisnim zunanjim strokovnim ocenjevalcem za njihovo ocenjevanje. 

Pred začetkom postopka ocenjevanja se ocenjevalci seznanijo s procesi in postopki ocenjevanja, vsebino obravnavanih tem, potrebo po ocenjevanju predlogov, ko so bili predloženi, in ne z njihovim potencialom v primeru določenih sprememb. Zunanji strokovnjaki so seznanjeni tudi s pogoji svojih pogodb (zaupnost, nepristranskost, navzkrižje interesov, izpolnjevanje nalog, kazni za neskladnost itd.). 

Predloge običajno oceni odbor za ocenjevanje (v nadaljnjem besedilu: odbor), ki ga sestavljajo najmanj trije neodvisni zunanji strokovnjaki, nato pa se opravi končni pregled.

ki jih vodi komisija. Postopek ocenjevanja lahko spremljajo tudi neodvisni opazovalci. Ob koncu ocenjevanja organ, ki dodeli sredstva, pripravi končni razvrstitveni seznam in seznam vlog, predlaganih za financiranje. Predstavniki Komisije so poudarili, da je postopek zahteven, saj vključuje vrednotenje obsežnih in zapletenih informacij s strani različnih akterjev, kar zahteva veliko truda za zagotavljanje enotnosti vrednotenj.

Ocena tveganja agencije EISMEA v zvezi z uporabo umetne inteligence tretjih oseb s strani zunanjih strokovnjakov

Predstavniki EISMEA so povedali, da se zavedajo pomislekov prosilcev v zvezi z uporabo orodij umetne inteligence tretjih oseb s strani zunanjih strokovnjakov, vključno z morebitnim tveganjem razkritja tehničnih in poslovnih podatkov iz predlogov ter osebnih podatkov. 

Kljub temu je EISMEA priznala, da so lahko orodja umetne inteligence tretjih oseb koristna za nekatere pomožne naloge, vključno z urejanjem jezika in sloga, kar nekaterim strokovnjakom pomaga jasneje izraziti zapletena mnenja. V zvezi s tem in ob upoštevanju, da pogodba s strokovnjaki takrat ni vključevala določb o uporabi orodij umetne inteligence, EISMEA sprva ni izrecno urejala uporabe orodij umetne inteligence tretjih oseb s strani zunanjih strokovnjakov, temveč jim je dala navodila, kako odgovorno uporabljati orodja umetne inteligence. Od takrat se je kakovost strokovnih pripomb na splošno izboljšala, zlasti v smislu jezika in sloga, kar prijaviteljem pomaga razumeti rezultate ocenjevanj.

Predstavniki EISMEA so ugotovili, da so izvedli oceno tveganja v zvezi z uporabo umetne inteligence v različnih programih, ki jih upravljajo. Vsako leto vsak oddelek EISMEA oceni tveganje, povezano z umetno inteligenco, s katerim se srečuje pri opravljanju svojih nalog. 

Poleg tega je agencija EISMEA leta 2024 prejela zelo malo pritožb v zvezi z uporabo orodij umetne inteligence tretjih oseb s strani zunanjih strokovnjakov. Od takrat EISMEA stalno posodablja svoje notranje obvezne informativne sestanke za strokovne ocenjevalce, ki temeljijo na standardnem informativnem sestanku Komisije za zunanje strokovne ocenjevalce programa Obzorje Evropa in zdaj vsebujejo posebna navodila v zvezi z uporabo orodij umetne inteligence. Hkrati je agencija EISMEA posodobila tudi svoje notranje smernice za vse enote in programe o tem, kako obravnavati pritožbe, povezane z umetno inteligenco. 

Pravila v zvezi z uporabo umetne inteligence s strani strokovnih ocenjevalcev

Predstavniki EISMEA so navedli, da so pravila za uporabo orodij umetne inteligence tretjih oseb s strani zunanjih strokovnjakov navedena v vzorčni pogodbi za strokovnjake in njeni prilogi, v kateri je določen kodeks ravnanja ^[2]. 

Komisija je te dokumente pripravila na ravni podjetij, kar pomeni, da se uporabljajo za vse programe in postopke EU, ki jih upravlja Komisija, in ne le za tiste, ki jih upravlja EISMEA. 

Komisija še naprej spremlja razvoj na tem področju ter po potrebi prilagaja svoje smernice in dokumente, da bi zagotovila, da prakse ocenjevanja ostanejo zanesljive, pravične in zaupanja vredne.

V zvezi s tem EISMEA po analogiji uporablja poslovne dokumente za vse programe EU, ki jih upravlja Agencija.

Preiskovalna skupina varuhinje človekovih pravic ter predstavniki Komisije in EISMEA so razpravljali o veljavnih pravilih iz navedenih dokumentov, in sicer da morajo strokovnjaki (i) ostati odgovorni za svoje preglede, (ii) orodja umetne inteligence tretjih oseb lahko uporabljajo le za pomožne naloge, za katere so v celoti odgovorni, vsako tako uporabo pa je treba dokumentirati in na zahtevo dati na voljo javnemu naročniku, ter (iii) ostati odgovorni tudi za varstvo zaupnih informacij, vključno z osebnimi podatki, pri uporabi orodij umetne inteligence (kadar je to izjemoma dovoljeno). 

Predstavniki EISMEA so pojasnili, da je skladnost z modelom pogodbe s poslovnimi strokovnjaki, kodeksom ravnanja in informacijami, predloženimi na informativnih sestankih, za zunanje strokovnjake obvezna. Pogodbeno so odgovorni v primeru kakršne koli kršitve pravil v skladu s podpisano pogodbo s strokovnjakom.

Predstavniki Komisije so nadalje pojasnili, da je bil kodeks ravnanja za vzorčno pogodbo s strokovnjaki posodobljen 15. decembra 2025, da bi se pojasnili pogoji za uporabo orodij umetne inteligence s strani strokovnjakov ^3. Navedena pravila so bila vključena tudi v pogodbo s strokovnjaki zaradi pritožb prosilcev v zvezi z uporabo orodij umetne inteligence tretjih oseb s strani strokovnih ocenjevalcev, prejetih leta 2024. Zato med ocenjevanjem pritožnikovega predloga, ki je bil podlaga za to preiskavo, še niso bili formalno veljavni.

Predstavniki EISMEA so dodali, da morajo zunanji strokovnjaki v skladu s kodeksom ravnanja za vzorčno pogodbo s strokovnjaki organu, ki dodeli sredstva, na zahtevo predložiti dokazila o uporabi orodij umetne inteligence. Agencija EISMEA zato zahteva te dokaze zlasti ob vložitvi pritožbe v zvezi z uporabo orodja umetne inteligence tretjih oseb, kar se je do zdaj zgodilo le nekajkrat. 

Na ravni Komisije so potekale tudi notranje razprave o drugih možnostih, kot je zahteva, da zunanji strokovnjaki proaktivno prijavijo uporabo orodij umetne inteligence pri predložitvi pregledov predlogov in ne le v primeru naknadnih pritožb. Vendar se je štelo, da bi zahteva po izjavah o kakršni koli proaktivni uporabi umetne inteligence povzročila potrebo po evidentiranju in preverjanju velikega števila dodatnih dokumentov. Pristojna uprava bi morala tej dodatni nalogi dodeliti znatna sredstva, saj zunanji strokovnjaki sodelujejo v številnih različnih programih EU, ki jih ne upravlja le EISMEA, temveč tudi Komisija in druge izvajalske agencije.

Preiskovalna skupina je vprašala, ali sta EISMEA in Komisija razmišljali o uvedbi preprostega vprašalnika, v katerem bi lahko zunanji strokovnjaki proaktivno evidentirali, ali so uporabili orodja umetne inteligence tretjih oseb, katera orodja umetne inteligence natančno uporabljajo in za katero pomožno nalogo, ter po potrebi predložili dodatne kratke pripombe. 

Predstavniki Komisije in EISMEA so odgovorili, da bi bila tudi za uvedbo takega sistema potrebna znatna sredstva, saj Komisija in izvajalske agencije na splošno

³ Nova različica določa:

Točka 1.3:“(...). Umetnointeligenčna orodja se lahko uporabljajo le za strogo pomožne namene, za katere so v celoti odgovorna, vsaka taka uporaba pa mora biti dokumentirana in na zahtevo dana na voljo javnemu naročniku.“ Točka 3. Zaupnost. „Obveznosti glede zaupnosti veljajo tudi pri uporabi orodij umetne inteligence (kadar je to izjemoma dovoljeno).“ 

Točka 4 „Obveznosti glede varstva podatkov je treba spoštovati tudi pri uporabi orodij umetne inteligence (kadar je to izjemoma dovoljeno).“

prejme več deset tisoč predloženih predlogov, ki jih posamično ocenijo vsaj trije neodvisni strokovnjaki. 

Dokumentacija o uporabi orodij umetne inteligence s strani strokovnih ocenjevalcev

Preiskovalna skupina je vprašala, kako se določbe kodeksa ravnanja v zvezi z dokumentacijo o uporabi orodij umetne inteligence s strani zunanjih strokovnjakov izvajajo v praksi. V skladu z ustrezno določbo se „orodja umetne inteligence lahko uporabljajo le v pomožne namene in pod polno odgovornostjo strokovnjaka; njihova uporaba mora biti ustrezno dokumentirana in na zahtevo na voljo javnemu naročniku“ (podčrtano dodano). 

Poleg tega je preiskovalna skupina vprašala, ali obstajajo posebna pravila v zvezi z natančno obliko in vsebino dokumentacije zunanjih strokovnjakov o njihovi uporabi orodij umetne inteligence tretjih oseb, saj se zdi, da take praktične informacije niso navedene v kodeksu ravnanja ali na informativnih sestankih za strokovnjake, ki se delijo s preiskovalno skupino.

Predstavniki Komisije so odgovorili, da obstaja veliko načinov za pripravo take dokumentacije, vendar bi lahko bil eden od načinov ohranitev dveh različic strokovnega pregleda, tj. ene različice pred in druge različice po urejanju z orodji umetne inteligence. To bi po potrebi omogočilo primerjavo kot jasen dokaz, da je prvotno različico pregleda pripravil strokovnjak brez uporabe orodij umetne inteligence. Vendar ta obrazec ni obvezen in možni so različni načini hranjenja dokumentacije. Predstavniki EISMEA so pojasnili, da se dodatne informacije v zvezi s tem strokovnjakom zagotovijo ustno med njihovim obveznim usposabljanjem (informativni sestanki strokovnjakov) kot odgovor na njihova posebna vprašanja.

Zaključek seje

Preiskovalna skupina varuhinje človekovih pravic se je nato zahvalila predstavnikom Komisije in EISMEA za njihov čas ter za predložena pojasnila in dokumentacijo, sestanek pa se je končal.

Bruselj, 16. junij 2026

[1] Člen 4.8 izvedbenih določb Evropskega varuha človekovih pravic.

[2] „Strokovna vzorčna pogodba“ in „Strokovni kodeks ravnanja“ sta na voljo na portalu EU za financiranje in javna naročila v oddelku „Delo kot strokovnjak“.