Vážený pane předsedo,

Obdržel jsem stížnost na Evropskou komisi od Corporate Europe Observatory. Stížnost se týká toho, jak Komise zajišťuje, aby evropské normalizační organizace pověřené vypracováním „harmonizovaných norem“ pro umělou inteligenci za účelem provádění aktu o umělé inteligenci [1] tak činily transparentním, inkluzivním a odpovědným způsobem.

Dne 22. května 2023 vydala Komise žádost o normalizaci týkající se UI dvěma evropským normalizačním organizacím: Evropský výbor pro normalizaci (CEN) a Evropský výbor pro normalizaci v elektrotechnice (CENELEC).[2] Komise požádala výbory CEN a CENELEC, aby zajistily, že harmonizované normy přispějí k minimalizaci rizik vyplývajících z umělé inteligence pro zdraví, bezpečnost a základní práva. To znamená, že výbory CEN a CENELEC se budou muset zabývat nejen technickými, ale i širšími možnostmi vlastního uvážení, pokud jde o to, jak by měly být vysoce rizikové systémy UI navrženy a používány k zajištění odpovídající úrovně bezpečnosti a ochrany základních práv v EU.

V této souvislosti je stěžovatel znepokojen tím, že Komise dosud nezajistila, aby proces vypracovávání harmonizovaných norem pro umělou inteligenci ze strany výborů CEN a CENELEC byl inkluzivní, transparentní a odpovědný. Stěžovatel je obzvláště znepokojen tím, že Komise nepožadovala, aby výbory CEN a CENELEC zveřejňovaly informace o členech společného technického výboru 21 (dále jen „JTC 21“[3]) zřízeného za účelem vypracování norem a zájmů, které tito členové zastupují. Stěžovatel rovněž poukazuje na to, že zápisy ze schůzí a další dokumenty pracovní skupiny nejsou veřejné. Stěžovatel navíc tvrdí, že Komise nezajistila vyvážené zastoupení zájmů v procesu tvorby norem, kde podle stěžovatele převažují velké technologické společnosti.

Rozhodl jsem se zahájit šetření této stížnosti.

Ačkoli Komise na některé z těchto obav odpověděla [4], domnívám se, že dosud plně nevyřešila všechny vznesené otázky. Rovněž podotýkám, že Komise ve své odpovědi stěžovateli uvedla, že není odpovědná za proces a jeho výsledky, což se zdá být obtížně slučitelné s nedávnou judikaturou.

Vyzývám proto Komisi, aby do 15. ledna 2026 v písemné odpovědi vyjádřila své stanovisko k této stížnosti, a zejména k otázkám uvedeným v příloze 1 tohoto dopisu. Vezměte prosím na vědomí, že mám v úmyslu sdílet Vaši odpověď se stěžovatelem a zveřejnit ji.

Rovněž jsem rozhodl, že je nezbytné nahlédnout do dokumentů uvedených v příloze 2 tohoto dopisu. Informace nebo dokumenty, které Komise považuje za důvěrné, nebudou stěžovateli ani žádné jiné osobě zpřístupněny bez předchozího souhlasu Komise. [5] Komise se vyzývá, aby požadované dokumenty poskytla do 27. října 2025.

V případě jakýchkoli dotazů se mohou zaměstnanci Komise obrátit na pana Michała Krajewského, vyšetřujícího úředníka odpovědného za toto šetření.

Upřímně, 

Teresa Anjinho
evropská veřejná ochránkyně práv

Štrasburk, 26. září 2025

Příloha 1: Otázky týkající se úlohy Komise při monitorování vývoje harmonizovaných norem pro umělou inteligenci

Základní informace

Komise může požádat evropské normalizační organizace, aby vypracovaly harmonizované normy s cílem uvést v účinnost základní požadavky na bezpečnost stanovené v právních předpisech EU pro výrobky uváděné na trh v EU. V praxi může být dodržování harmonizovaných norem pro hospodářské subjekty jediným způsobem, jak prokázat soulad s právními předpisy EU týkajícími se bezpečnosti jejich výrobků. Z tohoto důvodu Soudní dvůr nedávno rozhodl, že ačkoli harmonizované normy vypracovávají evropské normalizační organizace, tj. soukromé organizace, tyto normy jsou nicméně „součástí práva EU“.[6] Kromě toho Soudní dvůr objasnil, že „Komise hraje ústřední úlohu v evropském systému normalizace“.[7] Komise musí zejména podrobit práci evropských normalizačních organizací „podrobnému sledování“[8] a před zveřejněním odkazu na harmonizovanou normu v Úředním věstníku ověřit, zda tato norma „splňuje požadavky, které má upravovat a které jsou stanoveny v příslušných harmonizačních právních předpisech Unie“[9].

Při provádění aktu o umělé inteligenci budou hrát klíčovou úlohu harmonizované normy. Návrhem tohoto aktu Komise vyjádřila přání, aby se EU stala světovým lídrem v oblasti bezpečné umělé inteligence tím, že poskytne „silný regulační rámec založený na lidských právech a základních hodnotách“[10].

S ohledem na klíčovou úlohu Komise v evropském systému normalizace, jak je zdůrazněno výše, veřejná ochránkyně práv vyzývá Komisi, aby se zabývala následujícími otázkami.

Otázky pro Komisi

A. Úloha Komise při přezkumu procesu vypracovávání harmonizovaných norem pro umělou inteligenci a jeho výsledků

Ve své odpovědi stěžovateli Komise uvedla, že je do procesu normalizace umělé inteligence zapojena mnohem více než do jiných procesů normalizace. Komise zároveň uvedla, že „není odpovědná za obsah, který [ESO] produkují, ani za způsob, jakým jej produkují“.

Veřejný ochránce práv by rád získal více informací o tom, jak konkrétně je Komise zapojena do řízení a monitorování procesu normalizace a jak přezkoumá jeho výsledky.

Pokud jde o proces:

1. Jak lze uvést prohlášení Komise o nedostatku její odpovědnosti za proces a jeho výsledky do souladu s rozsudkem ve věci James Elliott Construction, v němž Soudní dvůr rozhodl, že Komise musí podrobit práci evropských normalizačních organizací „podrobnému monitorování“a potvrdit „shodu konečných návrhů harmonizovaných norem před jejich zveřejněním v řadě C Úředního věstníku Evropské unie“[11]?

2. Jak Komise obecně zajišťuje, aby její kontrola byla dostatečně „podrobná“ ve smyslu výše uvedeného rozhodnutí? Zajišťuje Komise, aby evropské normalizační organizace uplatňovaly příručku Komise o evropské normalizaci [12]? Nominovala Komise například „pozorovatele a poradce v normalizační činnosti“, jak je uvedeno v příručce [13]? Pokud ano, které útvary Komise zastupují a jaká je jejich úloha?  

Pokud jde o podstatu:

3. Jak Komise přezkoumá podstatu harmonizovaných norem týkajících se UI? Které útvary Komise budou do tohoto přezkumu zapojeny, jaká kritéria budou uplatňována a jakým způsobem? Má Komise k provedení tohoto přezkumu interní odborné znalosti a jaká bude uplatňovaná úroveň přezkumu?

4. Jak bude Komise řešit případné nedostatky, které zjistí v harmonizovaných normách vydaných výbory CEN a CENELEC? Zváží Komise zejména vydání svých vlastních „společných specifikací“[14], které nahradí nedostatečné harmonizované normy?

5. Provedla Komise nějaké prozatímní přezkumy předběžných výsledků práce výborů CEN a CENELEC?

B. Transparentnost procesu

Ve své odpovědi stěžovateli Komise uvedla, že zápis ze schůze a seznam účastníků JTC 21 jsou sdíleny mezi účastníky. Nicméně „[z] důvodů ochrany osobních údajů a autorských práv nelze [zápis ze schůze] široce sdílet s širokou veřejností“.

To vyvolává otázky ohledně transparentnosti procesu normalizace, pokud jde o účastníky zapojené do tohoto procesu, zájmy, které zastupují, a podstatu probíhajících diskusí.

Veřejný ochránce práv by proto rád získal více informací o těchto otázkách:

6. Jaká pravidla důvěrnosti uplatňují výbory CEN a CENELEC při vypracovávání harmonizovaných norem pro umělou inteligenci?

7. Jaké postupy v oblasti transparentnosti uplatňují výbory CEN a CENELEC při vypracovávání harmonizovaných norem pro umělou inteligenci? Sdělte veřejnému ochránci práv odkazy na informace zveřejněné výbory CEN a CENELEC týkající se daného postupu.

8. Jaký je názor Komise na argument stěžovatele, že vzhledem k dopadu norem na základní práva a právnímu statusu norem existuje převažující veřejný zájem na zveřejnění informací o členství ve společném poradním výboru 21, zájmech, které zastupují, a jejich probíhající práci?

C. Inkluzivnost procesu normalizace

Ve své odpovědi stěžovateli Komise uvedla, že inkluzivnost tohoto procesu je její prioritou, a proto zajišťuje financování organizací uvedených v příloze III [15], mimo jiné s cílem umožnit jejich účast. Zmínila rovněž pracovní skupinu pro inkluzivitu, kterou organizují evropské normalizační organizace a která má poskytnout údaje o zúčastněných subjektech. Ačkoli Komise uznala prostor pro další zlepšení, konstatovala, že počet odborníků z občanské společnosti je v tomto procesu normalizace mimořádně vysoký.

Veřejná ochránkyně práv by ráda získala více informací o tom, jak Komise zajišťuje inkluzivnost procesu normalizace v oblasti umělé inteligence:

9. Kolik členů JTC 21 zastupuje průmysl, soukromé poradenské společnosti, jiné soukromé subjekty, veřejné orgány, organizace občanské společnosti a akademické instituce? Veškeré statistické údaje v tomto ohledu sdělte veřejnému ochránci práv.

10. Uveďte seznam organizací uvedených v příloze III, které se účastní procesu normalizace v oblasti UI.

11. Jak příručka o evropské normalizaci pomohla organizacím uvedeným v příloze III překonat překážky bránící jejich účinné účasti na procesu normalizace?

12. Podělte se prosím o více informací o složení a činnosti pracovní skupiny pro inkluzivnost.

13. Mohla by Komise zaujmout stanovisko k návrhu stěžovatele zavést pravidla pro evropské normalizační organizace na základě pravidel pro expertní skupiny Komise týkajících se složení skupin, střetu zájmů a transparentnosti [16]?

Příloha 2: Dokumenty k nahlédnutí

Předložte prosím ke kontrole následující dokumenty:

• výsledky případných prozatímních přezkumů návrhů harmonizovaných norem vypracovaných výbory CEN a CENELEC a veškeré dokumenty týkající se těchto přezkumů,
• pravidla nebo politiky týkající se transparentnosti a důvěrnosti platné pro práci výborů CEN a CENELEC na harmonizovaných normách pro umělou inteligenci,
• seznam jmen a přidružených subjektů (společností, orgánů, organizací atd.) členů JTC 21,
• seznam jmen a příslušností členů pracovní skupiny pro inkluzivnost,
• seznam zasedání pracovní skupiny pro inkluzivnost, včetně pořadů jednání, zápisů nebo zpráv,
• výsledky zasedání pracovní skupiny pro inkluzivnost, včetně veškerých přijatých rozhodnutí.

[1] Nařízení Evropského parlamentu a Rady 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (Úř. věst. L 2024/1689, https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng).

[2] https://ec.europa.eu/transparency/documents-register/detail?ref=C(2023)3215&lang=cs

[3] https://jtc21.eu/

[4] https://corporateeurope.org/sites/default/files/2025-01/response-CEO-8Jan.pdf

[5] Tyto materiály jasně označte „Důvěrné“. Šifrované e-maily mohou být zaslány do naší vyhrazené poštovní schránky. Informace a dokumenty tohoto druhu budou ze spisů evropského veřejného ochránce práv vymazány krátce po ukončení šetření.

[6] Rozsudek Soudního dvora ze dne 5. března 2024, Public.Resource.Org Inc. v. Komise, věc C‑588/21 P, bod 80, https://curia.europa.eu/juris/document/document.jsf?text=&docid=283443&pageIndex=0&doclang=en&mode=lst&dir=&occ=first&part=1&cid=26696941.

[7] Tamtéž, bod 72.

[8] Rozsudek Soudního dvora ze dne 27. října 2016, James Elliott Construction Limited, věc C‑613/14, bod 45, https://curia.europa.eu/juris/document/document.jsf?text=&docid=184891&pageIndex=0&doclang=en&mode=lst&dir=&occ=first&part=1&cid=26431641.

[9] Čl. 10 odst. 6 nařízení Evropského parlamentu a Rady č. 1025/2012 ze dne 25. října 2012 o evropské normalizaci (...), Úř. věst. L 316/12, https://eur-lex.europa.eu/eli/reg/2012/1025/oj/eng.

[10] https://commission.europa.eu/news-and-media/news/ai-act-enters-force-2024-08-01_en

[11] Rozsudek Soudního dvora ze dne 27. října 2016, James Elliott Construction Limited, věc C‑613/14, bod 45, https://curia.europa.eu/juris/document/document.jsf?text=&docid=184891&pageIndex=0&doclang=en&mode=lst&dir=&occ=first&part=1&cid=26431641.

[12] Pracovní dokument útvarů Komise – Příručka o evropské normalizaci na podporu právních předpisů a politik Unie, SWD(2015) 205 final, https://single-market-economy.ec.europa.eu/single-market/european-standards/vademecum-european-standardisation_en.

[13] Jak je uvedeno v jeho Vademecum, tamtéž, část 1, bod 4.2.2, s. 12.

[14] Podle článku 41 aktu o umělé inteligenci.

[15] To znamená, že organizace splňující kritéria stanovená v příloze III nařízení č. 1025/2012 (poznámka pod čarou 9), jako jsou organizace nevládní a neziskové povahy.

[16] https://ec.europa.eu/transparency/documents-register/detail?ref=C(2016)3301&lang=en.