# Comment la Commission européenne décide de l’intelligence artificielle et l’utilise
- Auteur: Médiateur européen
- Date: 2024-03-15T00:00+01:00[Europe/Paris]
- [URL](https://www.ombudsman.europa.eu/fr/opening-summary/fr/183503)
---
|---------------------------------|
| président Commission européenne |

Monsieur le Président,

Les développements rapides résultant de l'intelligence artificielle (IA) auront d'énormes implications pour les administrations publiques. Des systèmes d'IA sont déjà en cours de développement ou d'introduction pour aider les administrations publiques à améliorer la qualité et l'efficacité des services qu'elles fournissent. Outre des tâches telles que le tri et la classification, la traduction et l'édition, ainsi que la recherche, l'IA jouera également un rôle dans la prise de décision plus complexe en analysant les données ou même en suggérant des solutions ou des options stratégiques.

L'IA pose également des défis majeurs en ce qui concerne l'exactitude des résultats, les biais potentiels, l'explicabilité et la surveillance humaine, notamment lorsqu'elle est ou sera utilisée dans des processus décisionnels qui touchent directement le public.

La manière dont l'administration de l'UE introduit l'IA devrait donc être transparente et permettre un contrôle suffisant. Le public devrait être en mesure de vérifier que l'administration a fait preuve de la diligence requise, que les décisions de déploiement de l'IA ont impliqué tous les acteurs concernés et que des procédures sont en place pour examiner l'utilisation de ces systèmes d'IA sur la base de l'expérience. Il est également essentiel que les institutions de l'UE veillent à ce que l'IA soutienne leurs tâches, mais ne les remplace pas dans la prise de décisions affectant les citoyens. À ce jour, ce sont les types de problèmes que les membres du réseau européen des médiateurs ont rencontrés lors de l'examen de l'utilisation de l'IA au niveau national.

Dans ce contexte, j'ai décidé d'ouvrir une initiative stratégique visant à recueillir des informations sur la manière dont la Commission européenne, en tant que plus grande institution de l'UE, décide et applique l'IA, ainsi que des technologies de l'information avancées similaires, dans ses travaux. L'initiative vise également à sensibiliser à la nécessité d'assurer la responsabilité dans la façon dont les décisions d'introduire cette technologie sont prises, puis mises en œuvre et surveillées.

La Commission européenne a récemment publié une communication intitulée \<\<L'intelligence artificielle au sein de la Commission européenne\>\>[\[1\].](#_ftn1){#_ftnref1} Dans cette communication, la Commission a partagé des informations importantes sur les systèmes d'IA qu'elle déploie déjà. Il a également partagé des informations sur les systèmes d'IA en cours de développement et de test. Je me félicite vivement de ce premier pas vers l'accroissement de l'information accessible au public.

Selon moi, trois systèmes décrits par la Commission en termes généraux revêtent une importance particulière pour le droit à une bonne administration:

**- Analyse des retours d'information du public** [\[2\]:](#_ftn2){#_ftnref2} Il semble que cet outil puisse donner aux citoyens de l'UE la possibilité de transmettre plus efficacement leur point de vue à la Commission sur les propositions politiques envisagées, ce dont je me félicite. Dans le même temps, j'aimerais en savoir plus sur la manière dont la Commission évalue et prévoit de faire face aux risques potentiels résultant du déploiement d'outils de ce type, tels que la possibilité pour certains acteurs de manipuler la perception du soutien dans l'UE en faveur d'options stratégiques spécifiques.

**- Gestion des dossiers de concurrence** [**\[3\]:**](#_ftn3){#_ftnref3} Cet outil vise à améliorer la capacité de la Commission à détecter les infractions aux règles de concurrence ayant le plus grand impact sur le marché intérieur de l'UE. Dans le même temps, la Commission devra protéger ses enquêtes contre toute erreur, partialité, ainsi que contre les droits procéduraux des personnes concernées.

**-** **Traitement des plaintes** [**\[4\]:**](#_ftn4){#_ftnref4} Comme vous le savez, mon Bureau traite les plaintes concernant la façon dont la Commission traite elle-même les infractions et d'autres types de plaintes. Je souhaiterais savoir comment la Commission entend garantir la protection contre le \<\<biais d'automatisation\>\>, ce qui permettrait à ses gestionnaires de plaintes de faire confiance de manière disproportionnée aux solutions proposées par AI. Chaque plainte doit être traitée avec suffisamment de soin par les décideurs humains et les éventuelles erreurs passées ne doivent pas être multipliées en raison de l'automatisation.

La Commission dispose déjà d'une expérience significative en matière d'automatisation et prévoit d'étendre considérablement l'utilisation des outils d'IA dans ses travaux. Je vous saurais gré de bien vouloir décrire plus en détail, en réponse à la présente lettre, la fonctionnalité des outils en ce qui concerne l'analyse des retours d'information du public, la gestion des dossiers de concurrence et le traitement des plaintes, comme cela est actuellement envisagé. Il serait également utile de recevoir des informations sur la manière dont la Commission entend garantir la transparence et la responsabilité des processus d'introduction et de contrôle de l'utilisation de ces applications. Des questions plus spécifiques sont énumérées en annexe.

Je vous saurais gré de bien vouloir recevoir la réponse de la Commission à mes questions pour le **14 juin 2024** au plus tard. Je souhaiterais également organiser une réunion entre mon équipe d'enquête et les représentants de la Commission afin d'aborder certaines questions supplémentaires concernant les questions susmentionnées. Je souhaiterais que cette réunion ait lieu en juin ou juillet 2024.

Mon Bureau a pris contact avec le Contrôleur européen de la protection des données avant de lancer cette initiative stratégique, compte tenu de leur rôle spécifique dans ce domaine, afin d'éviter les chevauchements.

Veuillez également noter que, l'un des objectifs de cette initiative stratégique étant de renforcer la transparence de la manière dont l'administration de l'UE utilise ou prévoit d'utiliser l'IA dans ses travaux et sa prise de décision, j'ai l'intention de publier votre réponse. Toutefois, si vous considérez que certaines informations sont confidentielles, veuillez les marquer clairement comme telles et, si possible, les inclure dans une annexe distincte[^\[5\].^](#_ftn5){#_ftnref5}

Si vous souhaitez de plus amples informations ou des éclaircissements sur cette initiative, veuillez contacter le responsable des enquêtes, M. Michał Krajewski.

Je vous prie d'agréer, Monsieur, l'expression de mes sincères

Emily O'Reilly Médiateur


européen

Strasbourg, le 15 mars 2024

annexe
------

***Fonctionnalités techniques et automatisation des tâches***

1) Quelles seront les fonctionnalités spécifiques des outils envisagés par la Commission pour analyser le retour d'information du public, gérer les affaires de concurrence et soutenir le traitement des plaintes? Quelles tâches spécifiques ces outils effectueront-ils et comment ils soutiendront la prise de décision par les humains?

2) Quels risques généraux peuvent résulter de l'utilisation de ces outils pour le droit à une bonne administration et comment ces risques peuvent-ils être traités?[\[6\]](#_ftn6){#_ftnref6}

***Prise de décision sur l'utilisation de l'IA***

3) Comment la Commission décidera-t-elle de l'utilisation de ces outils? Par quel organe interne les décisions seront-elles prises (y associeront-elles le collège des commissaires, par exemple)? Comment la Commission décidera-t-elle de la procédure d'approbation de l'utilisation de ces outils?

***Transparence de la manière dont les décisions relatives à l'utilisation de l'IA sont prises***

4) Quelles informations sur ces outils ont déjà été mises à disposition? La Commission a-t-elle l'intention de rendre publiques d'autres informations?

5) La Commission a-t-elle consulté ou consultera-t-elle d'autres institutions, organes ou parties prenantes de l'UE en dehors de l'administration de l'UE (par exemple, des groupes représentant les intérêts, la société civile, une consultation publique plus large) sur l'introduction ou le développement ultérieur de ces outils?

***Responsabilité en ce qui concerne l'utilisation des outils d'IA***

6) Dans quelle mesure l'utilisation de ces outils en général et dans des cas individuels sera-t-elle transparente et explicable?

7) Comment les décideurs humains vérifient-ils exactement les résultats de ces outils?

8) La Commission surveillera-t-elle régulièrement l'application pratique de ces outils et quelles entités au sein de la Commission superviseront cette application?

[\[1\]](#_ftnref1){#_ftn1} Intelligence artificielle à la Commission européenne (AI@EC): Une vision stratégique pour favoriser le développement et l'utilisation de systèmes d'intelligence artificielle licites, sûrs et fiables au sein de la Commission européenne: <https://commission.europa.eu/system/files/2024-01/EN%20Artificial%20Intelligence%20in%20the%20European%20Commission.PDF>

[\[2\]](#_ftnref2){#_ftn2} Page 8 : *\<\<Analyse des retours d'information du public: la Commission consulte systématiquement le public sur les nouvelles propositions législatives (consultation publique via le portail \<\<Donnez votre avis\>\>). Le retour d'information fourni par le public est analysé par la Commission afin de contribuer à l'élaboration des propositions législatives.\>\>*

[\[3\]](#_ftnref3){#_ftn3} Page 8 : \<\<Les enquêtes en matière de*concurrence reposent largement sur l'analyse de vastes volumes de documents et d'autres données, afin d'extraire des informations précieuses et de recueillir des éléments de preuve. L'IA facilite leur recherche et leur analyse efficaces, améliorant ainsi le processus d'enquête. En outre, il est particulièrement important pour les enquêtes d'office et bientôt pour l'application* de*la législation sur les marchés numériques\>\>.*

[\[4\]](#_ftnref4){#_ftn4} Page 9 : *\<\<Plaintes liées à l'IA (CHAI): la Commission étudie les technologies de l'IA générative et des grands modèles linguistiques (LLM) pour aider les gestionnaires de dossiers à traiter les plaintes dans des délais plus courts en fournissant des capacités de recherche sémantique \<\<recherche intelligente\>\> et de \<\<rédaction intelligente\>\> permettant la réutilisation des réponses antérieures provenant de capacités de plaintes similaires.\>\>*

[\[5\]](#_ftnref5){#_ftn5} Les courriels cryptés peuvent être envoyés à notre boîte aux lettres dédiée. Les informations et documents de ce type seront supprimés des dossiers du Médiateur européen peu de temps après la fin de l'initiative stratégique.

[\[6\]](#_ftnref6){#_ftn6} Cette question ne concerne ++pas++ les risques liés au traitement des données à caractère personnel. Cette question porte sur les éléments d'une bonne administration, tels que l'obligation d'examiner avec soin et impartialité toutes les informations pertinentes dans chaque cas et de motiver toute décision.