Az ombudsman számos javaslatot tett annak érdekében, hogy segítse az Európai Bizottságot annak biztosításában, hogy a mesterséges intelligencia (MI) használata a döntéshozatal során továbbra is elszámoltatható maradjon.

Az ombudsman üdvözölte, hogy a Bizottság nyilvánosan ismertette a mesterséges intelligencia használatára vonatkozó megközelítését, valamint intézkedéseket hozott annak biztosítására, hogy a mesterségesintelligencia-rendszerek használata megfeleljen a közelmúltban elfogadott, mesterséges intelligenciáról szóló jogszabálynak. Mivel a jogszabály számos követelménye vonatkozik a „magas kockázatúnak” minősített MI-re, az ombudsman hangsúlyozta, hogy fontos biztosítani, hogy a Bizottság döntéshozatalát támogató valamennyi MI-rendszer pontos eredményeket hozzon, lehetővé tegye számára, hogy megindokolja döntéseit, és hatékony emberi felügyelet alatt maradjon. Arra kérte a Bizottságot, hogy fontolja meg egy önkéntes magatartási kódex elfogadását a nem magas kockázatúnak ítélt rendszerekre vonatkozóan annak jobb biztosítása érdekében, hogy használatuk összhangban legyen a megfelelő ügyintézés elveivel.

Az ombudsman megjegyezte továbbá, hogy bár az MI-rendszerek a döntéshozatali folyamatok támogatására szolgáló eszközként használhatók, a döntéshozatalt nem szabad ezekre a rendszerekre átruházni. Javasolja, hogy a mesterséges intelligencia emberi felügyeletéért felelős köztisztviselők kapjanak megfelelő képzést a mesterségesintelligencia-rendszerek által előidézett kockázatokról és hibákról, valamint arról, hogy hogyan kell kritikusan megvizsgálni és ellenőrizni a mesterséges intelligenciával előállított eredményeket. A belső munkafolyamatoknak azt is egyértelművé kell tenniük, hogy az MI-rendszerek felügyeletéért felelős személyzetet arra ösztönzik, hogy bizonyos helyzetekben térjenek el a rendszerek javaslataitól.

Az ombudsman hangsúlyozta továbbá az átláthatóság fontosságát az abba vetett közbizalom biztosítása tekintetében, hogy az uniós közigazgatás alkalmazni fogja a mesterséges intelligenciával kapcsolatos felelősséget. Arra ösztönzi a Bizottságot, hogy mérlegelje, milyen információkat fog nyilvánosan hozzáférhetővé tenni a jövőbeli mesterségesintelligencia-projektekről, és fontolja meg nyilvános konzultációk lefolytatását a nagy teljesítményű új mesterségesintelligencia-eszközök lehetséges elfogadásáról vagy fejlesztéséről.

Azon MI-rendszerek esetében, amelyek döntéseket hoznak vagy válaszokat adnak a nyilvánosságnak, az ombudsman azt javasolta a Bizottságnak, hogy vizsgálja meg annak szükségességét, hogy proaktívan tájékoztassa a nyilvánosságot arról, hogy a válasz mesterséges intelligencia segítségével készült, valamint a nyújtott mesterségesintelligencia-támogatás jellegéről.

Az ombudsman javaslatai egy információgyűjtési gyakorlaton alapulnak, amelyhez a Bizottság három konkrét területen – a nyilvános visszajelzések elemzése, az uniós versenyszabályok esetleges megsértésének feltárása és a panaszkezelés terén – nyújtott részletes tájékoztatást a mesterséges intelligencia használatáról.