Ιστορικό

1. Τα τελευταία χρόνια, η τεχνητή νοημοσύνη (ΤΝ) έχει διεισδύσει σε κάθε πτυχή της ζωής μας, από το ασήμαντο έως το εξαιρετικά επακόλουθο, όπως η λήψη αποφάσεων που σχετίζονται με ιατρικές διαγνώσεις ή παροχές κοινωνικής ασφάλισης.

2. Η Ευρωπαία Διαμεσολαβήτρια παρακολουθεί εκ του σύνεγγυς το θέμα αυτό και, τον Μάρτιο του 2021, διοργάνωσε διαδικτυακό σεμινάριο για την ΤΝ και την ηλεκτρονική διακυβέρνηση στη δημόσια διοίκηση για το Ευρωπαϊκό Δίκτυο Διαμεσολαβητών (ENO). Πολλά από τα ερωτήματα που εγείρει η ΤΝ αφορούν βασικούς τομείς του έργου του διαμεσολαβητή, όπως η διαφάνεια, η λογοδοσία όσον αφορά τη λήψη αποφάσεων, η δεοντολογία και τα θεμελιώδη δικαιώματα. Ορισμένα γραφεία διαμεσολαβητών σε εθνικό επίπεδο έχουν ήδη διεκπεραιώσει καταγγελίες και έχουν εκδώσει κατευθυντήριες γραμμές ^[1] σχετικά με τη χρήση της ΤΝ.

3. Το 2021 η Ευρωπαϊκή Επιτροπή υπέβαλε πρόταση νέου κανονισμού της ΕΕ που διέπει την ΤΝ: το σχέδιο «νόμου για την ΤΝ».^[2] Η πρόταση παρουσιάζει άμεσο ενδιαφέρον για τον Ευρωπαίο Διαμεσολαβητή και τα μέλη του ENO. Προβλέπει ότι οι αρχές θα οριστούν ή θα συσταθούν σε εθνικό επίπεδο για να διασφαλίσουν την εφαρμογή του κανονισμού. Όταν τα θεσμικά και λοιπά όργανα και οι οργανισμοί της ΕΕ εμπίπτουν στο πεδίο εφαρμογής του κανονισμού, προβλέπεται ότι ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων (ΕΕΠΔ) θα ενεργεί ως αρμόδια εποπτική αρχή. Η πρόταση αποσκοπεί στη διασφάλιση υψηλού επιπέδου προστασίας των θεμελιωδών δικαιωμάτων, συμπεριλαμβανομένου του δικαιώματος χρηστής διοίκησης, καθώς και στη συμμόρφωση με τις αρχές της χρηστής διοίκησης ^[3]. 

4. Στο πλαίσιο αυτό, τον Ιούνιο του 2021, η Διαμεσολαβήτρια απέστειλε επιστολή στην Επιτροπή και στον ΕΕΠΔ ζητώντας από τις συνεδριάσεις να μάθουν περισσότερα σχετικά με την πρόταση και να συζητήσουν τον τρόπο με τον οποίο θα λειτουργούν οι μελλοντικοί κανόνες όσον αφορά τη διοίκηση της ΕΕ και τις δημόσιες διοικήσεις εν γένει. Σκοπός αυτής της στρατηγικής πρωτοβουλίας ήταν η ενημέρωση των μελών του ENO σχετικά με αυτές τις σημαντικές εξελίξεις σε επίπεδο ΕΕ και η συμβολή στην προετοιμασία του Γραφείου του Ευρωπαίου Διαμεσολαβητή για πιθανές μελλοντικές εργασίες στον τομέα αυτό, ιδίως όσον αφορά την εξέταση πιθανών καταγγελιών για κακοδιοίκηση από τα θεσμικά όργανα της ΕΕ ^[4].

Η προτεινόμενη πράξη για την ΤΝ και τα πρότυπα που σχετίζονται με τη διαφάνεια, τα θεμελιώδη δικαιώματα και τις αρχές της χρηστής διοίκησης

5. Η πρόταση πράξης για την ΤΝ αποσκοπεί στη θέσπιση ενιαίων κανόνων για τα συστήματα ΤΝ στην αγορά της ΕΕ. Προτείνει κανόνες που ισχύουν για ολόκληρο τον κύκλο ζωής της ΤΝ, συμπεριλαμβανομένης της διάθεσης στην αγορά, της θέσης σε λειτουργία και της χρήσης συστημάτων ΤΝ.

6. Η πρόταση πράξης για την ΤΝ χρησιμοποιεί προσέγγιση βάσει κινδύνου, πράγμα που σημαίνει ότι η ρυθμιστική παρέμβαση απαιτείται μόνο όταν είναι αναγκαία ανάλογα με το επίπεδο κινδύνου για την ασφάλεια και τα θεμελιώδη δικαιώματα που είναι πιθανό να ενέχει ένα σύστημα ΤΝ. Η πρόταση κατατάσσει τα συστήματα ΤΝ σε τέσσερις κατηγορίες:

• μη αποδεκτός κίνδυνος (υπάρχουν τέσσερις απαγορευμένες πρακτικές ΤΝ, συμπεριλαμβανομένης της εκμετάλλευσης τρωτών σημείων ορισμένων ατόμων),
• συστήματα ΤΝ υψηλού κινδύνου (επιτρέπονται αλλά υπόκεινται σε συμμόρφωση με τις απαιτήσεις),
• ΤΝ που εγκυμονεί ορισμένους κινδύνους που σχετίζονται με τη διαφάνεια (επιτρέπεται με την επιφύλαξη υποχρεώσεων ενημέρωσης), και
• ΤΝ που ενέχει ελάχιστο ή μηδενικό κίνδυνο (επιτρέπεται χωρίς πρόσθετους περιορισμούς, αλλά πιθανή συμμόρφωση με εθελοντικούς κώδικες δεοντολογίας).

7. Σύμφωνα με την προτεινόμενη πράξη για την ΤΝ, οι υποχρεώσεις των παρόχων περιλαμβάνουν την καταχώριση αυτόνομων συστημάτων ΤΝ σε δημόσια βάση δεδομένων της ΕΕ και την αναφορά στις αρχές εποπτείας της αγοράς σοβαρών περιστατικών και δυσλειτουργιών που μπορούν να ενέχουν κινδύνους για τα θεμελιώδη δικαιώματα.

8. Οι υποχρεώσεις των χρηστών θα περιλαμβάνουν τη διασφάλιση της ανθρώπινης εποπτείας κατά τη χρήση συστημάτων ΤΝ (που είναι απαραίτητα για τις δημόσιες αρχές) και την ενημέρωση του παρόχου ή του διανομέα σχετικά με οποιοδήποτε σοβαρό περιστατικό ή δυσλειτουργία.

9. Το σχέδιο πράξης για την ΤΝ περιλαμβάνει διάφορες διατάξεις περί διαφάνειας, ιδίως την υποχρέωση προορατικής ενημέρωσης των χρηστών ότι αλληλεπιδρούν με σύστημα ΤΝ. Αυτές οι υποχρεώσεις διαφάνειας προβλέπονται ως συμπληρωματικές προς εκείνες της ισχύουσας νομοθεσίας, όπως στη νομοθεσία για την προστασία των καταναλωτών ή την προστασία των δεδομένων σε ενωσιακό και εθνικό επίπεδο.

10. Προκειμένου να αντιμετωπιστεί, ιδίως, η αδιαφάνεια και να διασφαλιστεί η διαφάνεια έναντι του ευρύτερου κοινού, η προτεινόμενη πράξη για την ΤΝ περιλαμβάνει διατάξεις σχετικά με:

1. διαφάνεια και ιχνηλασιμότητα των συστημάτων ΤΝ υψηλού κινδύνου

2. δικαιώματα πρόσβασης για τις αρμόδιες εποπτικές αρχές

3. διαφάνεια έναντι των επηρεαζόμενων ατόμων (τα άτομα πρέπει να ενημερώνονται όταν χρησιμοποιούν ορισμένα συστήματα ΤΝ, μεταξύ άλλων όταν δεν ταξινομούνται ως υψηλού κινδύνου)

4. δημόσια εποπτεία: Δημόσια προσβάσιμη βάση δεδομένων σε επίπεδο ΕΕ για αυτόνομη ΤΝ υψηλού κινδύνου.

11. Όταν τα άτομα αισθάνονται ότι τα δικαιώματά τους έχουν παραβιαστεί από ένα σύστημα ΤΝ, προβλέπεται ότι θα είναι σε θέση να ζητήσουν επανόρθωση μέσω των αρχών εποπτείας της αγοράς και/ή άλλων υφιστάμενων αρχών, όπως τα όργανα του διαμεσολαβητή, οι αρχές προστασίας δεδομένων, οι αρχές προστασίας των καταναλωτών, οι αρχές κατά των διακρίσεων κ.λπ. Στη συνέχεια, οι εν λόγω αρχές θα έχουν την εξουσία να ζητούν πρόσβαση σε όλες τις σχετικές πληροφορίες που αφορούν το εν λόγω σύστημα ΤΝ. Η δυνατότητα επικοινωνίας με τους υφιστάμενους φορείς σημαίνει ότι το κοινό δεν θα χρειαστεί να απευθυνθεί σε νέες και άγνωστες αρχές και ότι υπάρχει συνεπής προσέγγιση για την αντιμετώπιση των ζητημάτων. Όπου είναι αναγκαίο, οι αρμόδιες αρχές θα έχουν την εξουσία να αναλύουν το εν λόγω σύστημα ΤΝ, ακόμη και συμπεριλαμβανομένου του πηγαίου κώδικα.

12. Όσον αφορά τη δομή διακυβέρνησης της πράξης, αυτή βασίζεται σε ένα σύστημα που καλύπτει το εθνικό και το ενωσιακό επίπεδο. Το εθνικό επίπεδο θα διαδραματίσει καίριο ρόλο στην επιβολή μέσω των εθνικών αρχών εποπτείας της αγοράς. Το επίπεδο της ΕΕ θα συντονίζει την εφαρμογή και την ανταλλαγή πληροφοριών μέσω ενός συμβουλίου της ΕΕ για την ΤΝ. Θα συσταθεί επίσης ομάδα εμπειρογνωμόνων της Επιτροπής για την παροχή τεχνικών και επιστημονικών συμβουλών, στην οποία θα εκπροσωπούνται όλα τα σχετικά ενδιαφερόμενα μέρη (κοινωνία των πολιτών, ακαδημαϊκή κοινότητα, επιχειρήσεις κ.λπ.).

13. Σύμφωνα με το σχέδιο πράξης για την ΤΝ, τα κράτη μέλη θα μπορούσαν δυνητικά να ορίσουν τα γραφεία διαμεσολαβητών ως τον αρμόδιο εθνικό φορέα για τη διασφάλιση της προστασίας των θεμελιωδών δικαιωμάτων. Οι φορείς αυτοί θα έχουν δικαίωμα πρόσβασης σε βασικά έγγραφα και πληροφορίες και θα μπορούν να χρησιμοποιούν νέους μηχανισμούς συνεργασίας με τις αρχές εποπτείας της αγοράς.

14. Όσον αφορά την επιβολή, θα είναι σημαντικό να εξεταστεί ο τρόπος με τον οποίο οι εθνικές αρχές θα ανταποκριθούν στους νέους ρόλους τους στο πλαίσιο του σχεδίου πράξης για την ΤΝ, γεγονός που μπορεί να έχει ως αποτέλεσμα διάφορα είδη εθνικών αρχών να έχουν αλληλεπικαλυπτόμενες ή αλληλένδετες εξουσίες και εντολές. Για παράδειγμα, το σχέδιο πράξης περιλαμβάνει πρόταση (στο άρθρο 63) σύμφωνα με την οποία, για τα συστήματα ΤΝ που χρησιμοποιούνται για την επιβολή του νόμου και τη διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων, η αρχή εποπτείας της αγοράς θα είναι η αρμόδια αρχή για την εποπτεία της προστασίας των δεδομένων. Εάν υπάρχουν περιπτώσεις στις οποίες διαφορετικές εθνικές αρχές έχουν αλληλεπικαλυπτόμενες ή αλληλένδετες εξουσίες, οι εν λόγω αρχές θα πρέπει να συνεργάζονται στενά για τη διασφάλιση της συνεπούς επιβολής.

15. Η πρόταση βρίσκεται επί του παρόντος υπό διαπραγμάτευση από το Συμβούλιο και το Ευρωπαϊκό Κοινοβούλιο. Μόλις εγκριθεί, θα υπάρξει διετής μεταβατική περίοδος, μετά την οποία η πράξη για την ΤΝ θα πρέπει να καταστεί άμεσα εφαρμοστέα στο σύνολό της και υποχρεωτική για τους φορείς εκμετάλλευσης.

Η ΤΝ και η διοίκηση της ΕΕ

16. Τα θεσμικά και λοιπά όργανα και οι οργανισμοί της ΕΕ θα καλύπτονται από την προτεινόμενη πράξη για την ΤΝ όταν ενεργούν ως πάροχοι ή χρήστες συστημάτων ΤΝ.

17. Όταν τα θεσμικά και λοιπά όργανα και οι οργανισμοί της ΕΕ αναπτύσσουν τα συστήματα εσωτερικά (χωρίς να τα «αγοράζουν από το ράφι ως οριστικοποιημένο προϊόν» από την αγορά), θα θεωρούνται «πάροχοι» όταν θέτουν τα εν λόγω συστήματα σε λειτουργία για δική τους χρήση. Ως εκ τούτου, θα πρέπει να συμμορφώνονται με τις σχετικές απαιτήσεις, συμπεριλαμβανομένης της ποιότητας των δεδομένων, της διαφάνειας και της ανθρώπινης εποπτείας.

18. Εάν μια δημόσια αρχή δεν αναπτύσσει το σύστημα εσωτερικά, αλλά το αγοράζει «από το ράφι», θα θεωρείται χρήστης και θα πρέπει να συμμορφώνεται με όλες τις επακόλουθες υποχρεώσεις, συμπεριλαμβανομένων των υποχρεώσεων διαφάνειας έναντι των θιγόμενων προσώπων.

19. Η ΤΝ χρησιμοποιείται ήδη από τη διοίκηση της ΕΕ σε διάφορους τομείς, για παράδειγμα στη μετάφραση: η πλατφόρμα της Διάσκεψης για το Μέλλον της Ευρώπης περιλαμβάνει ένα μεταφραστικό εργαλείο ^[5]. Άλλα παραδείγματα περιλαμβάνουν το σύστημα έγκαιρης προειδοποίησης και ετοιμότητας του Οργανισμού της Ευρωπαϊκής Ένωσης για το Άσυλο και τα εργαλεία που χρησιμοποιεί ο Ευρωπαϊκός Οργανισμός Συνοριοφυλακής και Ακτοφυλακής (Frontex) για την κατάρτιση προφίλ κινδύνου, για παράδειγμα των σκαφών.

20. Ορισμένα παραδείγματα εφαρμογών ΤΝ που σχεδιάζονται από τη διοίκηση της ΕΕ περιλαμβάνουν:

• Έργο της Γενικής Διεύθυνσης Επικοινωνίας της Επιτροπής (ΓΔ COMM) για την ενίσχυση της αλληλεπίδρασης με τους πολίτες στα μέσα κοινωνικής δικτύωσης.
• Έργο της ΓΔ COMM και της Europe Direct για τη δημιουργία αποθετηρίου γνώσεων σχετικά με τις πληροφορίες που χρειάζονται τα μέλη του προσωπικού προκειμένου να απαντούν σε ερωτήσεις των πολιτών σχετικά με τα δικαιώματά τους, ιδίως με τη σύνδεση και την ανάκτηση πληροφοριών που θα μπορούσαν να είναι συναφείς. Η ΤΝ μπορεί επίσης να χρησιμοποιηθεί για την ταξινόμηση των ερωτήσεων.
• Η Eurostat εξετάζει το ενδεχόμενο χρήσης εικονικών βοηθών (chat bots) σε σχέση με την επικοινωνία της σχετικά με στατιστικές πληροφορίες.
• Ο Οργανισμός της ΕΕ για τη Λειτουργική Διαχείριση Συστημάτων ΤΠ Μεγάλης Κλίμακας στον Χώρο Ελευθερίας, Ασφάλειας και Δικαιοσύνης (eu-LISA) σχεδιάζει να ενισχύσει τις επιδόσεις των βάσεων δεδομένων του, ιδίως του Συστήματος Πληροφοριών Σένγκεν, μέσω της ΤΝ, μεταξύ άλλων βελτιώνοντας την ακρίβεια των βιομετρικών δεδομένων.
• Η Ευρωπαϊκή Υπηρεσία Επιλογής Προσωπικού εξετάζει τη δυνατότητα χρήσης της ΤΝ για δραστηριότητες πρόσληψης.

21. Σύμφωνα με τις επικείμενες υποχρεώσεις της στο πλαίσιο της προτεινόμενης πράξης για την ΤΝ, η Επιτροπή έχει ήδη ξεκινήσει εργασίες για την ανάπτυξη κώδικα δεοντολογίας και κατευθυντήριων γραμμών για την ανάπτυξη και τη χρήση της ΤΝ.

Ο ΕΕΠΔ και η προτεινόμενη πράξη για την ΤΝ

22. Με βάση το ισχύον κείμενο της πρότασης πράξης για την ΤΝ, ο ΕΕΠΔ θα έχει τρεις κύριους ρόλους:

1.  Αρμόδια εποπτική αρχή: ο ΕΕΠΔ θα διασφαλίσει ότι τα θεσμικά όργανα της ΕΕ συμμορφώνονται με την πράξη για την ΤΝ, η οποία περιλαμβάνει την παρακολούθηση και την επιβολή της πράξης.

2. Κοινοποιών οργανισμός: τουλάχιστον σε ορισμένες περιπτώσεις, ο ΕΕΠΔ θα διενεργεί αξιολογήσεις συμμόρφωσης για τα θεσμικά όργανα της ΕΕ που θα αναπτύξουν συστήματα ΤΝ υψηλού κινδύνου.

3. Αρχή εποπτείας της αγοράς: δεν είναι ακόμη σαφές τι θα συνεπάγεται αυτό. Ο ΕΕΠΔ εξέφρασε τις αμφιβολίες του στην κοινή γνώμη ΕΣΠΔ-ΕΕΠΔ σχετικά με την πράξη για την ΤΝ και ζήτησε από την Επιτροπή διευκρινίσεις σχετικά με το τι θα περιλαμβάνει η αγορά ΤΝ για τα θεσμικά και λοιπά όργανα και τους οργανισμούς της ΕΕ και αν η εποπτεία της θα αφορά αποκλειστικά τα θεσμικά όργανα της ΕΕ ή και τρίτους και ιδιωτικές εταιρείες που παρέχουν συστήματα και υπηρεσίες ΤΝ.

23. Ο ΕΕΠΔ θα συμμετέχει επίσης στο νέο ευρωπαϊκό συμβούλιο για την ΤΝ, το οποίο θα εκδίδει γνωμοδοτήσεις και συστάσεις για θέματα ΤΝ. Σε γενικές γραμμές, αυτό θα απαιτήσει προπαρασκευαστικές εργασίες για την παρακολούθηση των τελευταίων επικαιροποιήσεων της τεχνολογίας ΤΝ και την παρακολούθηση των διαδικασιών τυποποίησης.

24. Ο ΕΕΠΔ θεωρεί ότι απαιτούνται περαιτέρω διευκρινίσεις σχετικά με τη νομοθεσία για την ΤΝ προκειμένου να προσδιοριστεί η έκταση των νέων ρόλων της και να εξεταστεί ο τρόπος με τον οποίο η πράξη για την ΤΝ θα επηρεάσει και θα αλληλεπιδράσει με την υφιστάμενη νομοθεσία για την προστασία των δεδομένων ^[6].

25. Σύμφωνα με τον ΕΕΠΔ, υπάρχει περιθώριο βελτίωσης στην προτεινόμενη πράξη για την ΤΝ όσον αφορά τις υποχρεώσεις διαφάνειας έναντι του χρήστη, δηλαδή την ενημέρωση του κοινού σχετικά με τον χρόνο και τον τρόπο χρήσης των συστημάτων ΤΝ.

26. Ο ΕΕΠΔ διεξάγει ήδη δραστηριότητες εποπτείας, καθώς ορισμένα θεσμικά όργανα της ΕΕ έχουν αρχίσει να αναπτύσσουν συστήματα μηχανικής μάθησης. Ο ΕΕΠΔ διενεργεί ελέγχους και ζητεί πληροφορίες σχετικά με τον τρόπο με τον οποίο τα θεσμικά όργανα της ΕΕ αναπτύσσουν μοντέλα μηχανικής μάθησης χρησιμοποιώντας δεδομένα προσωπικού χαρακτήρα. Ζητείται επίσης η γνώμη του ΕΕΠΔ από τα θεσμικά όργανα που αναπτύσσουν ή προμηθεύονται συστήματα ΤΝ, προκειμένου να τα βοηθήσουν να εξετάσουν δεόντως την προστασία των δεδομένων ήδη από το στάδιο του σχεδιασμού, να εντοπίσουν πιθανούς κινδύνους για τα δικαιώματα και τις ελευθερίες των υποκειμένων των δεδομένων και να τους μετριάσουν επαρκώς.

Συμπέρασμα

27. Οι αρχές της χρηστής διοίκησης περιλαμβάνουν την αλληλεπίδραση με τα άτομα με γνώμονα τις υπηρεσίες, τον εύλογο χαρακτήρα και την αναλογικότητα. Υπονοούν την επεξήγηση των αποφάσεων με σαφή τρόπο και την ενσυναίσθηση με εκείνους που επηρεάζονται από τέτοιες αποφάσεις. Με άλλα λόγια, η καλή διοίκηση σημαίνει να είσαι ανθρώπινος και ανθρώπινος. Όταν οι άνθρωποι αφαιρούνται από την εξίσωση της παροχής υπηρεσιών, είναι σαφές ότι μπορεί να υπάρχουν προκλήσεις. Η συνεχώς αυξανόμενη στροφή προς την ηλεκτρονική διακυβέρνηση και τη χρήση της τεχνητής νοημοσύνης από τις δημόσιες διοικήσεις θα έχει τεράστιο αντίκτυπο στο έργο των θεσμών διαμεσολαβητών, οι οποίοι θα βρίσκονται στην πρώτη γραμμή της αντιμετώπισης των επιπτώσεων αυτής της μετατόπισης.

28. Από την έρευνα που διεξήγαγε ο Οργανισμός Θεμελιωδών Δικαιωμάτων της ΕΕ (FRA) προκύπτει ότι, στην πλειονότητα των περιπτώσεων, η ΤΝ χρησιμοποιείται για σκοπούς αποδοτικότητας ^[7]. Η ΤΝ επηρεάζει όχι μόνο τα θεμελιώδη δικαιώματα στην ιδιωτική ζωή και την προστασία των δεδομένων, αλλά και το θεμελιώδες δικαίωμα στην ισότητα και την απαγόρευση των διακρίσεων (με τα δικαιώματα των ειδικών ή ευάλωτων ομάδων να απουσιάζουν συχνά από τη συζήτηση) και το θεμελιώδες δικαίωμα πρόσβασης σε αποτελεσματικά μέσα έννομης προστασίας (συμπεριλαμβανομένης της επίγνωσης ότι οι άνθρωποι έχουν το δικαίωμα να υποβάλλουν καταγγελία). Οι αποφάσεις πρέπει να είναι δίκαιες και διαφανείς και οι τρόποι προσβολής των αποφάσεων πρέπει να είναι διαθέσιμοι και προσβάσιμοι.

29. Ο FRA κατάρτισε κατάλογο σημείων ελέγχου για να βοηθήσει τις επιχειρήσεις και τις διοικήσεις να σέβονται τα θεμελιώδη δικαιώματα κατά τη χρήση της ΤΝ ^[8]. Πρόκειται για χρήσιμο πόρο για τα γραφεία διαμεσολαβητών. Τα συμπεράσματα της διάσκεψης του ENO ^{του 2022 [9]} περιλάμβαναν την πρόταση κατάρτισης καταλόγου ορθών πρακτικών για τις δημόσιες διοικήσεις που χρησιμοποιούν ΤΝ. Ένας τέτοιος κατάλογος θα μπορούσε να είναι πολύτιμος, ιδίως δεδομένου ότι θα χρειαστούν ακόμη αρκετά χρόνια πριν τεθούν σε ισχύ τα πρότυπα και οι διασφαλίσεις που προτείνονται στο σχέδιο πράξης για την ΤΝ, ενώ εν τω μεταξύ οι δημόσιες διοικήσεις χρησιμοποιούν ήδη την ΤΝ και έχουν άμεσα σχέδια για την ανάπτυξη περισσότερης ΤΝ για την υποστήριξη των καθηκόντων τους.^[10]  Η Ευρωπαία Διαμεσολαβήτρια θα εξετάσει τον τρόπο κατάρτισης ενός τέτοιου καταλόγου, σε συνεργασία με τα μέλη του ENO.

30. Η εμφάνιση της ΤΝ αποτελεί επίσης πρόκληση για τους ανθρώπινους πόρους. Τόσο ο δημόσιος όσο και ο ιδιωτικός τομέας έχουν αρχίσει να αναζητούν εμπειρογνώμονες στον τομέα της ΤΝ και η έλλειψη έμπειρων επαγγελματιών θα μπορούσε να αποτελέσει πρόκληση ιδίως για τον δημόσιο τομέα. Η πρόκληση αυτή θα ισχύει και για τα γραφεία του Διαμεσολαβητή και ο Ευρωπαίος Διαμεσολαβητής θα εξετάσει τον τρόπο αντιμετώπισής της, μεταξύ άλλων στο πλαίσιο του ENO.

31. Εάν εγκριθεί η πράξη για την ΤΝ, θα υπάρχουν μεγάλα περιθώρια περαιτέρω συνεργασίας στο πλαίσιο του ENO. Η δομή διακυβέρνησης της επιβολής, της εφαρμογής και της ανταλλαγής πληροφοριών, που προτείνεται στο σχέδιο πράξης για την ΤΝ, βασίζεται σε ένα σύστημα αλληλεπίδρασης μεταξύ εθνικών και ενωσιακών φορέων. Οι υπηρεσίες του Διαμεσολαβητή θα μπορούσαν επίσης να προσδιοριστούν από τα κράτη μέλη ως εθνικοί φορείς που εποπτεύουν την προστασία των θεμελιωδών δικαιωμάτων. Ο Ευρωπαίος Διαμεσολαβητής θα συνεχίσει να αξιολογεί ποια πρακτικά μέτρα θα μπορούσαν να ληφθούν στο πλαίσιο του ENO στον τομέα αυτό.

32. Αυτή η στρατηγική πρωτοβουλία κατέδειξε ότι, στο μέλλον, είναι πιθανό να υπάρχουν ανοικτά ερωτήματα σχετικά με τη διαφάνεια έναντι του κοινού (για παράδειγμα, όσον αφορά το προτεινόμενο δημόσιο μητρώο αυτοτελών συστημάτων ΤΝ σε επίπεδο ΕΕ). Αναμένεται επίσης ότι θα υπάρξουν δυσκολίες όσον αφορά τη λογοδοσία: την εκπλήρωση των απαιτήσεων για ανθρώπινη εποπτεία· διαφάνεια των μετρήσεων που χρησιμοποιούνται στις διαδικασίες δοκιμών και επικύρωσης ΤΝ· τον τρόπο με τον οποίο θα διασφαλιστεί η ιχνηλασιμότητα· και συμμόρφωση με την υποχρέωση τήρησης αρχείων καταγραφής και τεκμηρίωσης.

33. Αυτή η στρατηγική πρωτοβουλία έδωσε τη δυνατότητα στην Ευρωπαία Διαμεσολαβήτρια και στο ENO να αποκτήσουν μια καλή εικόνα του μελλοντικού κανονιστικού τοπίου της ΕΕ για την ΤΝ, της ανάπτυξής της από τη διοίκηση της ΕΕ και σε ολόκληρο τον δημόσιο τομέα γενικότερα. Εκτός από τη συνέχιση της ανταλλαγής σχετικών πληροφοριών με το ENO, για την οποία η ψηφιοποίηση των δημόσιων διοικήσεων αποτελεί προτεραιότητα, η Ευρωπαία Διαμεσολαβήτρια θα χρησιμοποιήσει αυτή τη στρατηγική πρωτοβουλία για να τροφοδοτήσει πιθανές μελλοντικές εργασίες στον τομέα αυτό και να προετοιμαστεί για πιθανές μελλοντικές καταγγελίες.

[1] Παράδειγμα τέτοιας καθοδήγησης αποτελεί η έκθεση του Ολλανδού Διαμεσολαβητή με τίτλο «The citizen is not a dataset» (Ο πολίτης δεν είναι σύνολο δεδομένων): https://www.nationaleombudsman.nl/nieuws/onderzoeken/the-citizen-is-not-a-dataset

[2] Πρόταση κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη (πράξη για την τεχνητή νοημοσύνη) https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206

[3] Πρόταση κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη (πράξη για την τεχνητή νοημοσύνη) https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206

Βλ. επίσης https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence

[4] Το πλήρες κείμενο των εκθέσεων της συνεδρίασης διατίθεται στη διεύθυνση:

https://www.ombudsman.europa.eu/en/doc/inspection-report/en/149338

https://www.ombudsman.europa.eu/en/doc/inspection-report/en/154290

[5] Περισσότερες πληροφορίες στην πλατφόρμα: https://ec.europa.eu/commission/presscorner/api/files/attachment/868811/Future%20of%20Europe%20Conference%20Introducing%20platform.pdf.pdf  

[6] Βλ. κοινή γνωμοδότηση ΕΕΠΔ-ΕΕΠΔ σχετικά με την πρόταση πράξης για την τεχνητή νοημοσύνη: https://edps.europa.eu/node/7140_en

[7] Βλ. έκθεση του FRA´s του 2020 με τίτλο «Getting the Future Right: Τεχνητή νοημοσύνη και θεμελιώδη δικαιώματα», διατίθεται στη διεύθυνση: https://fra.europa.eu/sites/default/files/fra_uploads/fra-2020-artificial-intelligence_en.pdf

[8] https://fra.europa.eu/en/publications-and-resources/infographics/fundamental-rights-ai-what-consider

[9] https://www.ombudsman.europa.eu/en/event/en/1438

[10] Κατά τη διάρκεια της διάσκεψης του ENO το 2022, ο Δανός Κοινοβουλευτικός Διαμεσολαβητής πρότεινε ότι οι διαμεσολαβητές θα μπορούσαν ήδη να προσπαθήσουν να συνεργαστούν με τις δημόσιες αρχές κατά τη διάρκεια της φάσης ανάπτυξης νέων ψηφιακών συστημάτων που χρησιμοποιούν ΤΝ, ώστε να βοηθήσουν τους σχεδιαστές να λάβουν υπόψη τις νομικές υποχρεώσεις και τις αρχές της χρηστής διοίκησης.