Στις 12 Ιουνίου 2024 δημοσιεύθηκε στην Επίσημη Εφημερίδα της ΕΕ ο Κανονισμός 2024/1689 (European AI Act), μέσω του οποίου θεσπίζεται ένα ενιαίο πλαίσιο εναρμονισμένων κανόνων που διέπουν τη χρήση και τη λειτουργία των συστημάτων Τεχνητής Νοημοσύνης στην εσωτερική αγορά.

Ως Τεχνητή Νοημοσύνη νοείται ο κλάδος της πληροφορικής που δημιουργεί υπολογιστικά συστήματα ή/και μηχανές τα οποία μιμούνται τις ανθρώπινες γνωστικές ικανότητες. Συγκεκριμένα το άρθρο 3 Κεφάλαιο Ι (ΓΕΝΙΚΕΣ ΔΙΑΤΑΞΕΙΣ) ορίζει ένα σύστημα ΤΝ ως "μηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα".

Ο Σκοπός του παρόντα Κανονισμού είναι διττός. Αφενός, προωθεί την υιοθέτηση μιας ανθρωποκεντρικής πολιτικής με στόχο την προστασία των θεμελιωδών δικαιωμάτων και των αξιών της ΕΕ από τους κινδύνους που επιφέρει η ΤΝ. Αφετέρου, στοχεύει στην ανάπτυξη των επενδύσεων, της καινοτομίας και της ανταγωνιστικότητας στον χώρο της ΤΝ, με το να "εξασφαλίζει την ελεύθερη διασυνοριακή κυκλοφορία αγαθών και υπηρεσιών που βασίζονται στην ΤΝ, εμποδίζοντας έτσι τα κράτη μέλη να επιβάλλουν περιορισμούς στην ανάπτυξη, την εμπορία και τη χρήση συστημάτων ΤΝ, εκτός εάν αυτό επιτρέπεται ρητά από τον παρόντα κανονισμό." (Αιτ. σκέψη 1η)

Ο προαναφερθείς Κανονισμός αποτελείται από 180 αιτιολογικές σκέψεις, 113 άρθρα και 13 παραρτήματα.Ένα από τα καίρια σημεία του Κανονισμού βρίσκεται στο άρθρο 5 του Κεφαλαίου ΙΙ, και αφορά στις απαγορευμένες πρακτικές της ΤΝ.Σύμφωνα με αυτό απαγορεύονται χειριστικές ή παραπλανητικές πρακτικές, οι οποίες δύνανται να στρεβλώσουν τις συνειδητές αποφάσεις ενός φυσικού προσώπου ή ομάδας φυσικών προσώπων με αποτέλεσμα να προκαλέσουν δυνητική ή/και πραγματική βλάβη. Επιπρόσθετα, θέτει απαγορεύσεις σε συστήματα ΤΝ που τείνουν να εκμεταλλευτούν τα ευαίσθητα χαρακτηριστικά ενός φυσικού προσώπου ή ομάδας φυσικών προσώπων όπως η ηλικία, η αναπηρία, η οικονομική κατάσταση, η κοινωνική θέση, ή/και να διεξάγουν συμπεράσματα βάση των βιομετρικών δεδομένων των προσώπων αυτώνόπως η φυλή, τα πολιτικά φρονήματα, οι θρησκευτικές πεποιθήσεις, η σεξουαλική ζωή κ.α. Μεταξύ αυτών, ο Κανονισμός απαγορεύει και τις πρακτικές ΤΝ που στοχεύουν στην αξιολόγηση του προφίλ των πολιτών από τις δημόσιες αρχές, όπως και τα συστήματα ΤΝ εξ αποστάσεως βιομετρικής ταυτοποίησης των πολιτών σε «πραγματικό χρόνο» που βρίσκονται σε δημόσια θέα για σκοπούς επιβολής του νόμου, πλην των εξαιρέσεων που προβλέπονται στον Κανονισμό.

Κατηγοριοποίηση Κινδύνου με βάση τον Κανονισμό

Ο Κανονισμός πέρα από τις παραπάνω απαγορευμένες πρακτικές που επιφέρουν μη αποδεκτούς κινδύνους στην εφαρμογή των συστημάτων ΤΝ περιλαμβάνει και άλλους «ηπιότερης» έντασης κινδύνους , οι οποίοι μπορεί να είναι μεν αποδεκτοί αλλά ταυτόχρονα υπόκεινται σε εποπτεία. Οι κίνδυνοι αυτοί προβλέπονται στο άρθρο 6 του Κεφαλαίου ΙΙΙ. Συγκεκριμένα, διακρίνονται σε πρακτικές ΤΝ υψηλού, ειδικού ή περιορισμένου κινδύνου::

• Συστήματα ΤΝ Υψηλού κινδύνου: Στην κατηγορία των υψηλών κινδύνων κατατάσσονται για παράδειγμα τα συστήματα ΤΝ που αφορούν στην αυτόνομη οδήγηση.Σε αυτήν την κατηγορία συστημάτων ΤΝ οι κανόνες που διέπουν την χρήση και την εφαρμογή τους -δεδομένου ότι εμφορούνται από υψηλό για τον άνθρωπο κίνδυνο- είναι ιδιαίτερα αυστηροί και περιλαμβάνουν διαφάνειας, καθώς και την ανθρώπινη εποπτεία..
• Συστήματα ΤΝ ειδικού/περιορισμένου κινδύνου: Η δεύτερη κατηγορία συστημάτων ΤΝ που χαρακτηρίζονται από ειδικό/περιορισμένο κίνδυνο περιλαμβάνουν τα λεγόμενα διαλογικά ρομπότ (chatbots).. Σε αυτά τα συστήματα ο Κανονισμός επιτάσσει κυρίως υποχρεώσεις διαφάνειας, όπως η ενημέρωση των χρηστών περί́ του περιεχομένου αυτών.
• Συστήματα ΤΝ περιορισμένου/ μηδενικού Κινδύνου: Η τελευταία κατηγορία συστημάτων ΤΝ που αφορά σε περιορισμένο/μηδαμινό κίνδυνο δεν υπόκεινται σε περιορισμό ή/και ρύθμιση. Σε αυτήν την ακίνδυνη κατηγορία συστήματος ΤΝ κατατάσσονται για παράδειγμα οι ειδοποιήσεις ανεπιθύμητων μηνυμάτων..

Επιβολή και Κυρώσεις

O Κανονισμός προβλέπει τα αρμόδια πρόσωπα ή/και αρχές επίβλεψης των κανόνων που θέτει ο Κανονισμός, καθώς και τις κυρώσεις που επιφέρει η παραβίαση αυτών. . Επιγραμματικά́ σε Ενωσιακό επίπεδο, οι αρχές που είναι υπεύθυνες για την εφαρμογή των κανόνων περί ΤΝ είναι η Ευρωπαϊκή Υπηρεσία Τεχνητής Νοημοσύνης (AI Office) Office) και το Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης (AI Board). Σε εθνικό επίπεδο, τα κράτη μέλη έχουν την υποχρέωση συγκρότησης εθνικών αρχών ή την διοχέτευση σε ήδη υφιστάμενες αρχές της εποπτείας των συστημάτων ΤΝ. Πρόκειται για μια στενή και αμφίδρομη συνεργασία μεταξύ των φορέων/αρχών της ΕΕ και των αντίστοιχων των Κρατών Μελών.

Όσον αφορά τις κυρώσεις, ο Κανονισμός στο Κεφάλαιο ΧΙΙ για τις απαγορευμένες πρακτικές TN, προβλέπει ότι οι εταιρείες τιμωρούνται με διοικητικά πρόστιμα για μη συμμόρφωση:

• Έως και 35 εκατ. ευρώ ή 7% του παγκόσμιου ετήσιου κύκλου εργασιών τους.
• Οι παραβάσεις των υποχρεώσεων που θεσπίζονται στον Κανονισμό, μπορούν να επισύρουν πρόστιμα έως 15 εκατ. ευρώ ή το 3% του ετήσιου κύκλου εργασιών.
• Η παροχή επίσης ανακριβών, ελλιπών ή παραπλανητικών πληροφοριών σχετικά με τα συστήματα ΤΝ σε κοινοποιημένους οργανισμούς και εθνικές αρμόδιες αρχές επισύρει πρόστιμα που φτάνουν μέχρι τα 7,5 εκατ. ευρώ ή το 1% του ετήσιου κύκλου εργασιών.

Ορισμοί: Βασικοί όροι όπως ορίζονται στον Κανονισμό

• «σύστημα ΤΝ»: "μηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα."
• «βιομετρικά δεδομένα»: "δεδομένα προσωπικού χαρακτήρα τα οποία προκύπτουν από ειδική τεχνική επεξεργασία συνδεόμενη με τα σωματικά, τα φυσιολογικά ή τα συμπεριφορικά χαρακτηριστικά φυσικού προσώπου, όπως εικόνες προσώπου ή δακτυλοσκοπικά δεδομένα."
• «βιομετρική ταυτοποίηση»: "η αυτοματοποιημένη αναγνώριση σωματικών, φυσιολογικών, συμπεριφορικών ή ψυχολογικών ανθρώπινων χαρακτηριστικών με σκοπό τη διαπίστωση της ταυτότητας ενός φυσικού προσώπου μέσω της αντιπαραβολής των βιομετρικών δεδομένων του εν λόγω ατόμου με βιομετρικά δεδομένα ατόμων που είναι αποθηκευμένα σε βάση δεδομένων"

Συγγραφέας:

 Μαίρη Τσιαχματιώτη

Ασκούμενη Δικηγόρος

mairi.tsiachmatioti@patsalides.com.cy