Τι θα διαβάσετε στο άρθρο:
- Ποιες αρμόδιες αρχές προβλέπει το ελληνικό σχέδιο νόμου για την εφαρμογή του AI Act.
- Πότε ένα σύστημα Τεχνητής Νοημοσύνης στην υγεία θεωρείται «υψηλού κινδύνου».
- Τι σημαίνει στην πράξη η ανθρώπινη εποπτεία.
- Γιατί το κρίσιμο ερώτημα δεν είναι μόνο ποιος καινοτομεί, αλλά ποιος ελέγχει, ποιος καταγράφει και ποιος λογοδοτεί.
Το ελληνικό σχέδιο νόμου για την εφαρμογή του ευρωπαϊκού Κανονισμού για την Τεχνητή Νοημοσύνη δεν είναι ένα ακόμη γενικό κείμενο για την «ψηφιακή μετάβαση». Είναι το πλαίσιο που θα καθορίσει ποιος θα ελέγχει τα συστήματα Τεχνητής Νοημοσύνης όταν αυτά χρησιμοποιούνται σε κρίσιμους τομείς, μεταξύ των οποίων και η υγεία. Το σχέδιο νόμου τέθηκε σε δημόσια ηλεκτρονική διαβούλευση στις 21 Ιουνίου 2026 και η διαβούλευση ολοκληρώθηκε στις 6 Ιουλίου 2026, στις 09:00.
Το πρώτο που αλλάζει είναι ότι η Ελλάδα ορίζει εθνική αρχιτεκτονική εποπτείας για το AI Act. Η Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα ορίζεται ως αρμόδια αρχή εποπτείας της αγοράς για τρεις μεγάλες κατηγορίες. Τις απαγορευμένες πρακτικές Τεχνητής Νοημοσύνης, τα συστήματα υψηλού κινδύνου του Παραρτήματος ΙΙΙ του Κανονισμού και τα συστήματα για τα οποία ισχύουν υποχρεώσεις διαφάνειας. Παράλληλα, η ΑΠΔΠΧ ορίζεται και ως ενιαίο σημείο επαφής για την εφαρμογή του Κανονισμού στην Ελλάδα.
Αυτό όμως δεν σημαίνει ότι όλη η Τεχνητή Νοημοσύνη στην υγεία θα ελέγχεται αποκλειστικά από την ΑΠΔΠΧ. Εδώ βρίσκεται ένα από τα πιο κρίσιμα σημεία του νομοσχεδίου. Για τα συστήματα ΤΝ υψηλού κινδύνου που συνδέονται με προϊόντα τα οποία ήδη καλύπτονται από ενωσιακή νομοθεσία εναρμόνισης, η εποπτεία ανατίθεται στις υφιστάμενες αρχές εποπτείας της αγοράς που έχουν αρμοδιότητα για τα συγκεκριμένα προϊόντα. Στον χώρο της υγείας αυτό αφορά ιδίως συστήματα ΤΝ που είναι ενσωματωμένα σε ιατροτεχνολογικά προϊόντα ή in vitro διαγνωστικά, καθώς ο AI Act παραπέμπει ρητά στους Κανονισμούς 2017/745 και 2017/746.
Με απλά λόγια, άλλο πράγμα είναι ένα σύστημα ΤΝ που χρησιμοποιείται από μια δημόσια αρχή για να αξιολογήσει πρόσβαση σε υπηρεσίες υγείας και άλλο ένα λογισμικό ΤΝ που αποτελεί μέρος ιατροτεχνολογικού προϊόντος, για παράδειγμα ενός διαγνωστικού εργαλείου. Το πρώτο μπορεί να εμπίπτει στο Παράρτημα ΙΙΙ και να εποπτεύεται κεντρικά από την ΑΠΔΠΧ. Το δεύτερο θα πρέπει να αξιολογείται και μέσα από το πλαίσιο των ιατροτεχνολογικών προϊόντων, εκεί όπου υπάρχουν ήδη διαδικασίες συμμόρφωσης, τεχνικοί φάκελοι, πιστοποιήσεις και εποπτεία αγοράς. Ο ΕΟΦ, για παράδειγμα, έχει ήδη διαδικασίες για κατασκευαστές, εισαγωγείς, διανομείς και in vitro διαγνωστικά προϊόντα, με υποχρεώσεις κοινοποίησης, εγγραφής και διάθεσης τεχνικών φακέλων.
Το δεύτερο που αλλάζει είναι ότι η έννοια «υψηλού κινδύνου» αποκτά πρακτικό περιεχόμενο. Σύμφωνα με τον AI Act, ένα σύστημα ΤΝ θεωρείται υψηλού κινδύνου όταν χρησιμοποιείται ως κατασκευαστικό στοιχείο ασφάλειας προϊόντος ή όταν είναι το ίδιο προϊόν που υπάγεται σε συγκεκριμένη ενωσιακή νομοθεσία και απαιτεί αξιολόγηση συμμόρφωσης από τρίτο μέρος. Πέρα από αυτά, υψηλού κινδύνου θεωρούνται και τα συστήματα που αναφέρονται στο Παράρτημα ΙΙΙ, εφόσον μπορούν να επηρεάσουν την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα.
Στην υγεία, το Παράρτημα ΙΙΙ δεν αφήνει πολλά περιθώρια παρερμηνείας. Υψηλού κινδύνου μπορεί να είναι ένα σύστημα που χρησιμοποιείται από δημόσια αρχή ή για λογαριασμό της για να αξιολογεί αν ένας πολίτης δικαιούται βασικές δημόσιες παροχές και υπηρεσίες, συμπεριλαμβανομένων υπηρεσιών υγειονομικής περίθαλψης. Υψηλού κινδύνου θεωρούνται επίσης συστήματα που χρησιμοποιούνται για εκτίμηση κινδύνου και τιμολόγηση σε ασφάλιση ζωής και υγείας, καθώς και συστήματα που αξιολογούν ή ταξινομούν κλήσεις έκτακτης ανάγκης ή συμμετέχουν στην προτεραιοποίηση υπηρεσιών πρώτης ανταπόκρισης, συμπεριλαμβανομένης της διαλογής ασθενών σε επείγοντα ιατρικά περιστατικά.
Αυτό σημαίνει ότι η συζήτηση δεν αφορά μόνο το αν ένας αλγόριθμος «βλέπει» καλύτερα μια ακτινογραφία ή αν βοηθά έναν γιατρό να εντοπίσει ένα εύρημα. Αφορά και πολύ πιο ευαίσθητες λειτουργίες, ποιος παίρνει προτεραιότητα, ποιος θεωρείται επιλέξιμος για μια υπηρεσία, ποιος χαρακτηρίζεται υψηλού ασφαλιστικού κινδύνου, ποιο περιστατικό περνά πρώτο στη γραμμή των επειγόντων. Εκεί η Τεχνητή Νοημοσύνη δεν είναι απλώς τεχνολογικό εργαλείο. Μπορεί να επηρεάσει πρόσβαση, χρόνο, κόστος, δικαιώματα και τελικά την ίδια την εμπιστοσύνη του ασθενή στο σύστημα.
Το τρίτο που αλλάζει είναι ότι η ανθρώπινη εποπτεία παύει να είναι αόριστη διατύπωση. Ο AI Act προβλέπει ότι τα συστήματα υψηλού κινδύνου πρέπει να σχεδιάζονται έτσι ώστε να μπορούν να εποπτεύονται αποτελεσματικά από φυσικά πρόσωπα κατά τη διάρκεια της χρήσης τους. Ο άνθρωπος που εποπτεύει πρέπει να μπορεί να κατανοεί τις δυνατότητες και τους περιορισμούς του συστήματος, να αναγνωρίζει δυσλειτουργίες ή απρόσμενες επιδόσεις, να γνωρίζει τον κίνδυνο υπερβολικής εξάρτησης από την έξοδο του αλγορίθμου, να ερμηνεύει σωστά τα αποτελέσματα και, όπου χρειάζεται, να αγνοεί, να παρακάμπτει ή να αναστρέφει την πρόταση του συστήματος.
Στην πράξη, αυτό σημαίνει ότι η «ανθρώπινη εποπτεία» δεν μπορεί να εξαντλείται σε μια τυπική υπογραφή στο τέλος της διαδικασίας. Αν ο γιατρός, ο επαγγελματίας υγείας, ο διοικητικός υπάλληλος ή ο ασφαλιστικός αξιολογητής δεν γνωρίζει πώς λειτουργεί το σύστημα, ποια δεδομένα χρησιμοποιεί, ποια είναι τα όριά του και πότε πρέπει να το αμφισβητήσει, τότε η εποπτεία είναι περισσότερο επίφαση παρά ουσιαστική δικλείδα ασφαλείας.
Το τέταρτο που αλλάζει αφορά το Δημόσιο. Το σχέδιο νόμου προβλέπει τη δημιουργία ενιαίου Μητρώου συστημάτων Τεχνητής Νοημοσύνης για τα συστήματα που χρησιμοποιούνται από φορείς του δημόσιου τομέα. Πριν από την έναρξη λειτουργίας ενός συστήματος ΤΝ, κάθε δημόσιος φορέας θα πρέπει να υποβάλλει δήλωση καταχώρισης, στην οποία θα περιλαμβάνονται, μεταξύ άλλων, ο σκοπός του συστήματος, οι κατηγορίες δεδομένων που χρησιμοποιούνται, οι αποφάσεις που λαμβάνονται ή υποστηρίζονται από αυτό, οι πιθανοί κίνδυνοι για δικαιώματα και ομάδες πληθυσμού, καθώς και η τεκμηριωμένη ταξινόμηση του συστήματος, ιδίως αν είναι υψηλού κινδύνου.
Αυτό είναι κρίσιμο για την υγεία. Αν ένα δημόσιο νοσοκομείο, ένας οργανισμός, μια ψηφιακή πλατφόρμα ή ένας φορέας που διαχειρίζεται πρόσβαση σε υπηρεσίες υγείας χρησιμοποιεί σύστημα ΤΝ, δεν αρκεί να λέει ότι «το σύστημα βοηθά». Πρέπει να δηλώνει τι κάνει, με ποια δεδομένα, σε ποιο σημείο της διαδικασίας παρεμβαίνει, αν υποστηρίζει ή επηρεάζει αποφάσεις και ποιοι κίνδυνοι υπάρχουν για ασθενείς, χρονίως πάσχοντες, ηλικιωμένους, άτομα με αναπηρία ή άλλες ευάλωτες ομάδες. Για τα συστήματα που ήδη χρησιμοποιούνται από φορείς του Δημοσίου πριν από την έναρξη ισχύος του νόμου, το σχέδιο προβλέπει υποχρέωση καταχώρισης στο Μητρώο έως τις 31 Οκτωβρίου 2026.
Το πέμπτο που αλλάζει είναι ότι δημιουργείται ενιαίο σύστημα υποβολής καταγγελιών στην ΑΠΔΠΧ. Αν η καταγγελία αφορά άλλη αρμόδια αρχή εποπτείας της αγοράς, η ΑΠΔΠΧ τη διαβιβάζει και ενημερώνει τον καταγγέλλοντα. Η αρμόδια αρχή πρέπει μέσα σε 30 ημέρες να αποφανθεί αν έχει αρμοδιότητα και μέσα σε 60 ημέρες να αξιολογήσει την καταγγελία και να ενημερώσει για την πορεία της. Αν δεν υπάρξει η προβλεπόμενη ανταπόκριση, η ΑΠΔΠΧ μπορεί να αναλάβει η ίδια την εξέταση και την τυχόν επιβολή κυρώσεων.
Αυτό είναι ίσως το πιο πρακτικό σημείο για τον πολίτη. Αν ένας ασθενής θεωρεί ότι επηρεάστηκε από χρήση ΤΝ σε δημόσια υπηρεσία, σε αξιολόγηση πρόσβασης, σε διαχείριση δεδομένων ή σε διαδικασία που δεν μπορεί να κατανοήσει, θα πρέπει να υπάρχει συγκεκριμένη διαδρομή καταγγελίας. Το ερώτημα είναι αν αυτή η διαδρομή θα είναι πράγματι προσβάσιμη στον μέσο πολίτη ή αν θα παραμείνει ένα θεσμικό εργαλείο που θα καταλαβαίνουν μόνο οι ειδικοί.
Το έκτο που αλλάζει είναι η δυνατότητα κυρώσεων. Το σχέδιο νόμου προβλέπει ότι η ΑΠΔΠΧ και οι αρμόδιες αρχές εποπτείας μπορούν να απευθύνουν προειδοποιήσεις, επιπλήξεις, να επιβάλλουν τα διοικητικά πρόστιμα του άρθρου 99 του AI Act και, επιπλέον, περιοδικές χρηματικές κυρώσεις που, για επιχειρήσεις, μπορούν να φτάνουν έως το 2% του μέσου ημερήσιου παγκόσμιου κύκλου εργασιών ή εισοδήματος του προηγούμενου οικονομικού έτους. Τα μέτρα αυτά μπορούν να επιβάλλονται και σε φορείς του δημόσιου τομέα.
Το συμπέρασμα για την υγεία είναι σαφές. Η Τεχνητή Νοημοσύνη δεν αντιμετωπίζεται πλέον μόνο ως εργαλείο καινοτομίας, αλλά ως σύστημα που μπορεί να δημιουργεί ευθύνη. Και αυτή η ευθύνη δεν σταματά στον κατασκευαστή του λογισμικού. Αφορά τον πάροχο, τον φορέα που το χρησιμοποιεί, την αρχή που το εποπτεύει, τον άνθρωπο που καλείται να το ελέγξει και τελικά τον ασθενή που επηρεάζεται από το αποτέλεσμά του.
Η μεγάλη εκκρεμότητα για την Ελλάδα είναι αν το πλαίσιο θα λειτουργήσει με πραγματική τεχνική, κλινική και διοικητική επάρκεια. Η ΑΠΔΠΧ έχει θεσμική βαρύτητα σε ζητήματα δεδομένων και δικαιωμάτων. Η ΕΕΤΤ αποκτά ρόλο τεχνικής υποστήριξης μέσω Κέντρου Συντονισμού και Τεχνογνωσίας για την ΤΝ, το οποίο θα υποστηρίζει τις αρμόδιες αρχές, θα παρέχει εκπαίδευση και θα συμβάλλει στη λειτουργία ρυθμιστικού δοκιμαστηρίου. Όμως η υγεία απαιτεί και ειδική γνώση, κλινική αξιολόγηση, κατανόηση ιατρικών ροών, εμπειρία σε ιατροτεχνολογικά προϊόντα, φαρμακοεπαγρύπνηση, υλικοεπαγρύπνηση, κυβερνοασφάλεια και προστασία δεδομένων υγείας.
Γι’ αυτό το πραγματικό ερώτημα δεν είναι αν η Τεχνητή Νοημοσύνη θα μπει στην υγεία. Έχει ήδη μπει και θα μπαίνει όλο και περισσότερο. Το πραγματικό ερώτημα είναι αν το σύστημα εποπτείας θα μπορεί να διακρίνει ανάμεσα σε ένα χρήσιμο εργαλείο υποστήριξης και σε έναν αλγόριθμο που επηρεάζει δικαιώματα, πρόσβαση, προτεραιότητες και αποφάσεις χωρίς επαρκή έλεγχο.
Στην υγεία, η εμπιστοσύνη δεν κερδίζεται επειδή ένα σύστημα είναι «έξυπνο». Κερδίζεται όταν είναι τεκμηριωμένο, ελεγχόμενο, καταγεγραμμένο, εξηγήσιμο εκεί όπου πρέπει, και όταν υπάρχει άνθρωπος με γνώση και ευθύνη που μπορεί να πει, εδώ το σύστημα βοηθά, εδώ κάνει λάθος, εδώ σταματάμε.