Τα chatbots τεχνητής νοημοσύνης (AI chatbots) αλλάζουν τον τρόπο με τον οποίο σκεφτόμαστε, μαθαίνουμε και αντιλαμβανόμαστε τον κόσμο γύρω μας. Ωστόσο, ένας από τους πιο ευαίσθητους και συχνά προβληματικούς τομείς της ζωής είναι η αυξανόμενη χρήση εργαλείων γενετικής τεχνητής νοημοσύνης (GenAI) στον τομέα της υγείας, όπως προειδοποιεί η παγκόσμια εταιρεία κυβερνοασφάλειας ESET.
Τα chatbots τεχνητής νοημοσύνης μπορούν να αποτελέσουν χρήσιμα εργαλεία για την προετοιμασία μιας ιατρικής επίσκεψης, για την κατανόηση ενός ιατρικού όρου ή για τη διαμόρφωση ερωτήσεων προς τον γιατρό σας.
Ωστόσο, υπάρχουν σημαντικοί κίνδυνοι όταν ένα εργαλείο τεχνητής νοημοσύνης καλείται να αναλάβει το ρόλο του γιατρού. Το πρόβλημα δεν περιορίζεται μόνο στην πιθανότητα λανθασμένων συμβουλών. Οι χρήστες ενδέχεται επίσης να μοιραστούν εξαιρετικά ευαίσθητες προσωπικές πληροφορίες με συστήματα των οποίων οι διαδικασίες προστασίας της ιδιωτικότητας, οι πρακτικές διαχείρισης δεδομένων και οι νομικές υποχρεώσεις διαφέρουν από εκείνες ενός γιατρού ή ενός νοσοκομείου. Ως αποτέλεσμα, τα δεδομένα τους μπορεί να καταλήξουν σε άγνωστους φορείς ή να εκτεθούν σε τρίτους.
Μελέτη του Πανεπιστημίου της Οξφόρδης, που δημοσιεύθηκε τον Φεβρουάριο στο «Nature Medicine», διαπίστωσε ότι οι χρήστες συχνά δε γνώριζαν ποιες πληροφορίες έπρεπε να μοιραστούν με τα μεγάλα γλωσσικά μοντέλα (LLMs). Επίσης, ότι τα LLM έδιναν πολύ διαφορετικές απαντήσεις ακόμη και όταν οι ερωτήσεις διέφεραν ελάχιστα και ότι παρείχαν συχνά συνδυασμό σωστών και λανθασμένων συμβουλών, ενώ οι χρήστες δυσκολεύονταν να διακρίνουν τη διαφορά.
Υπάρχουν όμως και κίνδυνοι που δεν σχετίζονται άμεσα με την υγεία. Ο πιο προφανής είναι ότι η κοινοποίηση ευαίσθητων ιατρικών πληροφοριών σε ένα chatbot μπορεί να οδηγήσει στη χρήση αυτών των δεδομένων για την εκπαίδευση μοντέλων ή ακόμη και στη διαρροή τους σε τρίτους. Έχουν καταγραφεί περιπτώσεις κατά τις οποίες μοντέλα αποκάλυψαν δεδομένα που είχαν δώσει οι χρήστες τους.
Τέλος, η ESET προειδοποιεί πως όταν ευαίσθητα δεδομένα διακινούνται μεταξύ πολλών οργανισμών, αυξάνεται και η πιθανότητα να πέσουν θύματα κυβερνοεπιθέσεων.
Τα δεδομένα υγείας είναι ιδιαίτερα πολύτιμα για τους απατεώνες επειδή διατηρούν την αξία τους για μεγάλο χρονικό διάστημα, καθώς συνήθως δεν μπορούν να αντικατασταθούν ή να επανεκδοθούν, μπορεί να περιλαμβάνουν ασφαλιστικές πληροφορίες που επιτρέπουν την υποβολή ψευδών αιτήσεων αποζημίωσης ή τη λήψη ιατρικών υπηρεσιών στο όνομα του θύματος. Επιπλέον, μπορούν να χρησιμοποιηθούν για εκβιασμό ή άλλες μορφές απάτης.
Πολλά εργαλεία τεχνητής νοημοσύνης στον χώρο της Υγείας δεν υπάγονται στους κανονισμούς προστασίας προσωπικών δεδομένων στις ΗΠΑ. Αυτό σημαίνει ότι οι πάροχοί τους ενδέχεται να μην υπόκεινται στις αυστηρές απαιτήσεις προστασίας δεδομένων που θα περίμενε κανείς από έναν οργανισμό υγείας.
Συμβουλές για ασθενείς
Η ESET συμβουλεύει τους ασθενείς να αποφεύγουν τα γενικής χρήσης chatbots και να προτιμούν εργαλεία που έχουν σχεδιαστεί ειδικά για ερωτήσεις σχετικές με την υγεία. Επίσης, είναι σημαντικό να ελέγχουν αν η υπηρεσία εξηγεί πώς διαχειρίζεται τα δεδομένα του χρήστη, αν χρησιμοποιεί τις ερωτήσεις του για την εκπαίδευση μοντέλων, αν κοινοποιεί πληροφορίες σε τρίτους και αν καλύπτεται από τη νομοθεσία προστασίας προσωπικών δεδομένων.
Για να προστατέψουν την ιδιωτικότητα τους, οι χρήστες θα πρέπει να μην ανεβάζουν ποτέ ιατρικά έγγραφα, αποτελέσματα εξετάσεων ή άλλα ευαίσθητα αρχεία, εκτός αν γνωρίζουν ακριβώς πώς θα χρησιμοποιηθούν. Επίσης, να αποφεύγουν να δίνουν ονόματα, διευθύνσεις, στοιχεία ασφάλισης, αριθμό μητρώου ασθενών ή άλλα αναγνωριστικά στοιχεία και να βεβαιώνονται ότι οι λειτουργίες εκπαίδευσης και αποθήκευσης ιστορικού συνομιλιών είναι απενεργοποιημένες. Τέλος, να μην αντιμετωπίζουν μια απάντηση του εργαλείου ως διάγνωση και να μην αγνοούν συμπτώματα επειδή μια μηχανή έδωσε μια καθησυχαστική απάντηση. «Η τεχνητή νοημοσύνη μπορεί να συμπληρώσει την ανθρώπινη ιατρική κρίση, αλλά δεν μπορεί να την αντικαταστήσει», καταλήγει η ESET.
ΑΠΕ-ΜΠΕ