Επιστήμονες προειδοποιούν για τη χρήση του ChatGPT ως πηγή ιατρικών πληροφοριών, δημοσιοποιώντας μάλιστα ως παράδειγμα την περίπτωση ενός άνδρα που ανέπτυξε σπάνια πάθηση ύστερα από συμβουλή του chatbot σχετικά με την αφαίρεση του επιτραπέζιου αλατιού από τη διατροφή του.. Το άρθρο που δημοσιεύτηκε στο Αμερικανικό ιατρικό περιοδικό Annals of Internal Medicine, ανέφερε την περίπτωση ενός 60χρονου άνδρα που ανέπτυξε βρωμισμό (bromism), ένα σύνδρομο με πολλαπλά νευρολογικά συμπτώματα κι επίσης γνωστό ως τοξικότητα από βρωμίδια, μετά από συμβουλή του ChatGPT. Το άρθρο περιέγραψε τον βρωμισμό ως ένα «ευρέως αναγνωρισμένο» σύνδρομο στις αρχές του 20ού αιώνα, που θεωρούνταν ότι συνέβαλε σχεδόν σε μία στις δέκα ψυχιατρικές εισαγωγές εκείνη την εποχή.
Ο ασθενής ανέφερε στους γιατρούς ότι, αφού διάβασε για τις αρνητικές επιπτώσεις του χλωριούχου νατρίου ή του επιτραπέζιου αλατιού, συμβουλεύτηκε το ChatGPT σχετικά με την αφαίρεση του χλωρίου από τη διατροφή του και άρχισε να παίρνει βρωμίδιο νατρίου για διάστημα τριών μηνών. Αυτό συνέβη παρά το γεγονός ότι είχε διαβάσει ότι «το χλώριο μπορεί να αντικατασταθεί με βρωμίδιο, αλλά πιθανώς για άλλους σκοπούς, όπως ο καθαρισμός». Το βρωμίδιο νατρίου χρησιμοποιούνταν ως ηρεμιστικό στις αρχές του 20ού αιώνα.
Οι συγγραφείς του άρθρου, από το Πανεπιστήμιο της Ουάσινγκτον στο Σιάτλ, ανέφεραν ότι η περίπτωση ανέδειξε «πώς η χρήση της τεχνητής νοημοσύνης μπορεί ενδεχομένως να συμβάλει στην ανάπτυξη στρεβλών αντιλήψεων με αποτέλεσμα αρνητικές επιπτώσεις στην υγεία». Πρόσθεσαν ότι, επειδή δεν είχαν πρόσβαση στο αρχείο συνομιλίας του ασθενούς με το ChatGPT, δεν ήταν δυνατόν να καθοριστεί η ακριβής συμβουλή που είχε λάβει ο άνδρας.
Παρ’ όλα αυτά, όταν οι συγγραφείς συμβουλεύτηκαν οι ίδιοι το ChatGPT σχετικά με το τι θα μπορούσε να αντικαταστήσει το χλώριο, η απάντηση περιελάμβανε επίσης το βρωμίδιο, δεν παρείχε συγκεκριμένη προειδοποίηση για την υγεία και δεν ρώτησε γιατί οι συγγραφείς ζητούσαν τέτοιες πληροφορίες – «όπως θα υπέθετε κανείς ότι θα έκανε ένας ιατρικός επαγγελματίας», όπως έγραψαν. Οι συγγραφείς προειδοποίησαν ότι το ChatGPT και άλλες εφαρμογές τεχνητής νοημοσύνης μπορούν «να παράγουν επιστημονικές ανακρίβειες, να μην έχουν τη δυνατότητα κριτικής συζήτησης των αποτελεσμάτων και τελικά να προάγουν τη διάδοση παραπληροφόρησης».
Η εταιρεία ανακοίνωσε την αναβάθμιση του chatbot την προηγούμενη εβδομάδα και υποστήριξε ότι ένα από τα μεγαλύτερα πλεονεκτήματά του ήταν στον τομέα της υγείας. Δήλωσε ότι το ChatGPT – πλέον τροφοδοτούμενο από το μοντέλο GPT-5 – θα ήταν καλύτερο στην απάντηση ερωτήσεων σχετικά με την υγεία και θα ήταν επίσης πιο ενεργό στο να «σηματοδοτεί πιθανές ανησυχίες», όπως σοβαρές σωματικές ή ψυχικές παθήσεις. Ωστόσο, τόνισε ότι το chatbot δεν αποτελεί υποκατάστατο επαγγελματικής βοήθειας. Οι οδηγίες του chatbot δηλώνουν επίσης ότι δεν προορίζεται «για χρήση στη διάγνωση ή θεραπεία οποιασδήποτε κατάστασης υγείας».
Το άρθρο του περιοδικού, που δημοσιεύθηκε την προηγούμενη εβδομάδα πριν από την κυκλοφορία του GPT-5, ανέφερε ότι ο ασθενής φαίνεται να χρησιμοποίησε μια προηγούμενη έκδοση του ChatGPT. Αν και αναγνώρισε ότι η τεχνητή νοημοσύνη θα μπορούσε να λειτουργήσει ως γέφυρα μεταξύ επιστημόνων και κοινού, το άρθρο τόνισε ότι η τεχνολογία ενέχει επίσης τον κίνδυνο προώθησης «αποσπασματικών πληροφοριών» και ότι ήταν πολύ απίθανο ένας ιεπαγγελματίας να είχε προτείνει βρωμίδιο νατρίου όταν ένας ασθενής ζήτησε υποκατάστατο για το επιτραπέζιο αλάτι. Ως αποτέλεσμα, οι συγγραφείς τόνισαν ότι οι γιατροί θα χρειαστεί να λάβουν υπόψη τη χρήση της τεχνητής νοημοσύνης όταν ελέγχουν από πού οι ασθενείς αντλούν τις πληροφορίες τους.
Σύμφωνα με τους συγγραφείς, ο ασθενής με βρωμισμό παρουσιάστηκε σε νοσοκομείο και ισχυρίστηκε ότι ο γείτονάς του πιθανόν τον δηλητηρίαζε. Δήλωσε επίσης ότι είχε πολλούς διατροφικούς περιορισμούς. Παρά τη δίψα του, παρατηρήθηκε ότι ήταν παρανοϊκός σχετικά με το νερό που του προσφερόταν. Προσπάθησε να διαφύγει από το νοσοκομείο μέσα σε 24 ώρες από την εισαγωγή του και, αφού κρατήθηκε αναγκαστικά, αντιμετωπίστηκε για ψύχωση. Μόλις ο ασθενής σταθεροποιήθηκε, ανέφερε ότι είχε πολλά άλλα συμπτώματα που υποδείκνυαν βρωμισμό, όπως ακμή στο πρόσωπο, υπερβολική δίψα και αϋπνία.
ΠΗΓΗ: Guardian