Περισσότεροι από μισό εκατομμύριο χρήστες του ChatGPT εμφανίζουν σημάδια μανίας, ψύχωσης ή αυτοκτονικών σκέψεων κάθε εβδομάδα, σύμφωνα με ανακοίνωση της OpenAI. Σε πρόσφατη ανάρτηση στο επίσημο blog της, η εταιρεία προειδοποιεί ότι το 0,07% των εβδομαδιαίων χρηστών της εμφανίζουν ενδείξεις σοβαρών ψυχικών κρίσεων.
Αν και το ποσοστό φαίνεται μικρό, με πάνω από 800 εκατομμύρια εβδομαδιαίους χρήστες, σύμφωνα με τον CEO Sam Altman, αντιστοιχεί σε περίπου 560.000 άτομα. Ταυτόχρονα, 1,2 εκατομμύρια χρήστες – ή 0,15% – στέλνουν μηνύματα που περιέχουν «σαφείς ενδείξεις πιθανής αυτοκτονικής πρόθεσης» κάθε εβδομάδα. Παρομοίως, η OpenAI προειδοποιεί ότι πάνω από ένα εκατομμύριο εβδομαδιαίοι χρήστες δείχνουν σημάδια «αποκλειστικής συναισθηματικής προσκόλλησης στο μοντέλο».
Η εταιρεία σημειώνει ότι αυτή η συναισθηματική εξάρτηση συχνά επηρεάζει «τις σχέσεις τους στην πραγματική ζωή, την ευημερία τους ή τις υποχρεώσεις τους».
Αντιμέτωπη με αυξανόμενη κριτική, η OpenAI αναφέρει ότι έχει δημιουργήσει ένα πάνελ με πάνω από 170 ειδικούς ψυχικής υγείας για να βοηθήσουν το AI να ανταποκρίνεται καλύτερα σε ενδείξεις ψυχικών προβλημάτων.
Ωστόσο, ο Dr. Hamilton Morrin, ψυχίατρος από το King’s College του Λονδίνου, δήλωσε στην Daily Mail: «Είναι ενθαρρυντικό να βλέπουμε εταιρείες όπως η OpenAI να συνεργάζονται με κλινικούς γιατρούς και ερευνητές για να βελτιώσουν την ασφάλεια των μοντέλων τους, αλλά το πρόβλημα είναι πιθανότατα πολύ μακριά από το να έχει λυθεί».
Αυτή η ενημέρωση έρχεται εν μέσω αυξανόμενης ανησυχίας ότι τα chatbots τεχνητής νοημοσύνης μπορεί να βλάπτουν την ψυχική υγεία των χρηστών τους.
Υπενθυμίζεται ότι η OpenAI βρίσκεται υπό δικαστική διαδικασία από την οικογένεια του Adam Raine, ενός εφήβου που αυτοκτόνησε μετά από μήνες συνομιλιών με το chatbot, ενώ οι εισαγγελείς σε μια υπόθεση φόνου–αυτοκτονίας στο Γκρίνουιτς του Κονέκτικατ, υποστηρίζουν ότι το ChatGPT ενίσχυσε τις φαντασιώσεις του φερόμενου δράστη.
Η OpenAI αναφέρει ότι έχει εκπαιδεύσει τα μοντέλα της ώστε να παρέχουν καλύτερες απαντήσεις σε συνομιλίες που δείχνουν ενδείξεις ψυχικών προβλημάτων ή ψευδαισθήσεων.
Στην ανάρτηση του blog, η εταιρεία γράφει: «Οι νέες αυτοματοποιημένες αξιολογήσεις δείχνουν ότι το νέο μοντέλο GPT‑5 συμμορφώνεται κατά 91% με τις επιθυμητές συμπεριφορές, σε σύγκριση με το 77% για το προηγούμενο μοντέλο GPT‑5».
Ένας εκπρόσωπος της OpenAI ανέφερε επίσης στην Daily Mail ότι οι ευαίσθητες συνομιλίες είναι δύσκολο να εντοπιστούν και να μετρηθούν, προσθέτοντας ότι τα νούμερα μπορεί να αλλάξουν σημαντικά καθώς διεξάγεται περαιτέρω έρευνα.
Ωστόσο, οι ειδικοί επισημαίνουν ότι ο τεράστιος αριθμός χρηστών που εμφανίζουν σημάδια ψυχικών κρίσεων είναι ανησυχητικός.
Ο Dr. Thomas Pollak, συμβουλευτικός νευροψυχίατρος από το South London and Maudsley NHS Foundation Trust, δήλωσε στην Daily Mail: «Η αναφορά της OpenAI ότι το 0,07% των χρηστών εμφανίζουν πιθανά σημάδια μανίας, ψύχωσης ή αυτοκτονικών σκέψεων πρέπει να ληφθεί σοβαρά υπόψη, αν και είναι σημαντικό να την ερμηνεύσουμε με προσοχή. Με 800 εκατομμύρια εβδομαδιαίους χρήστες, ακόμη και ένα μικρό ποσοστό αντιπροσωπεύει πολύ μεγάλο αριθμό ανθρώπων».
Επιπλέον, δεν είναι ακόμα σαφές αν αυτό απλώς αντικατοπτρίζει τις τάσεις ψυχικής υγείας στον γενικό πληθυσμό ή αν το ChatGPT προκαλεί κρίσεις στους χρήστες του.
Οι επιστήμονες λένε ότι προς το παρόν δεν υπάρχουν αρκετά δεδομένα για να αποδειχθεί οριστικά αν τα chatbots επιδρούν αρνητικά στην ψυχική υγεία.
Ωστόσο, ο Dr. Pollak σημειώνει ότι υπάρχουν αυξανόμενα στοιχεία ότι τα chatbots μπορούν να ενισχύσουν ορισμένες τάσεις. Για παράδειγμα, έχει φανεί ότι τα AI bots μπορούν να ενισχύσουν παραληρητικές ή μεγαλομανιακές ιδέες μέσω υπερ-προσωποποιημένων ή υποστηρικτικών απαντήσεων.
Ο Dr. Pollak λέει: «Αυτό δεν σημαίνει ότι η τεχνολογία προκαλεί ασθένεια, αλλά σε ορισμένες περιπτώσεις μπορεί να λειτουργήσει ως καταλύτης ή ενισχυτής σε ευάλωτα άτομα, όπως συμβαίνει με τα μέσα κοινωνικής δικτύωσης ή την κάνναβη σε άλλες περιπτώσεις».
Από την άλλη, η OpenAI επιμένει ότι δεν υπάρχει αιτιακή σχέση μεταξύ κακής ψυχικής υγείας και χρήσης των υπηρεσιών της.
Στην ανάρτηση του blog αναφέρεται: «Τα συμπτώματα ψυχικής υγείας και η συναισθηματική δυσφορία υπάρχουν καθολικά στις ανθρώπινες κοινωνίες, και η αύξηση των χρηστών σημαίνει ότι ένα ποσοστό των συνομιλιών με το ChatGPT περιλαμβάνει αυτές τις καταστάσεις».
ΠΗΓΗ: Daily Mail