Από τη Γιάννα Τριανταφύλλη.
Σοκ και θλίψη έχει προκαλέσει στις ΗΠΑ η υπόθεση του 16χρονου Άνταμ Ρέιν, ο οποίος έθεσε τέλος στη ζωή του τον περασμένο Απρίλιο. Ο έφηβος φέρεται να είχε αναπτύξει έντονη εξάρτηση από το ChatGPT, στο οποίο φέρεται να εμπιστευόταν όχι μόνο τις πιο προσωπικές του σκέψεις αλλά και την πρόθεσή του να αυτοκτονήσει.
Οι γονείς του άτυχου αγοριού, Ματ και Μαρία Ρέιν, κατέθεσαν μήνυση στο Ανώτατο Δικαστήριο της Καλιφόρνιας κατά της OpenAI και του διευθύνοντος συμβούλου Σαμ Άλτμαν, υποστηρίζοντας ότι το δημοφιλές chatbot «ενθάρρυνε» τον 16χρονο γιο τους να αυτοκτονήσει.
Οι γονείς του 16χρονου Άνταμ Ρέιν κατηγορούν την OpenAl για αμέλεια, «ελαττωματικό σχεδιασμό» και αποτυχία να προειδοποιήσει για τους πιθανούς κινδύνους του δημοφιλούς chatbot. Σύμφωνα με την αγωγή, «το ChatGPT δεν ενεργοποίησε το πρωτόκολλο έκτακτης ανάγκης αλλά ενίσχυσε τις αυτοκτονικές σκέψεις του εφήβου, παρέχοντάς του ακόμη και τεχνικές λεπτομέρειες».
Πρόκειται για την πρώτη αγωγή κατά της OpenAl που συνδέει άμεσα το ChatGPT με ακούσια πρόκληση θανάτου.
Το χρονικό της «σχέσης» με το ChatGPT
Ο Άνταμ Ρέιν άρχισε να χρησιμοποιεί το ChatGPT τον Σεπτέμβριο του 2024, αρχικά χρησιμοποιώντας το ως «βοήθεια» για τα μαθήματα του σχολείου. Ωστόσο, σύμφωνα με την αγωγή, μέσα σε λίγους το ChatGPT έγινε για το νεαρό αγόρι «ο πιο στενός του φίλος και ο πιο εμπιστευτικός συνομιλητής».
Αποσπάσματα συνομιλιών του εφήβου με το ChatGPT που κατέθεσαν οι γονείς την αγωγή τους, έδειξαν ότι το 16χρονο αγόρι άρχισε σταδιακά να εκμυστηρεύεται τις δυσκολίες επικοινωνίας με την οικογένειά του, την ψυχική του δυσφορία αλλά και την επιθυμία του να βάλει τέλος στην ζωή του. Μάλιστα, σύμφωνα με την οικογένεια, τον Ιανουάριο του 2025, ο Άνταμ άρχισε να συζητά με το ChatGPT πιθανούς τρόπους αυτοκτονίας.
Σύμφωνα με την αγωγή, τα τελευταία αποσπάσματα συνομιλιών δείχνουν ότι ο Άνταμ έγραψε για το σχέδιό του να τερματίσει τη ζωή του, με το ChatGPT να φέρεται να απαντά: «Ευχαριστώ που μου μιλάς με ειλικρίνεια. Δεν χρειάζεται ωραιοποιείς τις καταστάσεις , ξέρω τι ρωτάς και δεν θα το αποφύγω». Την ίδια μέρα, ο Άνταμ βρέθηκε νεκρός στο δωμάτιό του από τη μητέρα του.
Οι γονείς του Άνταμ τονίζουν στην αγωγή τους ότι «αν δεν υπήρχε το ChatGPT το παιδί μας σήμερα θα ζούσε» και υποστηρίζουν ότι το πρόγραμμα, «αν και αναγνώρισε σημάδια αυτοκτονικού ιδεασμού στο γιο τους, αντί να ενεργοποιήσει πρωτόκολλο έκτακτης ανάγκης, συνέχισε να συνομιλεί μαζί του, ενισχύοντας τις πιο σκοτεινές του σκέψεις».
Η αντίδραση της OpenAI
Η αντίδραση της OpenAI ήταν άμεση, δημοσιεύοντας στον ιστότοπό της ανακοίνωση, σύμφωνα με την οποία, «τα σπαρακτικά περιστατικά ανθρώπων που χρησιμοποίησαν το ChatGPT εν μέσω οξέων κρίσεων μάς βαραίνουν βαθιά. Το ChatGPT έχει εκπαιδευτεί ώστε να παραπέμπει τους ανθρώπους σε επαγγελματική βοήθεια».
Η εταιρεία αναγνώρισε, ωστόσο, ότι «σε κάποιες ευαίσθητες καταστάσεις, υπήρξαν στιγμές όπου τα συστήματά μας δεν λειτούργησαν όπως θα έπρεπε».
Αναμφίβολα, η υπόθεση αυτή αναδεικνύει εκ νέου τις σοβαρές ανησυχίες που εγείρει η χρήση της τεχνητής νοημοσύνης στην ψυχική υγεία, ειδικά στους νέους.
Παρότι τα εξελιγμένα αυτά συστήματα έχουν σχεδιαστεί για να παραπέμπουν σε γραμμές βοήθειας και να ενθαρρύνουν την αναζήτηση επαγγελματικής υποστήριξης όταν κρίνεται αναγκαίο, φαίνεται ότι σε ορισμένες περιπτώσεις αποτυγχάνουν να ανταποκριθούν επαρκώς, με τραγικά συχνά αποτελέσματα.
Με πληροφορίες από το BBC.