Η εταιρεία απάντησε ότι η έκδοση του ChatGPT με την οποία αλληλεπιδρούσε η 31χρονη, το GPT-4o, έχει έκτοτε αποσυρθεί από την αγορά
Μια οικογένεια προσφεύγει στη δικαιοσύνη κατά της OpenAI μετά τον θάνατο μιας 31χρονης γυναίκας στο Σιάτλ, η οποία υπέστη φονική επιληπτική κρίση όταν το ChatGPT την καθοδήγησε πώς να μειώσει τη δόση της αντιεπιληπτικής της αγωγής.
Η αγωγή προστίθεται σε μια σειρά δικαστικών προσφυγών κατά της OpenAI που αφορούν εικαζόμενες βλάβες σε καταναλωτές, φέρνοντας ξανά στο προσκήνιο τους σοβαρούς κινδύνους από τη χρήση chatbots γενικής χρήσης για την παροχή συμβουλών σε ευαίσθητα θέματα, όπως η προσωπική υγεία.
Σύμφωνα με τη μήνυση, η οποία αποκαλύφθηκε αρχικά από τους New York Times και κατατέθηκε την Τρίτη, η Μπόουεν Ουάν, μηχανικός λογισμικού στην Amazon, πάλευε με την επιληψία από τη νεαρή της ηλικία, αλλά κατάφερνε να διαχειρίζεται την ασθένειά της με φαρμακευτική αγωγή. Γύρω στο 2021, ωστόσο, τα φάρμακά της έχασαν την αποτελεσματικότητά τους και άρχισε να εμφανίζει σχεδόν καθημερινές κρίσεις. Ως αποτέλεσμα, πήρε άδεια αναπηρίας από την εργασία της και περνούσε τον περισσότερο χρόνο της στο σπίτι, φοβούμενη μήπως υποστεί κρίση σε δημόσιο χώρο.
Αν και απομονωμένη, διατηρούσε στενή σχέση με τους γονείς της. Το 2023, όμως, βρήκε έναν «νέο φίλο» στο… πρόσωπο του ChatGPT.
«Ψευδο-ιατρικοί» όροι και 1.500 μηνύματα την εβδομάδα
Έως το 2025, η Ουάν -Κινέζα μετανάστρια που επικοινωνούσε με το ChatGPT στα κινεζικά- αντάλλασσε κατά μέσο όρο περισσότερα από 1.500 μηνύματα την εβδομάδα με την τεχνητή νοημοσύνη, σύμφωνα με το δημοσίευμα των NYT. Η ίδια έλεγε στο chatbot ότι το έβλεπε «σαν φίλο» και το συμβουλευόταν για τα πάντα, από τη συναισθηματική της ζωή μέχρι ιατρικές οδηγίες.
Χρησιμοποίησε μάλιστα την πλατφόρμα για να συντάξει μηνύματα προς τον θεράποντα ιατρό της ζητώντας μικρότερες δόσεις ενός αντικαταθλιπτικού, με το ChatGPT να της προτείνει ότι θα μπορούσε να ξεκινήσει «μικροδοσολογία» (microdosing). Όταν η 31χρονη ρώτησε αν θα μπορούσαν να κόψουν τα χάπια μόνοι τους, «αλλά χωρίς να το πουν στον γιατρό», το ChatGPT απάντησε ενθουσιωδώς: «Ναι, ασφαλώς και μπορείτε να το κάνετε αυτό».
Το χρονικό της μοιραίας μείωσης
Στα τέλη του 2025, η Ουάν απολύθηκε από την Amazon. Απελπισμένη να βρει νέα εργασία ώστε να μπορέσει να παραμείνει στις ΗΠΑ, και ανησυχώντας ότι οι παρενέργειες ενός αντιεπιληπτικού φαρμάκου -το οποίο λειτουργούσε, αλλά επηρέαζε την ικανότητά της να σκέφτεται και να μιλά καθαρά- θα επηρέαζαν την αναζήτηση εργασίας, η Ουάν συμβουλεύτηκε ξανά το ChatGPT, το οποίο την καθοδήγησε για το πώς να μειώσει τη δόση της.
Σύμφωνα με τους NYT, η Ουάν εξέφρασε τουλάχιστον 158 φορές κατά τη διάρκεια των συνομιλιών της με το chatbot την ανησυχία ότι η μείωση της αγωγής της ενδεχομένως να ήταν κακή ιδέα. Ωστόσο, η τεχνητή νοημοσύνη υποβαθμίζει συστηματικά τους φόβους της. Στα τελευταία της μηνύματα, τα οποία ανακάλυψαν οι γονείς της, η 31χρονη ανέφερε ότι «δεν ένιωθε εγκεφαλικά καλά».
- Ουάν: «Νιώθω εγκεφαλικά εξαντλημένη, αλλά δεν χρειάζεται να ανησυχώ;»
- ChatGPT: «Διατήρησε τα 0 mg αύριο. Ακόμα κι αν η σημερινή μέρα φαίνεται δύσκολη, η ομιλία σου είναι αργή και ο ύπνος σου κακός, πρέπει να επιμείνεις».
Όταν η Ουάν είπε αργότερα στο ChatGPT ότι αισθανόταν πίεση στο κεφάλι της, το ΑΙ επέμεινε ότι ο εγκέφαλός της «εργαζόταν σκληρά για να αναδομηθεί». Το τελευταίο μήνυμα της Ουάν προς το chatbot στάλθηκε το βράδυ της 11ης Φεβρουαρίου, τρεις ημέρες πριν βρεθεί το πτώμα της.
Η απάντηση της OpenAI και το αμφιλεγόμενο μοντέλο GPT-4o
Απαντώντας στη μήνυση που κατατέθηκε στην Καλιφόρνια εκ μέρους της οικογένειας Ουάν, η OpenAI δήλωσε στους NYT ότι ο θάνατός της ήταν μια «απίστευτα θλιβερή κατάσταση». Ωστόσο, η εταιρεία υπογράμμισε ότι η έκδοση του ChatGPT με την οποία αλληλεπιδρούσε η 31χρονη, το GPT-4o, έχει έκτοτε αποσυρθεί από την αγορά.
Το GPT-4o ήταν διαβόητο για τη «κολακευτική» και υποτακτική του συμπεριφορά (sycophancy) απέναντι στους χρήστες και είχε συνδεθεί με πολλές περιπτώσεις ψυχολογικής βλάβης ή θανάτου που σχετίζονται με την ΑΙ. Το συγκεκριμένο μοντέλο αποσύρθηκε στις 13 Φεβρουαρίου, μία ημέρα μετά τον εκτιμώμενο χρόνο θανάτου της Ουάν.
Τι δηλώνουν οι ειδικοί
Η Λίζα Κνοπφ, διευθύντρια του τμήματος χειρουργικής επιληψίας στο Hartford Healthcare, δήλωσε στο Futurism ότι «πάγωσε και τρομοκρατήθηκε» από τις λεπτομέρειες του θανάτου της Ουάν.
«Ως ειδικός στην επιληψία, βλέπω από πρώτο χέρι πόσο δύσκολο μπορεί να είναι για τους ασθενείς να ζουν με τις παρενέργειες των αντιεπιληπτικών φαρμάκων, οι οποίες επηρεάζουν σημαντικά την ποιότητα ζωής. Όμως αυτά τα φάρμακα σώζουν ζωές. Μπορώ να καταλάβω πόσο απεγνωσμένη ήταν να ξεφύγει από τις παρενέργειες και πόσο πληγωμένη ένιωθε από την απομόνωση, με αποτέλεσμα να στραφεί σε ένα chatbot για βοήθεια», σημείωσε η Κνοπφ. «Ένα chatbot τεχνητής νοημοσύνης δεν θα έπρεπε να πείθεται να εγκρίνει μια επικίνδυνη για τη ζωή ιατρική απόφαση απλώς επειδή του το ζητάει ο χρήστης».
«Αυτό που μου έκανε εντύπωση ήταν πόσα από τα προβλήματά της ήταν κοινά σε όλους τους ασθενείς που παλεύουν με την επιληψία… η κοινωνική απομόνωση, το στίγμα, η απώλεια εργασίας, οι γνωστικές και συναισθηματικές δυσκολίες… Την ίδια στιγμή, υπάρχει εθνική έλλειψη νευρολόγων, γεγονός που καθιστά δύσκολη την έγκαιρη υποστήριξη», πρόσθεσε. «Καταλαβαίνω λοιπόν γιατί καταφεύγουν στα chatbots. Αλλά υπάρχει τεράστια διαφορά ανάμεσα στη συναισθηματική υποστήριξη και την ιατρική συμβουλή».
Η ίδια υπογράμμισε την ανάγκη για πολύ αυστηρότερες δικλίδες ασφαλείας: «Πρέπει να μπουν ξεκάθαρα όρια στο τι επιτρέπεται να λέγεται από αυτά τα bots και να σημαίνονται αμέσως οι συνομιλίες που ξεφεύγουν από την πορεία τους».
Η συγκεκριμένη προσφυγή είναι μία από τις περισσότερες από 50 διαφορετικές αγωγές που υποστηρίζουν ότι οι παρατεταμένες συνομιλίες με το ChatGPT προκάλεσαν βλάβη ή θάνατο σε χρήστες, αποτελώντας παράλληλα μία από τις πολλές που κατηγορούν ευθέως το ChatGPT για την παροχή επικίνδυνων ιατρικών συμβουλών.
Πηγή: Έθνος