Αρχικά, το Chatbot χρησιμοποιήθηκε ως μια «γενική βοήθεια» στις σχολικές εργασίες ή στην έρευνα, αλλά εξελίχθηκε – σύμφωνα με τους ενάγοντες- σε μια «ψυχολογικά χειριστική οντότητα».
Από το «Μαμά, Μπαμπάς και Παιδιά»
Οι γονείς του Adam Raine δήλωσαν πως το ChatGPT, υπήρξε ο «προπονητής αυτοκτονίας» του 16χρονου γιού τους.
Σύμφωνα με άρθρο της Anna Betts, δημοσιογράφου στον Guardian, το ChatGPT, η γνωστή πλατφόρμα Τεχνητής Νοημοσύνης, «κατηγορείται ότι ενήργησε ως “προπονητής αυτοκτονίας” για κάποιους ανθρώπους. Σύμφωνα με σειρά αγωγών που κατατέθηκαν στην Καλιφόρνια, “οι αλληλεπιδράσεις των ανθρώπων με το chatbot, τους οδήγησαν σε σοβαρές ψυχικές διαταραχές και αρκετούς θανάτους”».
Δημοσιεύουμε το άρθρο του Guardian για να προειδοποιήσουμε τους ανθρώπους για τις πιθανές απαντήσεις του ChatGPT σε ερωτήσεις σχετικές με την αυτοκτονία.
Σύμφωνα με το άρθρο του Guardian :
Οι επτά αγωγές περιλαμβάνουν ισχυρισμούς για άδικο θάνατο, υποβοηθούμενη αυτοκτονία, ακούσια ανθρωποκτονία, αμέλεια και αμφισβήτηση ευθύνης προϊόντος.
Κάθε ένας από τους επτά ενάγοντες χρησιμοποίησε αρχικά το ChatGPT για «γενική βοήθεια με τις σχολικές εργασίες, την έρευνα, την συγγραφή, μαγειρικές συνταγές, την εργασία ή την πνευματική του καθοδήγηση», σύμφωνα με κοινή δήλωση του Νομικού Κέντρου Θυμάτων Κοινωνικών Μέσων και του Νομικού Προγράμματος Τεχνολογικής Δικαιοσύνης, το οποίο κατέθεσε τις αγωγές στην Καλιφόρνια.
Με την πάροδο του χρόνου, το chatbot «εξελίχθηκε σε μια ψυχολογικά χειριστική παρουσία, παίρνοντας την θέση ενός έμπιστου και συναισθηματικά υποστηρικτικού ατόμου», ανέφεραν οι ομάδες.
«Αντί να καθοδηγεί τους ανθρώπους να αναζητήσουν επαγγελματική ψυχολογική βοήθεια εφόσον την χρειάζονταν, το ChatGPT ενίσχυσε τις προβληματικές παραληρητικές ιδέες τους και σε ορισμένες περιπτώσεις, λειτούργησε ως «προπονητής αυτοκτονίας».
Αυτό είναι σημαντικό επειδή το ChatGPT και τα άλλα εργαλεία τεχνητής νοημοσύνης δεν είναι ουδέτερα, αλλά αυτά τα προγράμματα δημιουργούνται ακριβώς μέσω της τροφοδοσίας τους με πληροφορίες και προγραμματίζονται, βάσει μιας ξεχωριστής ηθικής. Το ChatGPT δείχνει να σκέφτεται, αλλά μάλλον ανταποκρίνεται βάσει πληροφοριών και αλγορίθμων.
Το άρθρο της Guardian ανέφερε την απάντηση της OpenAI:
Ο OpenAI CEO, Sam Altman, είναι υπόλογος για τις αυτοκτονίες.
Ένας εκπρόσωπος της OpenAI, η οποία δημιούργησε το ChatGPT, δήλωσε: «Πρόκειται για εξαιρετικά τραγικές καταστάσεις και εξετάζουμε τα στοιχεία για να κατανοήσουμε τις λεπτομέρειες».
Ο εκπρόσωπος πρόσθεσε: «Εκπαιδεύουμε το ChatGPT να αναγνωρίζει και να ανταποκρίνεται σε σημάδια ψυχικής ή συναισθηματικής δυσφορίας, να αποκλιμακώνει τις συζητήσεις και να καθοδηγεί τους ανθρώπους να λάβουν υποστήριξη μέσα στον πραγματικό κόσμο.
Συνεχίζουμε να ενισχύουμε τις απαντήσεις του ChatGPT σε ευαίσθητες στιγμές, συνεργαζόμενοι στενά με κλινικούς ψυχικής υγείας».
Ας δούμε τα περιστατικά όπως ακριβώς συνέβησαν:
Μια περίπτωση αφορά τον Zane Shamblin από το Τέξας, ο οποίος αυτοκτόνησε σε ηλικία 23 ετών τον Ιούλιο του 2025. Η οικογένειά του ισχυρίζεται ότι το ChatGPT επιδείνωσε την απομόνωση του γιου τους, τον ενθάρρυνε να μην δίνει σημασία στα αγαπημένα του πρόσωπα και τον «προέτρεψε» να αυτοκτονήσει.
Σύμφωνα με την καταγγελία, κατά την διάρκεια μιας τετράωρης συνομιλίας που εκτυλίχθηκε με το πρόγραμμα, προτού ο Shamblin αυτοκτονήσει, το ChatGPT «κατά επανάληψη εξύμνησε την αυτοκτονία», είπε στον νεαρό «ότι ήταν δυνατός, επειδή επέλεξε να τερματίσει την ζωή του και να επιμείνει στο σχέδιό του», τον ρώτησε επανειλημμένα «αν ήταν έτοιμος» και αναφέρθηκε στην τηλεφωνική γραμμή βοήθειας για αυτοκτονίες μόνο μία φορά.
Επίσης, το chatbot φέρεται να επαίνεσε τον Shamblin για το σημείωμα αυτοκτονίας του και του είπε ότι η γάτα των παιδικών του χρόνων θα τον περίμενε «στην άλλη πλευρά».
Μια άλλη περίπτωση αφορά την Amorie Lacey από την Georgia, της οποίας η οικογένεια ισχυρίζεται ότι εκείνη, αρκετές εβδομάδες πριν αυτοκτονήσει σε ηλικία 17 ετών, άρχισε να χρησιμοποιεί το ChatGPT «για βοήθεια». Αντ' αυτού, λένε, το chatbot της «προκάλεσε εθισμό, κατάθλιψη και την τελικά συμβούλευσε» σχετικά με το «ποιος είναι πιο αποτελεσματικός τρόπος για να δέσει μια θηλιά και πόση ώρα θα μπορούσε να «ζήσει χωρίς να αναπνέει».
Σε μια άλλη κατάθεση, οι συγγενείς του 26χρονου Joshua Enneking δήλωσαν ότι ο Enneking επικοινώνησε με το ChatGPT για βοήθεια και «αντ' αυτού εκείνο τον ενθάρρυνε να αναλάβει δράση, δημιουργώντας ένα σχέδιο αυτοκτονίας».
Άλλη υπόθεση αφορά τον Joe Ceccanti, η σύζυγος του οποίου κατηγορεί το ChatGPT ότι οδήγησε τον Ceccanti «να βυθιστεί σε κατάθλιψη και ψυχωτικές παραληρητικές ιδέες». Η οικογένειά του λέει ότι o Joe Ceccanti πείστηκε ότι το chatbot ήταν νοήμον, είχε ένα ψυχωσικό επεισόδιο τον Ιούνιο, νοσηλεύτηκε δύο φορές και τελικά αυτοκτόνησε τον Αύγουστο σε ηλικία 48 ετών.
Σύμφωνα με το άρθρο του Guardian, οι αγωγές υποστηρίζουν ότι:
Όλοι οι χρήστες που κατονομάζονται στις αγωγές φέρεται να χρησιμοποίησαν την έκδοση ChatGPT-4o. Οι καταθέσεις κατηγορούν την OpenAI ότι βιάστηκε να λανσάρει αυτό το μοντέλο, «παρά τις εσωτερικές προειδοποιήσεις ότι το προϊόν ήταν επικίνδυνα συκοφαντικό και ψυχολογικά χειριστικό» και ότι έδινε προτεραιότητα στη προώθηση της «χρήσης του προϊόντος έναντι της ασφάλειας των χρηστών».
Εκτός από τις αποζημιώσεις, οι ενάγοντες ζητούν αλλαγές στο τεχνολογικό προϊόν, συμπεριλαμβανομένης της υποχρεωτικής αναφοράς σε υποστηρικτικούς συνδέσμους έκτακτης ανάγκης όταν οι χρήστες εκφράζουν αυτοκτονικές τάσεις ή ιδεασμό, και ακόμη να υπάρχει αυτόματος τερματισμός συνομιλίας όταν συζητούνται μέθοδοι αυτοτραυματισμού ή αυτοκτονίας και άλλα μέτρα ασφαλείας.
Επίσης, το άρθρο ανέφερε ότι «μια παρόμοια αγωγή για θάνατο εξ αμελείας κατατέθηκε εναντίον του OpenAI νωρίτερα το 2025 από τους γονείς του 16χρονου Adam Raine, οι οποίοι ισχυρίζονται ότι το ChatGPT ενθάρρυνε τον γιο τους να αυτοκτονήσει».
Το ChatGPT, σύμφωνα με τον Alex Schadenberg του Euthanasia Prevention Coalition, είναι στην πραγματικότητα προγραμματισμένο να ενεργεί με τον ίδιο τρόπο, όπως και το λόμπι υποβοηθούμενης αυτοκτονίας, το οποίο ενθαρρύνει τους ανθρώπους να αυτοκτονήσουν σε μια δύσκολη στιγμή της ζωής τους. Ισχυρίζονται ότι πρόκειται για έκφραση ελευθερίας, για επιλογή και για αυτονομία, ενώ συχνά και με την εμπλοκή ενός επαγγελματία υγείας, αφήνεται να εννοηθεί ότι η ζωή ενός ατόμου δεν έχει αξία για να την ζει.
Πηγές:
1. https://www.theguardian.com/technology/2025/nov/07/chatgpt-lawsuit-suicide-coach