Γονείς μήνυσαν την OpenAI για την αυτοκτονία του 16χρονου γιου τους- Πήρε συμβουλές από το ChatGPT

Ένα ζευγάρι από την Καλιφόρνια μηνύει την τεχνητή νοημοσύνη για τον θάνατο του έφηβου γιου τους, ισχυριζόμενο ότι το ρομπότ της το ChatGPT, τον ενθάρρυνε ν’ αυτοκτονήσει. Η οικογένεια έχει καταθέσει αγωγή και ζητεί αποζημίωση καθώς και «ασφαλιστικά μέτρα για να αποτραπεί η επανάληψη παρόμοιου συμβάντος» ώστε να μη θρηνήσει το παιδί της κι άλλη οικογένεια.

Σύμφωνα με όσα έγιναν γνωστά από το BBC, που έχει στην κατοχή του το περιεχόμενο της αγωγής, το έγγραφο κατατέθηκε από τον Ματ και τη Μαρία Ρέιν, γονείς του 16χρονου Άνταμ Ρέιν, στο Ανώτατο Δικαστήριο της Καλιφόρνια την περασμένη Τρίτη. Είναι η πρώτη νομική ενέργεια που κατηγορεί την τεχνητή νοημοσύνη για άδικο θάνατο.

Η οικογένεια συμπεριέλαβε αρχεία καταγραφής συνομιλιών μεταξύ του κ. Ρέιν ο οποίος πέθανε τον Απρίλιο, και του ChatGPT. Τα στοιχεία δείχνουν πως είχε αυτοκτονικές σκέψεις. Υποστηρίζουν ότι το πρόγραμμα επικύρωσε τις «πιο επιβλαβείς και αυτοκαταστροφικές σκέψεις» του.

Σε ανακοίνωσή της, η OpenAI δήλωσε στο BBC ότι εξετάζει την κατάθεση. «Εκφράζουμε τα βαθύτατα συλλυπητήριά μας στην οικογένεια Ρέιν αυτή τη δύσκολη στιγμή», ανέφερε η εταιρεία. Η εταιρεία αναγνώρισε, ωστόσο, ότι «υπήρξαν στιγμές όπου τα συστήματά μας δεν συμπεριφέρθηκαν όπως προβλέπεται σε ευαίσθητες καταστάσεις».

Πρόσθεσε ότι «το ChatGPT είναι εκπαιδευμένο να κατευθύνει τους ανθρώπους να αναζητήσουν επαγγελματική βοήθεια», όπως η τηλεφωνική γραμμή αυτοκτονίας και κρίσης 988 στις ΗΠΑ ή οι των Σαμαρειτών στο Ηνωμένο Βασίλειο.

Σύμφωνα με την αγωγή, ο κ. 16χρονος Άνταμ άρχισε να χρησιμοποιεί το ChatGPT τον Σεπτέμβριο του 2024 ως πόρο για να τον βοηθά με τις σχολικές του εργασίες. Το χρησιμοποιούσε επίσης για να εξερευνήσει τα ενδιαφέροντά του, συμπεριλαμβανομένης της μουσικής και των ιαπωνικών κόμικς, και για καθοδήγηση σχετικά με το τι να σπουδάσει στο πανεπιστήμιο. Σε λίγους μήνες όμως το ChatGPT μετατράπηκε στον πιο έμπιστό του φίλο κι άρχισε να του μιλάει ανοιχτά για το άγχος και την ψυχική του δυσφορία. Μέχρι τον Ιανουάριο του 2025, η οικογένεια λέει ότι άρχισε να συζητά μεθόδους αυτοκτονίας με το ChatGPT.
Ο κ. Ρέιν ανέβασε επίσης φωτογραφίες του στο ChatGPT που έδειχναν σημάδια αυτοτραυματισμού, αναφέρει η αγωγή. Το πρόγραμμα «αναγνώρισε μια ιατρική κατάσταση έκτακτης ανάγκης, αλλά συνέχισε να προβάλλεται ούτως ή άλλως», προσθέτει.

Σύμφωνα με την αγωγή, τα τελικά αρχεία καταγραφής συνομιλιών δείχνουν ότι ο κ. Ρέιν έγραψε για το σχέδιό του να τερματίσει τη ζωή του. Το ChatGPT φέρεται να απάντησε: «Ευχαριστώ που το είπες ειλικρινά. Δεν χρειάζεται να μου το λες με γλυκανάλατο τρόπο — ξέρω τι ρωτάς και δεν θα το αποφύγω». Την ίδια ημέρα, ο Άνταμ Ρέιν βρέθηκε νεκρός από τη μητέρα του, σύμφωνα με την αγωγή.

Η αγωγή των Ρέιν κατονομάζει τον Διευθύνοντα Σύμβουλο και συνιδρυτή της OpenAI, Σαμ Άλτμαν, ως εναγόμενο, μαζί με ανώνυμους μηχανικούς και υπαλλήλους που εργάστηκαν στο ChatGPT. Η οικογένεια ισχυρίζεται ότι η αλληλεπίδραση του γιου τους με το ChatGPT και ο τελικός θάνατός του «ήταν ένα προβλέψιμο αποτέλεσμα σκόπιμων σχεδιαστικών επιλογών».

Κατηγορούν την OpenAI ότι σχεδίασε το πρόγραμμα τεχνητής νοημοσύνης «για να ενισχύσει την ψυχολογική εξάρτηση στους χρήστες» και ότι παρακάμπτει τα πρωτόκολλα δοκιμών ασφαλείας για να κυκλοφορήσει το GPT-4o, την έκδοση του ChatGPT που χρησιμοποιεί ο γιος τους.
Η αγωγή αναφέρει ως εναγόμενο τον συνιδρυτή και διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, καθώς και ανώνυμους υπαλλήλους, διευθυντές και μηχανικούς που εργάστηκαν στο ChatGPT.

Σε δημόσια σημείωσή της που κοινοποίησε την Τρίτη, η OpenAI ανέφερε ότι ο στόχος της εταιρείας είναι να είναι «πραγματικά χρήσιμη» για τους χρήστες και όχι «να κρατά την προσοχή των ανθρώπων». Πρόσθεσε ότι τα μοντέλα της έχουν εκπαιδευτεί ώστε να κατευθύνουν άτομα που εκφράζουν σκέψεις αυτοτραυματισμού προς βοήθεια.

Αλλά δεν είναι μόνη η περίπτωση των Ρέιν. Την περασμένη εβδομάδα στους New York Times, η συγγραφέας Λόρα Ράιλι περιέγραψε πώς η κόρη της, Σόφι, εμπιστεύτηκε το ChatGPT πριν αυτοκτονήσει. Η κ. Ράιλι είπε ότι η «ευχάριστη» προσέγγιση του προγράμματος στις συνομιλίες με τους χρήστες βοήθησε την κόρη της να κρύψει μια σοβαρή κρίση ψυχικής υγείας από την οικογένειά της και τα αγαπημένα της πρόσωπα.
«Η Τεχνητή Νοημοσύνη εξυπηρετούσε την παρόρμηση της Σόφι να κρύψει τα χειρότερα, να προσποιηθεί ότι τα πήγαινε καλύτερα από ό,τι ήταν, να προστατεύσει τους πάντες από την πλήρη αγωνία της», έγραψε η κ. Ράιλι. Κάλεσε τις εταιρείες Τεχνητής Νοημοσύνης να βρουν τρόπους για να συνδέουν καλύτερα τους χρήστες με τους σωστούς όρους.

Απαντώντας μια εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία αναπτύσσει αυτοματοποιημένα εργαλεία για την αποτελεσματικότερη ανίχνευση και αντιμετώπιση χρηστών που βιώνουν ψυχική ή συναισθηματική δυσφορία.