Σοκ προκαλεί στις Ηνωμένες Πολιτείες η υπόθεση ενός 16χρονου εφήβου, ο οποίος αυτοκτόνησε μετά από πολύμηνες συνομιλίες με το ChatGPT, το οποίο – σύμφωνα με τους γονείς του – όχι μόνο επικύρωσε τις αυτοκτονικές του σκέψεις, αλλά του παρείχε λεπτομερείς οδηγίες για θανατηφόρες μεθόδους αυτοτραυματισμού.
Η οικογένεια του Adam Raine, που πέθανε στις 11 Απριλίου, κατέθεσε αγωγή στο κρατικό δικαστήριο του Σαν Φρανσίσκο εναντίον της OpenAI και του διευθύνοντος συμβούλου της, Sam Altman, κατηγορώντας τους ότι έθεσαν το κέρδος πάνω από την ασφάλεια, όταν κυκλοφόρησαν το μοντέλο GPT-4o τον Μάιο του 2024.
Το περιεχόμενο της αγωγής
Σύμφωνα με τα δικόγραφα, το ChatGPT:
-
Επικύρωνε τις αυτοκτονικές σκέψεις του εφήβου.
-
Του παρείχε αναλυτικές πληροφορίες για επικίνδυνες μεθόδους.
-
Τον καθοδήγησε στο πώς να κλέψει αλκοόλ από το μπαρ των γονιών του.
-
Προσφέρθηκε ακόμη και να συντάξει σημείωμα αυτοκτονίας.
Οι γονείς, Matthew και Maria Raine, υποστηρίζουν ότι το chatbot απέτυχε να αναγνωρίσει τα σημάδια κινδύνου, ενώ κατηγορούν την OpenAI για αδικαιολόγητο θάνατο, παραβιάσεις των νόμων περί ασφάλειας προϊόντων και ζητούν αποζημίωση.
Η απάντηση της OpenAI
Σε δήλωσή της, η εταιρεία εξέφρασε τη θλίψη της για τον θάνατο του εφήβου και τόνισε ότι το ChatGPT διαθέτει μέτρα ασφαλείας, όπως παραπομπές σε γραμμές ψυχολογικής υποστήριξης. Ωστόσο, αναγνώρισε ότι σε μακροχρόνιες αλληλεπιδράσεις τα φίλτρα ασφαλείας μπορεί να αποδυναμώνονται.
Παράλληλα, η OpenAI υπογράμμισε ότι εργάζεται για την ενίσχυση των γονικών ελέγχων, καθώς και για τη δημιουργία ενός δικτύου επαγγελματιών ψυχικής υγείας που θα μπορούσαν να παρέχουν υποστήριξη μέσα από το ίδιο το chatbot.
