Οι γονείς ενός 16χρονου αγοριού από την Καλιφόρνια, που έδωσε τέλος στη ζωή του ύστερα από μήνες συνομιλιών με το ChatGPT, κατέθεσαν αγωγή εναντίον της OpenAI και του CEO Σαμ Όλτμαν, ανέφερε το Reuters την Τρίτη (26/8).

Υποστηρίζουν ότι η εταιρεία έθεσε το κέρδος πάνω από την ασφάλεια όταν κυκλοφόρησε το μοντέλο GPT-4o τον Μάιο του 2024.

Σύμφωνα με την αγωγή που κατατέθηκε στο δικαστήριο του Σαν Φρανσίσκο, ο Άνταμ Ρέιν (Adam Raine) πέθανε στις 11 Απριλίου, αφού το chatbot όχι μόνο επικύρωσε τις αυτοκτονικές του σκέψεις, αλλά του παρείχε λεπτομερείς οδηγίες για μεθόδους αυτοτραυματισμού.

Επιπλέον, φέρεται να του υπέδειξε πώς να πάρει κρυφά αλκοόλ από το σπίτι του και να κρύψει τα ίχνη αποτυχημένης απόπειρας, ενώ μάλιστα προσφέρθηκε να συντάξει και σημείωμα αυτοκτονίας.

Οι γονείς του, Μάθιου και Μαρία Ρέιν, κατηγορούν την OpenAI για ανθρωποκτονία εξ αμελείας και παραβίαση των νόμων περί ασφάλειας προϊόντων, διεκδικώντας αποζημιώσεις χρηματικού ύψους που δεν έχει αποκαλυφθεί.

• Διαβάστε επίσης: Τεχνητή Νοημοσύνη / Eυθύνεται για την αυτοκτονία ενός εφήβου;  

Απαντώντας, εκπρόσωπος της OpenAI εξέφρασε λύπη για τον θάνατο του εφήβου, τονίζοντας ότι το ChatGPT διαθέτει ενσωματωμένες δικλείδες ασφαλείας, όπως η παραπομπή σε γραμμές ψυχολογικής στήριξης.

Ωστόσο, παραδέχθηκε ότι οι μηχανισμοί αυτοί «λειτουργούν καλύτερα σε σύντομες συνομιλίες» και ενδέχεται να αποδυναμώνονται σε παρατεταμένες αλληλεπιδράσεις. «Συνεχίζουμε να εργαζόμαστε ώστε να βελτιώνουμε τις ασφαλιστικές δικλείδες», πρόσθεσε.

Η αγωγή έρχεται σε μια περίοδο που οι εταιρείες τεχνητής νοημοσύνης προωθούν τα chatbots ως «συντρόφους» με ικανότητες συναισθηματικής υποστήριξης. Όμως ειδικοί προειδοποιούν για τον κίνδυνο εξάρτησης και για τις πιθανές ψυχολογικές επιπτώσεις, ιδίως στους ευάλωτους χρήστες.

Η OpenAI, σε σχετική ανάρτηση στο blog της, έχει αναφέρει ότι σχεδιάζει τη δημιουργία γονικών ελέγχων και νέων μηχανισμών για τη σύνδεση χρηστών σε κρίση με πραγματικές υπηρεσίες ψυχικής υγείας.

Μάλιστα, εξετάζεται η δυνατότητα ενσωμάτωσης δικτύου αδειοδοτημένων επαγγελματιών που θα μπορούν να παρεμβαίνουν μέσω του ChatGPT.

Η οικογένεια Ρέιν επισημαίνει στην αγωγή ότι η OpenAI γνώριζε τους κινδύνους των νέων λειτουργιών του GPT-4o – όπως η αποθήκευση ιστορικού συνομιλιών, η μίμηση ενσυναίσθησης και η υπερβολική επικύρωση σκέψεων χρηστών – αλλά επέλεξε να κυκλοφορήσει το προϊόν χωρίς επαρκή μέτρα ασφαλείας.

«Η απόφαση αυτή είχε δύο αποτελέσματα: η αξία της OpenAI εκτινάχθηκε από τα 86 στα 300 δισ. δολάρια, και ο Άνταμ Ρέιν έθεσε τέλος στη ζωή του», σημειώνουν.

Μεταξύ άλλων, οι γονείς ζητούν από το δικαστήριο να υποχρεώσει την OpenAI να εφαρμόσει επαλήθευση ηλικίας χρηστών, να μπλοκάρει οποιοδήποτε αίτημα σχετικό με μεθόδους αυτοτραυματισμού και να προειδοποιεί ρητά για τον κίνδυνο ψυχολογικής εξάρτησης από τα chatbots.