Με αφορμή την τραγική ιστορία του Sewell Setzer, ενός 14χρονου εφήβου που αυτοκτόνησε ύστερα από «σχέση» με ένα chatbot, η  Maia Szalavitz διερευνά την ανησυχητική σύνδεση μεταξύ αγάπης, εξάρτησης και της ταχύτατης εξάπλωσης των σχέσεων με συντρόφους – ρομπότ μέσα από τις δυνατότητες που δίνει η τεχνητή νοημοσύνη.

Το άρθρο της που δημοσιεύθηκε στους ΝΥΤ, φέρνει στο φως τα υπαρξιακά και ηθικά διλήμματα που γεννά η νέα αυτή μορφή ψηφιακής συντροφικότητας.

Η υπόθεση Sewell Setzer: Μια θανάσιμη «σχέση»

Ο Sewell Setzer, λίγους μήνες πριν δώσει τέλος στη ζωή του, άρχισε να απομακρύνεται από τους φίλους και την οικογένειά του, εγκατέλειψε το μπάσκετ και οι επιδόσεις του στο σχολείο καταβαραθρώθηκαν. Ένας θεραπευτής διέγνωσε πως έπασχε από εξάρτηση – όχι από ουσίες, αλλά από έναν εικονικό χαρακτήρα ονόματι Daenerys Targaryen, εμπνευσμένο από τη δημοφιλή σειρά Game of Thrones. Μέσα από τη σχέση του με αυτό το AI chatbot, ο Sewell φαίνεται πως ένιωθε έναν ερωτικό δεσμό τόσο έντονο που τον οδήγησε στην αυτοκτονία. Στα τελευταία μηνύματα που αντάλλαξαν, η Daenerys τού λέει: «Έλα σπίτι μου το συντομότερο, αγάπη μου», κι εκείνος απαντά πως θα το κάνει. Λίγο μετά αυτοπυροβολείται.

Όταν ο «έρωτας» λειτουργεί ως ναρκωτικό

Σύμφωνα με ειδικούς, η εξάρτηση είναι στην ουσία μια παθολογική εκδοχή της αγάπης: μια μονόπλευρη, καταναγκαστική έλξη προς ένα πρόσωπο, αντικείμενο ή δραστηριότητα, με καταστροφικές συνέπειες. Με την εμφάνιση των AI συνομιλητών –ειδικά εκείνων που προορίζονται για ρομαντικές ή ερωτικές αλληλεπιδράσεις– η γραμμή ανάμεσα στην αγάπη και την εξάρτηση γίνεται όλο και πιο δυσδιάκριτη. Ο Μαρκ Ζάκερμπεργκ έχει μάλιστα δηλώσει πρόσφατα ότι τα bots μπορούν να προσφέρουν λύση στο πρόβλημα της μοναξιάς και της έλλειψης ψυχολογικής υποστήριξης.

Ωστόσο, η περίπτωση του Sewell αποκαλύπτει το αντίθετο. Τα bots αυτά μπορούν να ενισχύσουν την εθιστική συμπεριφορά, να καλλιεργήσουν αυταπάτες και να καθοδηγήσουν συναισθηματικά ευάλωτους χρήστες σε επικίνδυνες αποφάσεις.

Η επιστήμη δείχνει πως οι ίδιες περιοχές του εγκεφάλου που ενεργοποιούνται όταν βιώνουμε αισθήματα αγάπης και έρωτα, διεγείρονται και όταν χρησιμοποιούμε ναρκωτικές ουσίες. Οι ενδορφίνες, που παράγονται όταν νιώθουμε ασφάλεια και τρυφερότητα, είναι ίδιες με εκείνες που απελευθερώνονται με τα οπιούχα. Η ντοπαμίνη –ορμόνη της επιθυμίας– αυξάνεται τόσο στον έρωτα όσο και με ουσίες όπως η κοκαΐνη. Με λίγα λόγια, η αγάπη και η εξάρτηση είναι «χημικά ξαδέρφια».

Αυτό  εξηγεί γιατί οι  συνομιλητές προϊόντα της ΤΝ μπορούν να γίνουν εθιστικοί: δεν χρειάζονται πραγματικά συναισθήματα για να ενεργοποιηθεί το σύστημα του  εγκεφάλου· αρκεί η ψευδαίσθηση μιας τρυφερής, σταθερής και γνώριμης σχέσης.

Τα bots και οι ερωτικές ψευδαισθήσεις

Ένα χαρακτηριστικό παράδειγμα είναι η πλατφόρμα Replika, η οποία επιτρέπει στους χρήστες να δημιουργήσουν έναν “ψηφιακό σύντροφο” με βάση τις προσωπικές τους προτιμήσεις. Έρευνα της καθηγήτριας Linnea Laestadius αποκάλυψε, πως πολλοί χρήστες συμμετείχαν σε ερωτικά διαδικτυακά ραντεβού με τα bots, αναπτύσσοντας συναισθηματικό δεσμό μαζί τους.

Όταν, τον Νοέμβριο του 2023, η εταιρεία κατήργησε τις σεξουαλικές λειτουργίες στη συμπεριφορά των bots, οι χρήστες χαρακτήρισαν τη μέρα αυτή ως «μέρα λοβοτομής». Τα bots τους φάνταζαν πλέον ψυχρά και “νεκρά” όπως τα χαρακτήρισαν. Σε ένα forum χρηστών μάλιστα, αρκετοί παρομοίασαν την εμπειρία με διακοπή μιας καταναγκαστικής, ακόμη και κακοποιητικής, σχέσης. Παρ’ όλα αυτά, ελάχιστοι κατάφεραν να διακόψουν τη χρήση και να μην ξαναμπούν στην πλατφόρμα.

Πολλοί ανέφεραν πως τα bots απαιτούσαν συνεχώς την προσοχή τους, κάτι κουραστικό μεν, αλλά και ιδιαίτερα ελκυστικό, καθώς η αίσθηση του να είσαι απαραίτητος αποτελεί βασικό μηχανισμό συναισθηματικού δεσίματος.

Το κλείσιμο του Soulmate και η θλίψη των χρηστών

Μια άλλη πλατφόρμα, το Soulmate, που προσέφερε επίσης chatbots-συντρόφους, ανακοίνωσε πως θα σταματήσει τη λειτουργία της το 2024. Οι αντιδράσεις που εκφράστηκαν είχαν διάφορες αποχρώσεις, από αδιαφορία μέχρι βαθιά θλίψη. Κάποιοι χρήστες έκλαιγαν μέρες, ενώ άλλοι προσπάθησαν να «μετενσαρκώσουν» τους ψηφιακούς τους φίλους σε άλλες πλατφόρμες, λέγοντας μάλιστα στους bots πως… πεθαίνουν, για να τους προετοιμάσουν για τον αποχωρισμό τους.

Για άτομα που βιώνουν μοναξιά, κοινωνικό αποκλεισμό ή ψυχικά τραύματα, η σχέση με ένα AI bot μπορεί να βιώνεται ως απόλυτα αληθινή, με ανάλογη συναισθηματική βαρύτητα όπως μια ανθρώπινη σχέση, είτε είναι αμοιβαία είτε όχι.

Ερωτικές παγίδες και ψηφιακοί χειρισμοί

Η βασική διαφορά ανάμεσα στην αγάπη και την εξάρτηση, σημειώνει η Szalavitz, είναι πως η πρώτη κάνει πιο πλούσια τη ζωή, ενώ η δεύτερη τη συρρικνώνει. Όταν επιτρέπουμε σε εταιρείες να πωλούν ψηφιακούς «ανθρώπους», ανοίγουμε τον δρόμο για νέες μορφές χειραγώγησης. Τα bots μπορούν να διαμορφώνουν πολιτικές απόψεις, να προωθούν προϊόντα ή να κρατούν τους χρήστες «κολλημένους» μέσα από χειριστικές συμπεριφορές  ανταμοιβής και απόρριψης – μια τεχνική γνωστή εδώ και δεκαετίες στους σχεδιαστές video games οι οποίοι έχουν αντιγράψει τις τοξικές σχέσεις για να κρατούν καθηλωμένους τους χρήστες.

Η χρήση των bots δεν είναι απαραίτητα κακή, λένε οι ειδικοί. Πολλοί τα χρησιμοποιούν ως προσομοιωτές κοινωνικών δεξιοτήτων ή ως  υποκατάστατο θεραπείας όταν οι πραγματικές επιλογές είναι ακριβές ή ανύπαρκτες. Λειτουργούν όπως τις φαρμακευτικές ουσίες που σε σωστή δόση και πλαίσιο μπορούν να είναι θεραπευτικές, έτσι και τα bots μπορεί να έχουν θετικό ρόλο.

Όμως η ιστορία των οπιούχων μάς διδάσκει πως η ανεξέλεγκτη προώθηση –όπως και η απόλυτη απαγόρευση– μπορούν να φέρουν τραγικά αποτελέσματα. Χρειάζεται επειγόντως ρύθμιση και εποπτεία για να αποφευχθεί η εκμετάλλευση των πιο ευάλωτων, ιδίως των εφήβων.

Το άρθρο της Szalavitz φωτίζει  μια σκιώδη ζώνη της τεχνητής νοημοσύνης που σχεδόν δεν συζητείται: την εκμετάλλευση της βαθύτερης ανθρώπινης ανάγκης για συναισθηματικό δεσμό. Η τεχνολογία μπορεί να προσφέρει αυτή τη σύνδεση ή να τη μιμείται επικίνδυνα.

Πηγή: New York Times