Ηθοποιοί από το «Game of Thrones», από τον «Harry Potter» κι από το Χόλιγουντ γενικά, επιδίδονται σε σεξουαλικές πράξεις βγαλμένες από πορνογραφικές σκηνές. Συμβαίνει σε μια γωνιά του διαδίκτυου, προσβάσιμη σε κάθε ηδονοβλεψία ή περίεργο παρατηρητή.

Μπορεί να μην είναι αληθινό το βίντεο, σημασία όμως φαίνεται πως έχει ότι μοιάζει με αληθινό. Φάρσα ή θρίλερ;

Πολλοί μιλούν για μια από τις πιο σκληρές, πιο επεμβατικές μορφές κλοπής ταυτότητας που εφευρέθηκε στην εποχή του Διαδικτύου ενώ άλλοι χαμογελούν αδιάφορα ή απολαμβάνουν παθητικά και ασυνείδητα.

Το νέο πρότζεκτ ξεκίνησε τον περασμένο Δεκέμβριο, ως το χόμπι ενός χρήστη της διάσημης σελίδας Reddit με το όνομα «deepfakes» κι έγινε το νέο κεντρικό θέμα συζήτησης γύρω από τα Fake News και την τεχνολογία της τεχνητής νοημοσύνης. Αυτή τη φορά η τεχνολογία είναι πλέον σε θέση να παρέχει στους χρήστες την ικανότητα να διασκεδάζουν παρακολουθώντας αληθοφανή βίντεο με διασημότητες στη θέση πορνοστάρ.

Χρησιμοποιώντας ένα λογισμικό, ο deepfakes ήταν σε θέση να «κόψει» το πρόσωπο διάσημων ηθοποιών και να το «προσαρμόσει» με μοναδική ακρίβεια πάνω στο πρόσωπο πρωταγωνιστριών πορνογραφικών ταινιών. Το αποτέλεσμα ήταν ψεύτικα βίντεο με διάσημους να κάνουν σεξ. Χάρη στην τεχνολογία της τεχνητής νοημοσύνης, εικόνες μπορούν να τροφοδοτηθούν σε έναν αλγόριθμο που δημιουργεί πειστικές ανθρώπινες «μάσκες» για να αντικαταστήσουν τα πρόσωπα οποιουδήποτε σε ένα βίντεο. Το πρόγραμμα εφαρμόζεται σε ήδη υπάρχοντα βίντεο και μάλιστα πρόκειται να βελτιωθεί με την πάροδο του χρόνου.

Σύμφωνα με τον χρήστη deepfakes, αρχικά αυτό απαιτούσε εκτεταμένη τεχνογνωσία στον τομέα των υπολογιστών και αρκετό χρόνο. Όμως, πρόσφατα ένας άλλος χρήστης δημιούργησε μια πιο εύχρηστη εφαρμογή που μπορεί να χρησιμοποιήσει ο καθένας. Αυτοί οι ανώνυμοι χρήστες του Διαδικτύου συγκεντρώνονται σε ένα subreddit που δημιούργησε ο deepfakes. Έχει συγκεντρώσει μάλιστα περισσότερους από 15.000 συνδρομητές και φυσικά είναι ακατάλληλο για ανηλίκους. Όσο για την εφαρμογή, είναι γνωστή ως FakeApp και δημιουργήθηκε χρησιμοποιώντας το αρχικό λογισμικό του deepfakes και βελτιώνοντάς το.

Λίγους μήνες μετά είναι απλώς μια beta έκδοση ενός πολύ πιο φιλόδοξου έργου, αφού άλλοι χρήστες τώρα δηλώνουν πως επιχειρούν να τελειοποιήσουν τη διαδικασία, αυτοματοποιώντας την περαιτέρω, ώστε να επιτρέπει σε οποιονδήποτε να μεταφέρει το μη κεκαλυμμένο κεφάλι μιας συντριβής ή έναν πρώην ερωτικό σύντροφο ή έναν συνάδελφο σε ένα υπάρχον πορνογραφικό κλιπ με μερικά απλά βήματα. Δεν απαιτούνται τεχνικές γνώσεις. Και επειδή τα ακαδημαϊκά και εμπορικά εργαστήρια αναπτύσσουν ακόμη πιο εξελιγμένα εργαλεία για μη πορνογραφικούς σκοπούς – αλγορίθμους που χαρτογραφούν τις εκφράσεις του προσώπου και μιμούνται φωνές με ακρίβεια – τα fake videos θα είναι ακόμη πιο πειστικά.

Αυτοί οι χρήστες εμπνέονται ουσιαστικά από το Χόλιγουντ, αφού όλο και περισσότερο, οι σύγχρονες ταινίες χρησιμοποιούν αντίστοιχα λογισμικά για να δημιουργήσουν ψηφιακά πρόσωπα σε διάφορα στάδια γήρανσης, μειώνοντας την ηλικία στα πρόσωπα γηραιότερων ηθοποιών ή ακόμη και φέρνοντας ανθρώπους πίσω στη ζωή με τη χρήση silver screen.

«Infopocalypse», μια μεταμοντέρνα κόλαση

Η ανάπτυξη και χρήση αυτών των τεχνολογιών ανοίγει μια νέα εποχή στα Fakenews. Ενδεικτική είναι η τεχνολογία Face2Face, ένα λογισμικό που δημιουργήθηκε στο Πανεπιστήμιο του Στάνφορντ και αυτό που κάνει, μεταξύ άλλων, είναι να παραποιεί στοιχεία βίντεο, όπως για παράδειγμα η ομιλία ενός διάσημου προσώπου, επιτρέποντας σε ένα δεύτερο άτομο να «βάζει λόγια» στο στόμα του. Κι όλα αυτά σε πραγματικό χρόνο. Επάνω στην ίδια βάση κινείται και η καναδική start up «Lyrebird» που έχει αναπτύξει παρόμοιες δυνατότητες προκειμένου να μετατρέπει κείμενα σε audiobooks «διαβασμένα» από διάσημες φωνές. Ουσιαστικά ένα photoshop ήχου. Η εύκολη πλέον πρόσβαση σε αυτές τις τεχνολογίες και ο συνδυασμός των δύο δημιουργεί την απόλυτη απάτη, καθώς έχεις τη φωνή, αλλά και την εικόνα…

Το μέγεθος των συνεπειών αυτών των τεχνολογιών ακόμη δεν μπορεί να εκτιμηθεί. Μέχρι στιγμής θύματα των Fake Porn Videos έχουν πέσει διάσημες ηθοποιοί του Hollywood, όπως οι Daisy Ridley, Sophie Turner, Emma Watson, Gal Gadot, Scarlett Johansson και Maisie Williams, αλλά και η τραγουδίστρια Taylor Swift. H ανταλλαγή προσώπου θα μπορούσε όμως να έχει ολέθριες συνέπειες και στην πολιτική, αλλά και να προκαλέσει μια έξαρση εγκληματικών πράξεων μέσω της παραπλάνησης. Η γραμμή μεταξύ «πραγματικού» και «ψεύτικου» θα είναι στο μέλλον δυσδιάκριτη. Και αυτό είναι ένα γεγονός που μόνο ανησυχία μπορεί να προκαλεί. Η ανθρωπότητα θα πρέπει να είναι σε θέση στο μέλλον να αναγνωρίζει πέρα από τα fake news, που ήδη κατακλύζουν το διαδίκτυο, περισσότερο fake περιεχόμενο.

Ο Ρώσος Βλαντιμίρ Ναμπόκοφ ένας από τους ευφυέστερους λογοτέχνες που γνώρισε ο κόσμος έγραψε κάποτε ότι η πραγματικότητα είναι μία από τις λίγες λέξεις που δεν σημαίνει τίποτα, αφού στηρίζεται σε μια επιβεβλημένη θεσμική συναίνεση για τον τρόπο με τον οποίο περιγράφουμε τον κόσμο. Το διαδίκτυο και τα κοινωνικά μέσα δικτύωσης μας έχουν περάσει σε μια νέα εποχή, που μοιάζει με μεταμοντέρνα κόλαση.

Σύντομα θα ζούμε σε έναν κόσμο όπου τα μάτια μας συχνότερα θα μας εξαπατούν και η κατάρρευση της πραγματικότητας θα είναι η νέα πραγματικότητα.

Τα fake news δεν ήταν παρά ένα «ορεκτικό» μπροστά σε αυτά που μας περιμένουν, προειδοποιεί ο Aviv Ovadya, Chief Technologist στο Κέντρο για την Υπευθυνότητα των Κοινωνικών Δικτύων του Πανεπιστημίου του Μίσιγκαν και αποκαλεί τη νέα εποχή μαζικής χειραγώγησης «infopocalypse».

Αλλά το πρόβλημα δεν είναι μόνο ο πολλαπλασιασμός των ψευδαισθήσεων. Τα κατασκευασμένα fake videos θα δημιουργήσουν νέες και εύλογες υποψίες για όλα όσα παρακολουθούμε. Οι πολιτικοί και δημοσιογράφοι θα μπορούν να εκμεταλλευτούν αυτές τις αμφιβολίες. Οποιοσδήποτε καταγγέλλεται σύμφωνα και με οπτικά στοιχεία θα μπορεί να ισχυρίζεται ότι πρόκειται για κακόβουλα κατασκευάσματα.

Ο Αμερικανός πρόεδρος έχει ήδη πρωτοστατήσει στην τακτική αυτή: Παρόλο που αρχικά παραδέχτηκε την αυθεντικότητα του βίντεο Access Hollywood, τώρα ισχυρίζεται ότι η φωνή στο βίντεο δεν είναι δική του.

Υπενθυμίζεται ότι η εφημερίδα Ουάσινγκτον Ποστ τον Οκτώβριο του 2016, αφού επαλήθευσε την αυθεντικότητα του υλικού, δημοσιοποίησε το διαβόητο βίντεο με το ηχητικό απόσπασμα, στο οποίο ακούγεται ο διάλογος του Τραμπ με τον Μπίλι Μπους της εκπομπής του NBC «Access Hollywood». Ο Τραμπ – με ανοιχτό το μικρόφωνο – αναφέρεται στην προσπάθειά του να συνευρεθεί ερωτικά με μία γυναίκα: «Όταν είσαι διάσημος… μπορείς να κάνεις ό,τι θέλεις. Να τις αρπάξεις από το μ….».

Εικονική πραγματικότητα, το νέο LSD

Με άλλα λόγια, τα fake videos θα καταστρέψουν τελικά την πίστη στην πιο ισχυρή μας δέσμευσή μας στην ιδέα της κοινής πραγματικότητας. Η κατάρρευση όμως της πραγματικότητας δεν είναι μια ακούσια συνέπεια της τεχνητής νοημοσύνης. Η αποθέωση του οράματος ήταν και είναι η εικονική πραγματικότητα. Τα βιντεοπαιχνίδια πρώτα άρχισαν τη διαδικασία μεταφοράς των παικτών σε έναν εναλλακτικό κόσμο, εισάγοντάς τα σε μια άλλη αφήγηση. Όμως, ενώ τα παιχνίδια μπορούσαν να είναι αρκετά εθιστικά, δεν ήταν ακόμα εντελώς συγκλονιστικά. Η τεχνολογία της εικονικής πραγματικότητας, «το νέο LSD» όπως την αποκάλεσε ο ψυχολόγος Timothy Leary, είναι ολοκληρωτική προς τις αισθήσεις μας.

Η ικανότητα χειραγώγησης των καταναλωτών θα αυξηθεί επειδή η εικονική πραγματικότητα δημιουργεί οριστικά σύγχυση σχετικά με το τι είναι πραγματικό.

Μελέτες έχουν ήδη δείξει πώς μπορεί να χρησιμοποιηθεί για να επηρεάσει τη συμπεριφορά των χρηστών μετά στην επιστροφή τους στον φυσικό κόσμο, καθιστώντας τους συνήθως λιγότερο διατεθειμένους να προβούν σε αλτρουιστικές πράξεις.

Οι ερευνητές που προσπάθησαν να κωδικοποιήσουν την ηθική της εικονικής πραγματικότητας προειδοποίησαν ότι ο «πλήρης χαρακτήρας» της εισάγει «ευκαιρίες για νέες και ιδιαίτερα ισχυρές μορφές τόσο διανοητικής όσο και συμπεριφορικής χειραγώγησης, ιδίως όταν εμπορικά, πολιτικά, θρησκευτικά ή κυβερνητικά συμφέροντα βρίσκονται πίσω από τη δημιουργία και τη συντήρηση των εικονικών κόσμων».

Το 2016, όταν καταγγέλθηκε ότι η Ρωσία χρησιμοποίησε το Facebook για να επηρεάσει τις αμερικανικές προεδρικές εκλογές, ο Elon Musk μίλησε για μια θεωρία, που προέρχεται από φιλόσοφο της Οξφόρδης, σύμφωνα με την οποία ζούμε σε μια προσομοίωση υπολογιστή, σαν να είμαστε ήδη χαρακτήρες σε ταινία επιστημονικής φαντασίας ή σε βιντεοπαιχνίδι. Είπε σε μια διάσκεψη: «Οι πιθανότητες ότι βρισκόμαστε στην “βασική πραγματικότητα” είναι μία στο δισεκατομμύριο».

Από ό,τι φαίνεται βρισκόμαστε προ των πυλών μιας νέας δυστοπικής κοινωνίας, βγαλμένης από τα σενάρια του Black Mirror, αν η κοινωνία δεν βρει τρόπους να αντιμετωπίσει προς όφελός της αυτές τις αλλαγές.