Όσο περισσότερο πολλαπλασιάζονται τα εργαλεία που υπόσχονται να εντοπίσουν τα κείμενα που παράγονται από μηχανές, τόσο δυσκολότερο γίνεται να εμπιστευτούμε την κρίση τους. Το κείμενο που ακολουθεί απαντά στο ερώτημα αν υπάρχει μηχανή σήμερα που να μπορεί να εγγυηθεί την αυθεντικότητα ενός κειμένου και να διαχωρίσει τι προέρχεται από ανθρώπινη γραφή και τι από Τεχνητή Νοημοσύνη (ΤΝ).

Σε ανάλυσή του στο The Conversation, ο Φρανσουά Ραστιέ, διευθυντής ερευνών στο γαλλικό Εθνικό Κέντρο Επιστημονικής Έρευνας (CNRS), περιγράφει μια νέα πραγματικότητα στην οποία τα κείμενα που παράγονται από τεχνητή νοημοσύνη δεν μπορούν να χαρακτηριστούν απλώς αληθή ή ψευδή, αυθεντικά ή πλαστά. Συχνά δεν υπάρχει κανείς που να αναλαμβάνει την ευθύνη για το περιεχόμενό τους.

Οι εταιρείες που αναπτύσσουν chatbots περιορίζονται σε προειδοποιήσεις όπως «ενδέχεται να περιέχει λάθη», μεταθέτοντας ουσιαστικά την ευθύνη στον χρήστη.

Κείμενα που γίνονται αντικείμενα καχυποψίας

Στον χώρο της δημοσιογραφίας και των εκδόσεων, το κυρίαρχο ερώτημα είναι: πώς μπορεί ένας εκδότης να γνωρίζει αν ένα χειρόγραφο γράφτηκε από άνθρωπο ή παράχθηκε από τεχνητή νοημοσύνη;

Το πρόβλημα περιπλέκεται από το γεγονός ότι τα συστήματα αυτά εκπαιδεύτηκαν χρησιμοποιώντας προσωπικά δεδομένα, ελεύθερα διαθέσιμα έγγραφα, αλλά και έργα που προστατεύονται από πνευματικά δικαιώματα, χωρίς αντίστοιχη αποζημίωση των δημιουργών. Οι περιορισμένες συμφωνίες που έχουν συνάψει ορισμένοι μεγάλοι εκδοτικοί οίκοι με εταιρείες τεχνητής νοημοσύνης δεν αναιρούν το αρχικό πρόβλημα.

Στις επιστημονικές εκδόσεις, η χρήση της παραγωγικής τεχνητής νοημοσύνης γίνεται ολοένα περισσότερο αποδεκτή, αρκεί να δηλώνεται στις ευχαριστίες των συγγραφέων. Στη λογοτεχνία, ωστόσο, η ανθρώπινη δημιουργία εξακολουθεί να αποτελεί βασικό κριτήριο.

Το 2024, η Γιαπωνέζα συγγραφέας Ριέ Κουντάν τιμήθηκε με το βραβείο Ακουτάγκαβα, ένα από τα σημαντικότερα λογοτεχνικά βραβεία της χώρας, προκαλώντας αντιδράσεις όταν αποκάλυψε ότι περίπου το 5% του μυθιστορήματός της είχε γραφτεί με τη βοήθεια του ChatGPT.

Αντίστοιχα, ο Τζαμίρ Ναζίρ αναγκάστηκε να επιστρέψει το βραβείο Commonwealth για διήγημά του, έπειτα από κατηγορίες περί χρήσης τεχνητής νοημοσύνης. Τον Ιούλιο του 2026 δικαιώθηκε δικαστικά, παρουσιάζοντας προσχέδια, σημειώσεις και χρονολογημένα έγγραφα που τεκμηρίωναν τη συγγραφική του διαδικασία.

Η βιομηχανία που γέννησε η καχυποψία

Η αδυναμία ασφαλούς διάκρισης μεταξύ ανθρώπινων και τεχνητών κειμένων δημιούργησε μια νέα αγορά: εκείνη των εργαλείων ανίχνευσης τεχνητής νοημοσύνης.

Ο Ραστιέ την αποκαλεί «βιομηχανία της καχυποψίας». Εταιρείες όπως η Pangram προωθούν λογισμικά που υπόσχονται να εντοπίζουν κείμενα παραγόμενα από ΤΝ, πιέζοντας εκδότες και δημοσιογραφικούς οργανισμούς να εφαρμόζουν αυστηρούς ελέγχους.

Ωστόσο, η αξιοπιστία αυτών των εργαλείων αμφισβητείται. Ο δημοσιογράφος Τζέιμς Ταράντο της Wall Street Journal έδειξε ότι τα ίδια άρθρα μπορούσαν να λαμβάνουν διαφορετικά ποσοστά πιθανής χρήσης ΤΝ από το ίδιο λογισμικό, ανάλογα με τη χρονική στιγμή της εξέτασης.

Χαρακτηριστικό είναι το παράδειγμα του συγγραφέα Τιερί Κρουζέ, του οποίου το ανέκδοτο έργο «Η ανθρώπινη εμπειρία», αξιολογήθηκε από το εργαλείο Justdone ως κατά 61% προϊόν τεχνητής νοημοσύνης. Ο ίδιος αναρωτήθηκε εάν αυτό σημαίνει ότι είναι μόλις κατά 39% άνθρωπος.

Τα ποσοστά αυτά βασίζονται σε αδιαφανείς υπολογισμούς και μπορούν να οδηγήσουν σε ψευδείς κατηγορίες. Δεν είναι τυχαίο ότι πανεπιστήμια όπως το Γέιλ, το Μπέρκλεϊ και το MIT έχουν απαγορεύσει τη χρήση τέτοιων ανιχνευτών.

Η μηχανή που υπόσχεται να μας κάνει ανθρώπους

Το παράδοξο γίνεται ακόμη μεγαλύτερο όταν τα ίδια εργαλεία που ανιχνεύουν τεχνητά κείμενα προσφέρουν υπηρεσίες «εξανθρωπισμού» τους.

Η Justdone διαφημίζει ακρίβεια 99,8%, ενώ η Grammarly προωθεί λειτουργίες εντοπισμού και διόρθωσης περιεχομένου ΤΝ. Έτσι, η τεχνητή νοημοσύνη υπόσχεται να δημιουργεί πρωτότυπα κείμενα, να εντοπίζει τα μη αυθεντικά και στη συνέχεια να τα μεταμφιέζει σε ανθρώπινα.

Η σύγχυση επεκτείνεται και στα κοινωνικά δίκτυα. Το LinkedIn, μετά από κατηγορίες ότι σημαντικό ποσοστό των αναρτήσεών του παράγεται από ΤΝ, εισήγαγε δυνατότητα επισήμανσης ύποπτου περιεχομένου ως ΑΙ slop. Την ίδια στιγμή, διαθέτει στους συνδρομητές του εργαλεία παραγωγής κειμένων και η μητρική του εταιρεία συμμετέχει στο μετοχικό κεφάλαιο της OpenAI.

Η αυθεντικότητα ως ζήτημα ευθύνης

Ο Ραστιέ υποστηρίζει ότι η λύση δεν βρίσκεται στους ανιχνευτές, αλλά στην υποχρέωση των εταιρειών να επισημαίνουν εξαρχής τα τεχνητά παραγόμενα κείμενα μέσω σαφών ενδείξεων.

Ο ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη προβλέπει υποχρεώσεις σχετικής σήμανσης, αν και η εφαρμογή τους αντιμετωπίζει πρακτικές δυσκολίες.

Το βαθύτερο πρόβλημα, ωστόσο, είναι το αν ένα κείμενο μπορεί να είναι πραγματολογικά ακριβές αλλά μη αυθεντικό, όπως και ένα ανθρώπινο κείμενο μπορεί να περιέχει ψεύδη. Η αυθεντικότητα αφορά πρωτίστως την ταυτότητα του δημιουργού και τη δυνατότητα ανάληψης ευθύνης για όσα γράφονται.

Όπως επισημαίνει ο Ραστιέ, όταν ένα κείμενο συνδυάζει ανθρώπινη και τεχνητή δημιουργία χωρίς σαφή δήλωση, η αξιοπιστία του τίθεται υπό αμφισβήτηση. Και όσο οι άνθρωποι χρησιμοποιούν την ΤΝ για να γράφουν, να διορθώνουν και να «εξανθρωπίζουν» τα κείμενά τους, τόσο περισσότερο οι δύο μορφές γραφής συγκλίνουν.

Σήμερα πάντως, βρισκόμαστε στο σημείο όπου κάθε κείμενο μπορεί να θεωρηθεί ύποπτο και κάθε μηχανή να διαβεβαιώνει, εφόσον της ζητηθεί, ότι δεν είναι μηχανή. Το σίγουρο είναι, πως για την ώρα καμία μηχανή δεν μπορεί να εγγυηθεί την αυθεντικότητα ενός κειμένου. Αυτή η διάκριση, παραμένει στα ανθρώπινα χέρια.