Πώς μπορεί κανείς να ξεχωρίσει ένα πραγματικό τραγούδι, μια φωτογραφία ή ένα κείμενο από κάτι που δημιουργήθηκε εξ ολοκλήρου με τεχνητή νοημοσύνη;

Καθώς τα εργαλεία AI γίνονται ολοένα πιο εξελιγμένα και τα αποτελέσματά τους δυσκολότερο να διακριθούν από ανθρώπινες δημιουργίες, η Google παρουσιάζει μια νέα τεχνολογία που φιλοδοξεί να δώσει απάντηση σε ένα από τα μεγαλύτερα προβλήματα της ψηφιακής εποχής.

Πρόκειται για το SynthID Detector, ένα εργαλείο που μπορεί να αναγνωρίζει περιεχόμενο παραγόμενο από τεχνητή νοημοσύνη, αναζητώντας ειδικά ψηφιακά σημάδια τα οποία δεν γίνονται αντιληπτά από τον άνθρωπο.

Το εντυπωσιακότερο στοιχείο, ωστόσο, είναι η κλίμακα στην οποία εφαρμόζεται ήδη η τεχνολογία.

Σύμφωνα με την Google, έχουν ενσωματωθεί τέτοια υδατογραφήματα σε περισσότερες από 180 δισεκατομμύρια εικόνες και βίντεο, καθώς και σε αρχεία ήχου συνολικής διάρκειας που αντιστοιχεί σε 240.000 χρόνια.

Αόρατα σημάδια που αποκαλύπτουν την προέλευση του περιεχομένου

Η λειτουργία του SynthID Detector βασίζεται στα λεγόμενα αόρατα ψηφιακά υδατογραφήματα (watermarks), τα οποία ενσωματώνονται σε περιεχόμενο που παράγεται με εργαλεία τεχνητής νοημοσύνης.

Σε αντίθεση με τα συνηθισμένα υδατογραφήματα, όπως ένα λογότυπο πάνω σε μια φωτογραφία, αυτά τα σημάδια δεν είναι ορατά στο ανθρώπινο μάτι ούτε αλλοιώνουν αισθητά την ποιότητα της εικόνας, του βίντεο ή του ήχου.

Η τεχνολογία έχει σχεδιαστεί ώστε τα υδατογραφήματα να μπορούν να ανιχνευθούν ακόμη και όταν το αρχικό υλικό έχει υποστεί ορισμένες επεξεργασίες, όπως η εφαρμογή φίλτρων ή η περικοπή μιας εικόνας.

Έτσι, το εργαλείο δεν προσπαθεί απλώς να μαντέψει αν κάτι «μοιάζει» με προϊόν τεχνητής νοημοσύνης, αλλά αναζητά συγκεκριμένα ψηφιακά ίχνη που μπορούν να πιστοποιήσουν την προέλευσή του.

Η Google είχε διαθέσει μια πρώιμη έκδοση του SynthID Detector πέρυσι, αποκλειστικά για επαγγελματίες των μέσων ενημέρωσης, ώστε να ελέγχουν τη γνησιότητα ψηφιακού υλικού. Η νέα έκδοση είναι πλέον διαθέσιμη στο ευρύ κοινό.

«Καθώς τα εργαλεία τεχνητής νοημοσύνης γίνονται καλύτερα και ευκολότερα στη χρήση, η σαφής γνώση του πλαισίου μέσα στο οποίο δημιουργήθηκε το περιεχόμενο που συναντάτε στο διαδίκτυο σας βοηθά να λαμβάνετε τεκμηριωμένες αποφάσεις σχετικά με το τι μπορείτε να εμπιστευτείτε», εξήγησε ο Πουσμίτ Κόλο, αντιπρόεδρος Επιστήμης και Στρατηγικών Πρωτοβουλιών της Google DeepMind.

Όπως πρόσθεσε, το νέο εργαλείο έρχεται να συμπληρώσει τις δυνατότητες επαλήθευσης που υπάρχουν ήδη στην Αναζήτηση Google, στην εφαρμογή Gemini και στον Chrome, οι οποίες διαχειρίζονται πλέον περισσότερα από ένα εκατομμύριο αιτήματα ημερησίως.

Η απάτη εκατομμυρίων με εκατοντάδες χιλιάδες τραγούδια AI

Η παρουσίαση της νέας τεχνολογίας συμπίπτει με μια υπόθεση που ανέδειξε πόσο εύκολα μπορεί να χρησιμοποιηθεί η τεχνητή νοημοσύνη για οικονομική απάτη στη μουσική βιομηχανία.

Στις Ηνωμένες Πολιτείες, ένας 54χρονος από τη Βόρεια Καρολίνα, ο Μάικλ Σμιθ, καταδικάστηκε αυτή την εβδομάδα σε 18 μήνες φυλάκιση, επειδή οργάνωσε ένα σύστημα εξαπάτησης πλατφορμών μουσικής μέσω τραγουδιών που είχαν δημιουργηθεί με AI.

Σύμφωνα με την υπόθεση, ο Σμιθ κατάφερε επί επτά χρόνια να εκμεταλλεύεται υπηρεσίες όπως το Spotify και το Apple Music, χωρίς η δραστηριότητά του να εντοπιστεί.

Χρησιμοποιώντας εκατοντάδες χιλιάδες τραγούδια παραγόμενα από τεχνητή νοημοσύνη, αποκόμισε έσοδα εκατομμυρίων δολαρίων από τις πλατφόρμες.

Η υπόθεση καταδεικνύει ότι η αδυναμία αναγνώρισης τεχνητά παραγόμενου περιεχομένου δεν αφορά μόνο την παραπληροφόρηση ή την αυθεντικότητα των έργων, αλλά μπορεί να έχει και σημαντικές οικονομικές συνέπειες.

Στην ίδια κατεύθυνση OpenAI και Anthropic

Η Google δεν είναι η μόνη εταιρεία που επενδύει στην ψηφιακή σήμανση περιεχομένου τεχνητής νοημοσύνης.

Λίγες ημέρες πριν από την παρουσίαση του νέου SynthID Detector, η OpenAI ανακοίνωσε μια αντίστοιχη τεχνολογία αόρατης σήμανσης για κείμενα που παράγονται μέσω του ChatGPT.

Το σύστημα, με την ονομασία textGrain, πραγματοποιεί ανεπαίσθητες αλλαγές στην επιλογή των λέξεων. Το τελικό κείμενο παραμένει φυσικό για τον αναγνώστη, αλλά περιλαμβάνει συγκεκριμένα μοτίβα τα οποία μπορούν να αναγνωρίσουν εξειδικευμένα αυτοματοποιημένα συστήματα.

Ανάλογη τεχνολογία έχει ανακοινώσει και η Anthropic, η εταιρεία πίσω από το chatbot Claude.

Ωστόσο, οι δύο εταιρείες επισημαίνουν έναν σημαντικό περιορισμό: τα υδατογραφήματα σε κείμενα μπορούν να χάσουν την αποτελεσματικότητά τους όταν το περιεχόμενο τροποποιείται ή εμπλουτίζεται από άνθρωπο.

Αυτό σημαίνει ότι η απουσία ανιχνεύσιμου υδατογραφήματος δεν αποδεικνύει απαραίτητα πως ένα κείμενο δημιουργήθηκε χωρίς τη βοήθεια τεχνητής νοημοσύνης.

Η ευρωπαϊκή νομοθεσία και τα όρια της ανίχνευσης

Η ανάπτυξη τέτοιων εργαλείων συνδέεται και με τις νέες ρυθμιστικές απαιτήσεις της Ευρωπαϊκής Ένωσης.

Ο ευρωπαϊκός κανονισμός για την τεχνητή νοημοσύνη (AI Act) προβλέπει υποχρεώσεις ώστε το περιεχόμενο που παράγεται από συστήματα δημιουργικής τεχνητής νοημοσύνης να μπορεί να αναγνωρίζεται από αυτοματοποιημένους μηχανισμούς.

Προς το παρόν, πάντως, το SynthID Detector έχει συγκεκριμένα όρια. Σύμφωνα με την Google, μπορεί να λειτουργήσει με συμβατό περιεχόμενο που έχει δημιουργηθεί μέσω πλατφορμών των Google, OpenAI, Nvidia, Kakao και Apple.

Επομένως, δεν πρόκειται για έναν καθολικό ανιχνευτή που μπορεί να αναγνωρίσει κάθε εικόνα, τραγούδι, βίντεο ή κείμενο τεχνητής νοημοσύνης, ανεξάρτητα από το εργαλείο με το οποίο δημιουργήθηκε.

Η σημασία της νέας τεχνολογίας βρίσκεται κυρίως στη δυνατότητα να συνοδεύεται το ψηφιακό περιεχόμενο από ένα μη ορατό αλλά ανιχνεύσιμο ίχνος της προέλευσής του.

Σε ένα διαδίκτυο όπου η τεχνητή νοημοσύνη μπορεί πλέον να παράγει τεράστιες ποσότητες υλικού μέσα σε ελάχιστο χρόνο, η δυνατότητα να γνωρίζουμε τι έχει δημιουργηθεί από άνθρωπο και τι από μηχανή εξελίσσεται σε κρίσιμο ζήτημα για την ενημέρωση, τη δημιουργική βιομηχανία και την εμπιστοσύνη στο ψηφιακό περιβάλλον.

Το SynthID Detector είναι διαθέσιμο μέσω της Google DeepMind.