Μια λανθασμένη αναφορά πληροφοριών, στην κατάρτιση της οποίας χρησιμοποιήθηκε τεχνητή νοημοσύνη, φέρεται να έφερε τις ΗΠΑ πολύ κοντά στην πραγματοποίηση στρατιωτικής επιχείρησης εναντίον κινεζικού πλοίου στη Μέση Ανατολή, δημιουργώντας τον κίνδυνο μιας εξαιρετικά σοβαρής κρίσης ανάμεσα στην Ουάσινγκτον και το Πεκίνο.

Το περιστατικό, το οποίο αποκαλύπτει το CNN, σημειώθηκε την άνοιξη, ενώ βρισκόταν σε εξέλιξη ο πόλεμος με το Ιράν. Αφετηρία της κινητοποίησης ήταν μια αναφορά σύμφωνα με την οποία το κινεζικό πλοίο μετέφερε εξαρτήματα που συνδέονταν με πρόγραμμα ανάπτυξης πυρηνικών όπλων.

Η πληροφορία αντιμετωπίστηκε ως αρκετά σοβαρή ώστε να ενεργοποιηθεί άμεσα ο αμερικανικός στρατιωτικός μηχανισμός και να αρχίσει ο σχεδιασμός για την αναχαίτιση του πλοίου.

Σύμφωνα με πηγές που μίλησαν στο CNN, μεταξύ των επιλογών που εξετάστηκαν ήταν ακόμη και η αποστολή ενόπλων ομάδων για να επιβιβαστούν στο σκάφος, ενώ αμερικανικά στρατιωτικά αεροσκάφη είχαν ήδη απογειωθεί.

Η επιχείρηση, ωστόσο, δεν προχώρησε.

Λίγο πριν από την υλοποίησή της, η επίμαχη αναφορά επανεξετάστηκε και τότε αποκαλύφθηκε ότι είχε συνταχθεί με τη βοήθεια εργαλείου τεχνητής νοημοσύνης, το οποίο είχε καταλήξει σε εσφαλμένη αναγνώριση του φορτίου.

Το τι μετέφερε στην πραγματικότητα το κινεζικό πλοίο δεν έχει γνωστοποιηθεί.

Πηγή που επικαλείται το CNN χαρακτήρισε την επίμαχη αναφορά «εντελώς ψευδή».

Η σοβαρότητα του περιστατικού έγκειται στο γεγονός ότι, εάν η αμερικανική επιχείρηση είχε πραγματοποιηθεί με βάση τη συγκεκριμένη πληροφορία, η επέμβαση εναντίον ενός κινεζικού πλοίου θα μπορούσε να προκαλέσει επικίνδυνη κλιμάκωση και άμεση αντιπαράθεση μεταξύ Ηνωμένων Πολιτειών και Κίνας.

Πώς η AI οδήγησε στο λανθασμένο συμπέρασμα

Σύμφωνα με το CNN, πίσω από την αναφορά βρισκόταν ένας αναλυτής ο οποίος χρησιμοποίησε chatbot προκειμένου να επεξεργαστεί πληροφορίες σχετικά με το φορτίο του πλοίου.

Τα δεδομένα που χρησιμοποιήθηκαν προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού, η οποία εδρεύει στη Χαβάη.

Το σύστημα τεχνητής νοημοσύνης επεξεργάστηκε και συνδύασε πληροφορίες από ανοιχτές πηγές με απόρρητα δεδομένα σημάτων που βρίσκονταν στις βάσεις δεδομένων της αμερικανικής κυβέρνησης.

Μέσα από αυτή τη διαδικασία οδηγήθηκε στο λανθασμένο συμπέρασμα σχετικά με τη φύση του φορτίου του κινεζικού πλοίου.

Το πρόβλημα δεν σταμάτησε εκεί.

Ο ίδιος αναλυτής φέρεται να χρησιμοποίησε στη συνέχεια εκ νέου την Τεχνητή Νοημοσύνη, αυτή τη φορά για τη σύνταξη της ίδιας της αναφοράς πληροφοριών.

Το τελικό κείμενο διακινήθηκε σε στρατιωτικούς αξιωματούχους ως ανάλυση πληροφοριών, χωρίς προηγουμένως να έχει υποβληθεί στον απαραίτητο έλεγχο που θα μπορούσε να αποκαλύψει το σφάλμα.

Άγνωστο ποιο σύστημα χρησιμοποιήθηκε

Δεν έχει αποσαφηνιστεί εάν ο αναλυτής χρησιμοποίησε κάποιο εμπορικά διαθέσιμο chatbot ή ένα σύστημα Τεχνητής Νοημοσύνης που είχε αναπτυχθεί ειδικά για χρήση από την αμερικανική κυβέρνηση.

Πρώην υψηλόβαθμος Αμερικανός αξιωματούχος, ο οποίος γνωρίζει τα εργαλεία AI που χρησιμοποιούνται από τις ένοπλες δυνάμεις και τις υπηρεσίες πληροφοριών, ανέφερε ότι τα εσωτερικά συστήματα αποτελούν σε μεγάλο βαθμό παραλλαγές εφαρμογών που διατίθενται και εμπορικά.

Η υπόθεση προκαλεί προβληματισμό καθώς οι αμερικανικές ένοπλες δυνάμεις ενσωματώνουν με ολοένα ταχύτερους ρυθμούς εφαρμογές Τεχνητής Νοημοσύνης σε κρίσιμους τομείς της λειτουργίας τους.

Η τεχνολογία χρησιμοποιείται με στόχο να επιταχυνθεί η διαδικασία λήψης αποφάσεων, από την επιλογή στόχων μέχρι τη διαχείριση στρατιωτικών επιχειρήσεων και πόρων.

Η κούρσα της AI και ο ανταγωνισμός με την Κίνα

Η αμερικανική κυβέρνηση αντιμετωπίζει την ταχεία ανάπτυξη στρατιωτικών εφαρμογών Τεχνητής Νοημοσύνης ως στρατηγικής σημασίας προτεραιότητα, ιδιαίτερα στο πλαίσιο του ανταγωνισμού με την Κίνα.

Ο υπουργός Άμυνας των ΗΠΑ Πιτ Χέγκσεθ έχει ταχθεί υπέρ της επιτάχυνσης της υιοθέτησης της συγκεκριμένης τεχνολογίας και της απομάκρυνσης γραφειοκρατικών εμποδίων που καθυστερούν την εφαρμογή της.

Ωστόσο, αξιωματούχοι με γνώση των συστημάτων επισημαίνουν ότι η γρήγορη ανάπτυξή τους συνοδεύεται από σημαντικές προκλήσεις ασφαλείας.

Σύμφωνα με τις ίδιες πληροφορίες, δεν υπάρχει ένα ενιαίο πλαίσιο ασφαλείας που να εφαρμόζεται οριζόντια σε όλες τις αμερικανικές υπηρεσίες. Διαφορετικοί φορείς χρησιμοποιούν διαφορετικά εργαλεία, διαφορετικές διαδικασίες ελέγχου και συστήματα με διαφορετικά επίπεδα αξιοπιστίας.

Ο κίνδυνος από τις «παραισθήσεις» της Τεχνητής Νοημοσύνης

Στο επίκεντρο των ανησυχιών βρίσκονται οι λεγόμενες «παραισθήσεις» των συστημάτων Τεχνητής Νοημοσύνης: περιπτώσεις κατά τις οποίες ένα μοντέλο παράγει πληροφορίες που μπορεί να εμφανίζονται πειστικές και τεκμηριωμένες, αλλά στην πραγματικότητα είναι λανθασμένες.

Σε ένα συνηθισμένο περιβάλλον, ένα τέτοιο σφάλμα μπορεί να οδηγήσει σε μια ανακριβή απάντηση ή ανάλυση. Όταν όμως το αποτέλεσμα χρησιμοποιείται ως βάση για στρατιωτικές αποφάσεις, οι συνέπειες μπορούν να είναι πολύ σοβαρότερες.

Το πρόβλημα γίνεται ακόμη πιο κρίσιμο στις επιχειρήσεις στοχοποίησης, όπου μια λανθασμένη εκτίμηση μπορεί να οδηγήσει όχι μόνο σε επιχειρησιακό σφάλμα αλλά και σε απώλειες ανθρώπινων ζωών, φίλια πυρά ή ευρύτερη γεωπολιτική κλιμάκωση.

Πηγή με γνώση των πολιτικών που εφαρμόζουν οι αμερικανικές ένοπλες δυνάμεις δήλωσε στο CNN ότι η αξιοποίηση της AI στις διαδικασίες στοχοποίησης αυξάνεται.

Παράλληλα, παραμένουν ερωτήματα σχετικά με το κατά πόσο η ανθρώπινη παρέμβαση και οι μηχανισμοί ελέγχου που εφαρμόζονται είναι επαρκείς ώστε να αποτρέπουν λάθη που θα μπορούσαν να οδηγήσουν σε απώλειες αμάχων ή σε φίλια πυρά.

Η περίπτωση του κινεζικού πλοίου αποτελεί χαρακτηριστικό παράδειγμα του κινδύνου: ένα λανθασμένο συμπέρασμα που παράγεται με τη βοήθεια Τεχνητής Νοημοσύνης μπορεί, εφόσον περάσει χωρίς επαρκή ανθρώπινο έλεγχο ως αξιόπιστη πληροφορία, να μετατραπεί από ένα ψηφιακό σφάλμα σε πραγματική στρατιωτική κινητοποίηση — και, στη χειρότερη περίπτωση, σε αφορμή για διεθνή σύγκρουση.