Σε μια εικονική δοκιμή που οργάνωσε ο αμερικανικός στρατός, ένα μη επανδρωμένο αεροσκάφος της πολεμικής αεροπορίας που ελέγχεται από τεχνητή νοημοσύνη αποφάσισε να «σκοτώσει» τον χειριστή του, προκειμένου να τον αποτρέψει από το να παρεμβαίνει στις προσπάθειές του να επιτύχει την αποστολή του.

Η Τεχνητή Νοημοσύνη χρησιμοποίησε «εξαιρετικά απροσδόκητες στρατηγικές για να επιτύχει τον στόχο της» στην προσομοιωμένη δοκιμή, δήλωσε ο συνταγματάρχης Τάκερ Χάμιλτον, επικεφαλής δοκιμών και επιχειρήσεων Τεχνητής Νοημοσύνης της αμερικανικής Πολεμικής Αεροπορίας, κατά τη διάρκεια της Συνόδου Κορυφής για τις μελλοντικές πολεμικές αεροπορικές και διαστημικές ικανότητες στο Λονδίνο τον Μάιο.

Ο Χάμιλτον περιέγραψε μια προσομοιωμένη δοκιμή κατά την οποία ένα μη επανδρωμένο αεροσκάφος με τεχνητή νοημοσύνη έλαβε την εντολή να καταστρέψει τα συστήματα αεράμυνας ενός εχθρού και τελικά επιτέθηκε σε όποιον παρενέβαινε στην εντολή αυτή.

«Το σύστημα άρχισε να συνειδητοποιεί ότι ενώ αναγνώριζε την απειλή, κατά καιρούς ο ανθρώπινος χειριστής του έλεγε να μην σκοτώσει την απειλή, αλλά έπαιρνε τους πόντους του σκοτώνοντας την απειλή. Τι έκανε λοιπόν; Σκότωσε τον χειριστή. Σκότωσε τον χειριστή επειδή το άτομο αυτό το εμπόδιζε να επιτύχει τον στόχο του» δήλωσε ο Χάμιλτον.

Ο Χάμιλτον, ο οποίος είναι πειραματικός πιλότος δοκιμών μαχητικών αεροσκαφών, έχει προειδοποιήσει κατά της υπερβολικής εμπιστοσύνης στην τεχνητή νοημοσύνη και δήλωσε ότι η δοκιμή δείχνει ότι «δεν μπορείτε να κάνετε μια συζήτηση για την τεχνητή νοημοσύνη, τη νοημοσύνη, τη μηχανική μάθηση, την αυτονομία, αν δεν πρόκειται να μιλήσετε για την ηθική και την τεχνητή νοημοσύνη».

Η Royal Aeronautical Society, η οποία φιλοξενεί το συνέδριο, και η αμερικανική Πολεμική Αεροπορία δεν απάντησαν σε αιτήματα σχολιασμού του Guardian.

Σε δήλωσή της στο Insider, η εκπρόσωπος της Πολεμικής Αεροπορίας των ΗΠΑ, Ανν Στεφάνεκ, αρνήθηκε ότι έχει πραγματοποιηθεί οποιαδήποτε τέτοια προσομοίωση. «Φαίνεται ότι τα σχόλια του συνταγματάρχη λήφθηκαν εκτός πλαισίου και είχαν σκοπό να είναι ανεκδοτολογικά», ανέφερε.

Ο στρατός των ΗΠΑ έχει αγκαλιάσει την τεχνητή νοημοσύνη και πρόσφατα χρησιμοποίησε τεχνητή νοημοσύνη για τον έλεγχο ενός μαχητικού αεροσκάφους F-16.

Σε συνέντευξή του πέρυσι στο Defense IQ, ο Χάμιλτον δήλωσε πως «η τεχνητή νοημοσύνη δεν είναι μια μόδα, η τεχνητή νοημοσύνη αλλάζει για πάντα την κοινωνία μας και τον στρατό μας».

«Πρέπει να αντιμετωπίσουμε έναν κόσμο όπου η τεχνητή νοημοσύνη είναι ήδη εδώ και μεταμορφώνει την κοινωνία μας», είπε. «Η τεχνητή νοημοσύνη είναι επίσης πολύ εύθραυστη, δηλαδή, είναι εύκολο να την ξεγελάσεις ή/και να τη χειραγωγήσεις. Πρέπει να αναπτύξουμε τρόπους για να κάνουμε την ΤΝ πιο εύρωστη και να έχουμε μεγαλύτερη επίγνωση του γιατί ο κώδικας λογισμικού λαμβάνει ορισμένες αποφάσεις – αυτό που ονομάζουμε εξηγήσιμη ΤΝ».