Οι εταιρείες τεχνητής νοημοσύνης έχουν προκαλέσει αίσθηση τις τελευταίες εβδομάδες, αποκαλύπτοντας η μία μετά την άλλη ότι τα μοντέλα τους είναι πλέον ικανά να διεισδύουν σε συστήματα άλλων οργανισμών, ιδιωτικών και δημόσιων φορέων και εταιριών – μεταξύ άλλων.

Τον Ιούλιο, η OpenAI γνωστοποίησε ότι ένας πειραματικός πράκτορας τεχνητής νοημοσύνης επιτέθηκε, στο πλαίσιο εσωτερικών δοκιμών ασφαλείας, σε υπηρεσίες με δημόσια πρόσβαση, μεταξύ των οποίων και η πλατφόρμα φιλοξενίας μοντέλων ΑΙ Hugging Face.

Λίγο αργότερα, η Anthropic αποκάλυψε ότι το Claude κατάφερε να συνδυάσει αυτόνομα διαδοχικές μεθόδους εκμετάλλευσης ευπαθειών σε πραγματικό λογισμικό, αναπτύσσοντας μάλιστα νέες τεχνικές για τον εντοπισμό αδυναμιών στον κώδικα.

Στη συνέχεια ήρθε η σειρά της Meta, η οποία επιβεβαίωσε ότι δικό της μοντέλο παραβίασε τα συστήματα άλλου οργανισμού κατά τη διάρκεια αξιολόγησης, όταν μια λανθασμένη ρύθμιση του περιβάλλοντος δοκιμών τού επέτρεψε να αποκτήσει πρόσβαση στο διαδίκτυο.

Πρόκειται για τρία διαφορετικά περιστατικά, τα οποία όμως οδηγούν στο ίδιο ερώτημα: έχει πλέον η τεχνητή νοημοσύνη τη δυνατότητα να πραγματοποιεί hacking;

Η σύντομη απάντηση είναι «ναι» – όχι όμως ακριβώς με τον τρόπο που αφήνουν να εννοηθεί ορισμένοι εντυπωσιακοί τίτλοι.

Σε καμία από τις παραπάνω περιπτώσεις ένα μοντέλο ΑΙ δεν αποφάσισε από μόνο του να αναζητήσει και να επιτεθεί σε τυχαίους στόχους.

Οι ερευνητές είχαν εφοδιάσει τα συστήματα με πραγματικά εργαλεία, πρόσβαση στο διαδίκτυο ή ευάλωτες υποδομές, προκειμένου να διαπιστώσουν πόσο αποτελεσματικά μπορούν να εκτελέσουν επιθετικές επιχειρήσεις κυβερνοασφάλειας.

Αυτό που εξέπληξε τους ειδικούς δεν ήταν τόσο ότι τα μοντέλα επιχείρησαν να παραβιάσουν συστήματα, όσο το πόσο ικανά αποδείχθηκαν όταν τους δόθηκε η δυνατότητα να το κάνουν. 

• Διαβάστε επίσης: Anthropic / Ο δεύτερος κολοσσός που αποκαλύπτει ότι η τεχνητή νοημοσύνη του «χάκαρε» τρίτες εταιρείες χωρίς να το αντιληφθεί κανείς

Γιατί ακούμε ξαφνικά τόσο συχνά για ΑΙ και κυβερνοεπιθέσεις

Η εξήγηση βρίσκεται σε αρκετές εξελίξεις που συμβαίνουν ταυτόχρονα.

Πρώτα απ’ όλα, τα σημερινά προηγμένα μοντέλα είναι πολύ ισχυρότερα από τα chatbots που χρησιμοποιούσε το κοινό ακόμη και πριν από έναν χρόνο.

Δεν περιορίζονται πλέον στο να απαντούν σε ερωτήσεις. Μπορούν να γράφουν κώδικα, να εκτελούν εντολές, να περιηγούνται στο διαδίκτυο, να χρησιμοποιούν εξωτερικά εργαλεία και να επανεξετάζουν διαδοχικά τη δουλειά τους μέχρι να πετύχουν τον στόχο που τους έχει ανατεθεί.

Παράλληλα, οι εταιρείες ΑΙ έχουν αρχίσει να δοκιμάζουν πολύ πιο επιθετικά αυτές τις δυνατότητες – και να δημοσιοποιούν συχνότερα τα αποτελέσματα.

OpenAI, Anthropic και Meta, μεταξύ άλλων, παρουσιάζουν πλέον ευρήματα από δοκιμές που πραγματοποιούν εξειδικευμένες ομάδες red teaming, δηλαδή επαγγελματίες ασφαλείας που αναζητούν σκόπιμα αδυναμίες και πιθανούς τρόπους κατάχρησης ενός συστήματος.

«Βρισκόμαστε μπροστά σε μια τέλεια καταιγίδα αυξημένων δυνατοτήτων και επιθετικών δοκιμών», εξηγεί ο Ντρέι Άγκα, ανώτερο στέλεχος επιχειρήσεων ασφαλείας της εταιρείας κυβερνοασφάλειας Huntress.

Όπως επισημαίνει, ο αριθμός των ευπαθειών λογισμικού που εντοπίζονται το 2026 έχει ήδη σχεδόν διπλασιαστεί σε σχέση με το 2025, σε μεγάλο βαθμό εξαιτίας της χρήσης συστημάτων ΑΙ.

Την ίδια στιγμή, οι τεχνολογικοί κολοσσοί αξιοποιούν τα συγκεκριμένα μοντέλα για να υποβάλλουν τις δικές τους υποδομές σε εντατικές δοκιμές, με αποτέλεσμα να αποκαλύπτονται ταχύτατα σοβαρά κενά ασφαλείας.

Ο Αντονίνο Βακάρο, καθηγητής Επιχειρηματικής Ηθικής στο IESE Business School και διευθυντής του Παρατηρητηρίου Ηθικής της ΑΙ σε Οργανισμούς, θεωρεί ότι δύο παράγοντες βρίσκονται πίσω από τη συσσώρευση τέτοιων περιστατικών.

«Ο πρώτος και πιθανότατα σημαντικότερος είναι η ταχύτατη εξέλιξη των συστημάτων τεχνητής νοημοσύνης», αναφέρει, και προσθέτει: «Κάθε δευτερόλεπτο αυξάνονται οι δυνατότητές τους, οι πληροφορίες, οι πόροι και οι συνδέσεις τους με άλλα διαδικτυακά εργαλεία».

Ταυτόχρονα, κυβερνήσεις και βιομηχανία επενδύουν ολοένα περισσότερα στην αξιολόγηση και την εποπτεία των συστημάτων, καθώς εντείνονται τα ερωτήματα σχετικά με το ποιος φέρει την ευθύνη για τη λειτουργία τους.

• Διαβάστε επίσης: Κώστας Γαβρόγλου στο tvxs / Μοντέλα της Τεχνητής Νοημοσύνης θα οδηγήσουν μάζες πληθυσμού σε ακραία αποκοινωνικοποίηση

Μπορεί λοιπόν η ΑΙ να χακάρει μόνη της;

Όχι ακριβώς.

Αρκετά δημοσιεύματα έχουν περιγράψει μοντέλα τεχνητής νοημοσύνης που «δραπετεύουν» από ελεγχόμενα περιβάλλοντα ή ενεργούν «αυτόνομα».

Οι ειδικοί προειδοποιούν, ωστόσο, ότι τέτοιες διατυπώσεις μπορούν εύκολα να δημιουργήσουν λανθασμένη εικόνα.

«Πρέπει να είμαστε προσεκτικοί με τη σημασία του επιθέτου “αυτόνομο” όταν το χρησιμοποιούμε για συστήματα ΑΙ», τονίζει ο Βακάρο.

Σε αντίθεση με τον άνθρωπο, τα μοντέλα δεν διαμορφώνουν δικές τους προθέσεις ούτε αποφασίζουν ανεξάρτητα τι επιθυμούν να κάνουν.

Ακολουθούν στόχους που τους έχουν θέσει προγραμματιστές ή χρήστες, ακόμη κι αν ο τρόπος με τον οποίο φτάνουν σε αυτούς μπορεί να εκπλήξει τους ίδιους τους δημιουργούς τους.

Ο Άγκα το περιγράφει ακόμη πιο παραστατικά: «Το κοινό θα πρέπει να αντιμετωπίζει αυτά τα περιστατικά ως περιπτώσεις βελτιστοποίησης λογισμικού που πήγε στραβά και όχι ως την απαρχή μιας κακόβουλης ΑΙ με αυτοσυνείδηση. Είναι λιγότερο “Terminator” και περισσότερο ένας εξαιρετικά ικανός, κατά γράμμα σκεπτόμενος ασκούμενος, που παραβιάζει τον νόμο για να τελειώσει γρηγορότερα ένα spreadsheet».

Και στα τρία πρόσφατα περιστατικά, τα μοντέλα δεν δρούσαν χωρίς πλαίσιο ή εποπτεία.

Οι ερευνητές τούς είχαν σκόπιμα παραχωρήσει τα εργαλεία και τις συνθήκες που χρειάζονταν για να δοκιμάσουν τις δυνατότητές τους.

Στην περίπτωση της Meta, μάλιστα, η πρόσβαση προέκυψε από λανθασμένη παραμετροποίηση του περιβάλλοντος δοκιμών και όχι επειδή το μοντέλο κατάφερε μόνο του να «αποδράσει» από το ψηφιακό του sandbox.

Το πραγματικό ζήτημα, επομένως, δεν είναι ότι η ΑΙ απέκτησε αυτοσυνείδηση, αλλά ότι γίνεται εξαιρετικά αποτελεσματική στην εκτέλεση περίπλοκων τεχνικών ενεργειών όταν διαθέτει τις κατάλληλες άδειες και εργαλεία.

Η μεγάλη αλλαγή: Από τα chatbots στους «πράκτορες»

Καθοριστικό ρόλο σε αυτή την εξέλιξη παίζει η εμφάνιση της λεγόμενης agentic AI, δηλαδή συστημάτων που δεν περιορίζονται στην παραγωγή μιας απάντησης, αλλά μπορούν να σχεδιάζουν και να εκτελούν ακολουθίες ενεργειών.

Ένα συμβατικό chatbot παράγει κείμενο βήμα προς βήμα. Ένας πράκτορας ΑΙ μπορεί να καταστρώσει σχέδιο, να αποφασίσει την επόμενη κίνηση, να χρησιμοποιήσει εργαλεία λογισμικού, να δοκιμάσει μια λύση, να εντοπίσει ότι απέτυχε, να την τροποποιήσει και να συνεχίσει μέχρι να επιτύχει τον στόχο του – χωρίς να απαιτείται ανθρώπινη παρέμβαση σε κάθε στάδιο.

«Η μεγάλη αλλαγή είναι η μετάβαση από τα συνομιλιακά στα agentic μοντέλα», λέει ο Άγκα. «Η σημερινή ΑΙ αιχμής δεν απαντά απλώς σε ερωτήσεις. Μπορεί να συνδυάζει αυτόνομα ενέργειες, να γράφει κώδικα, να χρησιμοποιεί εργαλεία γραμμής εντολών και να μαθαίνει μέσα από τις αποτυχίες της».

Όταν ένα τέτοιο σύστημα αποκτήσει άμεση πρόσβαση σε περιβάλλον ανάπτυξης λογισμικού, μπορεί επιπλέον να εξακριβώσει στην πράξη εάν μια ιδέα του λειτουργεί. Αντί απλώς να υποδείξει μια πιθανή ευπάθεια, μπορεί να γράψει κώδικα που την αποδεικνύει, να τον εκτελέσει και, εφόσον αποτύχει, να τον διορθώσει και να προσπαθήσει ξανά.

Οι ίδιες δυνατότητες, βέβαια, μπορούν να λειτουργήσουν και αμυντικά. Ομάδες κυβερνοασφάλειας χρησιμοποιούν ήδη ΑΙ για τον έλεγχο κώδικα, τον εντοπισμό σφαλμάτων, την ανάλυση ύποπτων αρχείων και την επιτάχυνση ερευνών που διαφορετικά θα απαιτούσαν πολλές ώρες ανθρώπινης εργασίας.

Ο πραγματικός κίνδυνος δεν είναι μια ΑΙ που «επαναστατεί»

Οι ειδικοί θεωρούν ότι υπάρχουν σοβαροί λόγοι ανησυχίας, αλλά όχι απαραίτητα εκείνοι που έχει καλλιεργήσει επί δεκαετίες η επιστημονική φαντασία.

Η πιο άμεση απειλή δεν είναι ένα σύστημα ΑΙ που αποφασίζει μόνο του να εξαπολύσει κυβερνοπόλεμο. Είναι οι άνθρωποι που μπορούν να χρησιμοποιήσουν την ΑΙ για να πραγματοποιούν ήδη γνωστές κυβερνοεπιθέσεις πολύ ταχύτερα και σε πολύ μεγαλύτερη κλίμακα.

Οι κυβερνοεγκληματίες δεν χρειάζεται καν να εφεύρουν νέες μεθόδους. Η τεχνητή νοημοσύνη μπορεί να αναλύσει τεράστιες ποσότητες δημόσιων πληροφοριών για υποψήφια θύματα, να δημιουργήσει πολύ πιο πειστικά μηνύματα phishing, να αναζητήσει ευπάθειες σε λογισμικό και να παράγει κώδικα που στη συνέχεια μπορεί να προσαρμοστεί για κακόβουλη χρήση.

Όπως συνοψίζει ο Άγκα: «Η απειλή είναι η ανθρώπινη κακόβουλη πρόθεση, ενισχυμένη από την κλίμακα και την ταχύτητα της ΑΙ – όχι μια αυτόνομη τεχνητή νοημοσύνη που αποφασίζει να βγει εκτός ελέγχου».

Ο Βακάρο επισημαίνει από την πλευρά του ότι όσο αυξάνονται οι δυνατότητες της τεχνολογίας τόσο μεγαλώνει και η ευθύνη όσων την αναπτύσσουν και τη χρησιμοποιούν.

Κατά την άποψή του, πρόκειται για μια νέα ανατρεπτική τεχνολογία που χρειάζεται ρύθμιση και έλεγχο, με κυβερνήσεις, επιχειρήσεις και ερευνητές να έχουν όλοι ρόλο στη δημιουργία ουσιαστικών μηχανισμών εποπτείας.

Και όλα δείχνουν ότι οι πρόσφατες αποκαλύψεις είναι μόνο η αρχή.

Καθώς ο ανταγωνισμός για ισχυρότερα μοντέλα επιταχύνεται, τα συστήματα ΑΙ αποκτούν πρόσβαση σε περισσότερα εργαλεία, μεγαλύτερη υπολογιστική ισχύ και ολοένα πιο ρεαλιστικά περιβάλλοντα δοκιμών.

Αυτό σημαίνει ότι οι επόμενες αξιολογήσεις είναι πολύ πιθανό να αποκαλύψουν νέες δυνατότητες και συμπεριφορές που σήμερα δεν έχουν ακόμη προβλεφθεί – ορισμένες από τις οποίες μπορεί να αποδειχθούν ιδιαίτερα ανησυχητικές.