Αυτόνομο σύστημα τεχνητής νοημοσύνης της OpenAI κατάφερε να υπερβεί τα όρια του προστατευμένου περιβάλλοντος δοκιμών της εταιρείας και να εξαπολύσει κυβερνοεπίθεση εναντίον της startup Hugging Face, σύμφωνα με όσα αποκάλυψε η ίδια η OpenAI.

Σε ανάρτησή της, η εταιρεία εξήγησε ότι πραγματοποιούσε δοκιμές σε ορισμένα από τα πλέον προηγμένα μοντέλα τεχνητής νοημοσύνης που διαθέτει, μέσα σε ένα αυστηρά ελεγχόμενο περιβάλλον.

Ωστόσο, ένα από τα αυτόνομα συστήματα κατάφερε να παρακάμψει τους περιορισμούς που είχαν τεθεί, να αποκτήσει πρόσβαση στο διαδίκτυο και να διεισδύσει στις υποδομές της Hugging Face, επιχειρώντας να ολοκληρώσει την αποστολή που του είχε ανατεθεί.

Η OpenAI χαρακτήρισε το περιστατικό «πρωτοφανές συμβάν κυβερνοασφάλειας», σημειώνοντας ότι ανέδειξε δυνατότητες αιχμής στον τομέα των κυβερνοεπιθέσεων και ανακοίνωσε πως προχωρά σε περαιτέρω ενίσχυση των μηχανισμών ασφαλείας της.

Η αποκάλυψη της Hugging Face

Η Hugging Face, μία από τις μεγαλύτερες πλατφόρμες φιλοξενίας μοντέλων τεχνητής νοημοσύνης ανοικτού κώδικα και συνόλων δεδομένων, είχε γνωστοποιήσει ήδη από την προηγούμενη εβδομάδα ότι έγινε στόχος μιας επίθεσης διαφορετικής από κάθε άλλη που είχε αντιμετωπίσει μέχρι σήμερα.

Όπως ανέφερε, η επίθεση πραγματοποιήθηκε εξ ολοκλήρου από ένα αυτόνομο σύστημα τεχνητής νοημοσύνης.

Ο συνιδρυτής της εταιρείας, Κλεμάν Ντελάνγκ, έγραψε στην πλατφόρμα X ότι από την πρώτη στιγμή υπήρχαν υποψίες πως πίσω από την επίθεση βρισκόταν κάποιο κορυφαίο ερευνητικό εργαστήριο τεχνητής νοημοσύνης, εξαιτίας της πολυπλοκότητας του.

«Τελικά, έτσι ήταν. Είναι πραγματικά εντυπωσιακό ότι όλα αυτά συνέβησαν χωρίς ανθρώπινη παρέμβαση», σχολίασε χαρακτηριστικά.

Αυξάνονται οι ανησυχίες

Η παραδοχή της OpenAI ότι η παραβίαση προήλθε από ένα από τα πιο προηγμένα μοντέλα της, παρότι αυτό λειτουργούσε μέσα σε ένα ιδιαίτερα απομονωμένο περιβάλλον δοκιμών, αναμένεται να αναζωπυρώσει τη συζήτηση γύρω από τις δυνατότητες αλλά και τους κινδύνους των συστημάτων τεχνητής νοημοσύνης νέας γενιάς.

Η διευθύνουσα σύμβουλος της εταιρείας κυβερνοασφάλειας Luta Security, Κέιτι Μουσούρις, εκτίμησε ότι το περιστατικό αποτελεί προειδοποίηση για όσα ενδέχεται να ακολουθήσουν.

«Τα σημερινά μοντέλα μοιάζουν με τα πιο έξυπνα χταπόδια στον κόσμο, με αμέτρητα «πλοκάμια» που μπορούν να φτάσουν παντού», ανέφερε χαρακτηριστικά.

Από την πλευρά του, ο μηχανικός της εταιρείας κυβερνοασφάλειας Tolmo, Ματ Σουίς, σημείωσε ότι το περιστατικό αποδεικνύει πως τα εξελιγμένα μοντέλα τεχνητής νοημοσύνης έχουν πλέον φτάσει σε επίπεδο αντίστοιχο με εκείνο των πιο προηγμένων κυβερνοεισβολέων.

Παρόλα αυτά, υπογράμμισε ότι επιθέσεις αυτού του είδους μπορούν ήδη να πραγματοποιηθούν χωρίς να απαιτούνται τα πιο εξελιγμένα μοντέλα.

«Το έχουμε διαπιστώσει και στις δικές μας δοκιμές. Με τους δικούς μας αυτόνομους “πράκτορες” έχουμε πετύχει αντίστοιχα αποτελέσματα. Δεν χρειάζεται καν να χρησιμοποιούνται τα προηγμένα μοντέλα τεχνητής νοημοσύνης», τόνισε.