Στη λίστα με τις εταιρείες όπου μοντέλο τεχνητής νοημοσύνης ξέφυγε από τον έλεγχό τους εισήλθε και η Meta.

Πιο συγκεκριμένα, ένα μοντέλο AI της μητρικής εταιρείας του Facebook και του Instagram, κατά την διάρκεια δοκιμών σχετικά με την κυβερνοασφάλεια, εισέβαλε στα συστήματα μιας άλλης εταιρείας, όπως επιβεβαίωσε εκπρόσωπος του τεχνολογικού κολοσσού.

Η Meta ανακοίνωσε ότι η παραβίαση οφείλεται σε ένα ακούσιο σφάλμα κατά τη διάρκεια των δοκιμών του μοντέλου, περιστατικό παρόμοιο με εκείνα που είχαν γνωστοποιηθεί πρόσφατα από τις OpenAI και Anthropic.

«Μια λανθασμένη ρύθμιση από την Irregular, μια ανεξάρτητη εταιρεία δοκιμών που χρησιμοποιεί η Meta, επέτρεψε κατά λάθος σε ένα από τα μοντέλα μας να αποκτήσει πρόσβαση στο διαδίκτυο κατά τη διάρκεια της αξιολόγησης», δήλωσε ο εκπρόσωπος της Meta.

Το μοντέλο Muse Spark της Meta «εκμεταλλεύτηκε ένα κενό ασφαλείας» σε άλλη εταιρεία «με τρόπο παρόμοιο με περιπτώσεις που είχαν αναφερθεί στο παρελθόν για άλλες εταιρείες», επισημαίνεται στην ανακοίνωση.

Σε δήλωσή της, η Irregular ανέφερε ότι το περιστατικό αφορά στο ίδιο πρόβλημα στο περιβάλλον αξιολόγησης με αυτό που αποκάλυψε η Anthropic την περασμένη εβδομάδα, το οποίο επέτρεψε στα μοντέλα της να αποκτήσουν πρόσβαση στο διαδίκτυο και στη συνέχεια να παραβιάσουν τα συστήματα τριών διαφορετικών οργανισμών.

Σύμφωνα με το The Information, το οποίο αποκάλυψε πρώτο το περιστατικό, το μοντέλο τεχνητής νοημοσύνης της Meta παραβίασε τα συστήματα μιας ανώνυμης εταιρείας και προέβη σε αλλαγές στο εσωτερικό της σύστημα.

Μια πηγή με γνώση της υπόθεσης δήλωσε στο CNN ότι τα μοντέλα έχουν περιορισμένη πρόσβαση στο διαδίκτυο σε ορισμένα περιβάλλοντα δοκιμών, προκειμένου να προσομοιάζουν σενάρια απειλών του πραγματικού κόσμου. Ωστόσο, στη συγκεκριμένη περίπτωση υπήρξε ένα σπάνιο «σφάλμα στη ρύθμιση».

«Αυτό που συμβαίνει είναι ότι τα μοντέλα γίνονται όλο και πιο ικανά, και ταυτόχρονα οι αξιολογήσεις για την εκτίμησή τους πρέπει να γίνουν πολύ πιο περίπλοκες», ανέφερε η πηγή. «Αυτό δημιουργεί περιθώρια για λάθη και μας αναγκάζει να αυξήσουμε σημαντικά τα πρότυπα ασφαλείας», πρόσθεσε.

Η Meta έγινε έτσι η τρίτη μεγάλη εταιρεία τεχνητής νοημοσύνης, μέσα σε λίγες εβδομάδες, που αποκαλύπτει ότι ένα μοντέλο της εισέβαλε σε συστήματα άλλης εταιρείας κατά τη διάρκεια δοκιμών. Το γεγονός αυτό αναδεικνύει όχι μόνο τις προηγμένες δυνατότητες των πρακτόρων AI, αλλά και τους σοβαρούς κινδύνους που εγκυμονούν.