Η OpenAI ανακοίνωσε την Παρασκευή ότι έχει αρχίσει να ενημερώνει δεκάδες φορείς, μεταξύ των οποίων κυβερνητικές υπηρεσίες και πανεπιστήμια, αφού διαπίστωσε ότι ορισμένα από τα μοντέλα τεχνητής νοημοσύνης της ενδέχεται να έχουν επηρεάσει αρνητικά τους ιστότοπους ή τις διαδικτυακές υπηρεσίες τους κατά τη διάρκεια δοκιμών της εταιρείας.

Σε δήλωση που δημοσιεύτηκε στον ιστότοπό της, η εταιρεία ανέφερε ότι οι ειδοποιήσεις αυτές εντάσσονται στο πλαίσιο μιας ευρύτερης εσωτερικής ανασκόπησης, η οποία εξετάζει τον τρόπο με τον οποίο συμπεριφέρθηκαν τα μοντέλα της στο διαδίκτυο κατά τη διάρκεια της εκπαίδευσης και της αξιολόγησής τους.

Διαβάστε: OpenAI / Αποκάλυψε έξι νέα περιστατικά «ανησυχητικής» συμπεριφοράς της τεχνητής νοημοσύνης

Ανέφερε ότι έρχεται σε επαφή με οργανισμούς στους οποίους τα συστήματά της ενδέχεται να έχουν παρακάμψει τα μέτρα ασφαλείας μιας υπηρεσίας ή να έχουν προκαλέσει με άλλο τρόπο ζημιά.

«Συνεχίζουμε να εξετάζουμε τη δραστηριότητα των πρακτόρων κατά τη διάρκεια των ερευνητικών και αξιολογικών δοκιμών, ανατρέχοντας μήνα προς μήνα, ξεκινώντας από το περιστατικό με το Hugging Face», σημειώθηκε στη δήλωση.

Η εταιρεία ανέφερε ότι η παραβίαση αυτή, μαζί με άλλες απροσδόκητες συμπεριφορές, οφείλεται στο γεγονός ότι το μοντέλο κατέφυγε σε «μη ευθυγραμμισμένες» μεθόδους όταν αντιμετώπισε δύσκολες εργασίες, και όχι σε κάποια σκόπιμη επίθεση.

Διαβάστε: «Παίζουν με τις ζωές μας» / Πρώην ερευνητής της OpenAI αποχώρησε και από την Anthropic – Τι καταγγέλλει

Επιπλέον, επισήμανε ένα ξεχωριστό φαινόμενο που ονόμασε «spam από πράκτορες», στο πλαίσιο του οποίου τα μοντέλα δημοσίευαν περιεχόμενο σε εξωτερικούς ιστότοπους, συμπεριλαμβανομένων δημόσιων σελίδων wiki, τροποποιώντας ενίοτε το υπάρχον υλικό και αφήνοντας στους οργανισμούς το βάρος να το αφαιρέσουν ή να το διορθώσουν.

Η OpenAI δήλωσε ότι θα διατηρούσε εμπιστευτική την ταυτότητα των εμπλεκόμενων μερών, προκειμένου να τους δώσει χρόνο να αντιδράσουν, σημειώνοντας παράλληλα ότι είχαν την ελευθερία να δημοσιοποιήσουν οι ίδιοι το θέμα. Η εταιρεία πρόσθεσε ότι η διαδικασία εξέτασης βρίσκεται ακόμη σε εξέλιξη και θα χρειαστεί αρκετός χρόνος για να ολοκληρωθεί, ενώ αναμένονται επιπλέον ειδοποιήσεις τους επόμενους μήνες.

Τα μοντέλα του OpenAI είχαν πρόσβαση σε ιστότοπους της κυβέρνησης των ΗΠΑ, συμπεριλαμβανομένων του Γραφείου Απογραφής και του Χρηματιστηρίου Αξιών και Κεφαλαιαγοράς, ανέφερε το Bloomberg News συμπληρώνοντας ότι τα συστήματα τεχνητής νοημοσύνης αλληλεπίδρασαν με το SEC.gov, Investor.gov και Census.gov.