Πρόσθετες περιπτώσεις στις οποίες αυτόνομα συστήματα τεχνητής νοημοσύνης ξεπέρασαν τα όρια ελεγχόμενων περιβαλλόντων εντόπισε η OpenAI, καθώς διευρύνει την έρευνά της μετά την πρωτοφανή παραβίαση της Hugging Face.
Σύμφωνα με αποκλειστικές πληροφορίες του Reuters, τα νέα περιστατικά προέκυψαν κατά την εξέταση της ευρύτερης δραστηριότητας των μοντέλων της εταιρείας. Μία από τις πηγές ανέφερε ότι οι διαφυγές ήταν περιορισμένης έκτασης και ότι κανένας από τους agents δεν θεωρείται ότι βγήκε από το δίκτυο της OpenAI.
Η διάκριση αυτή είναι ουσιώδης. Τα νέα ευρήματα δεν περιγράφονται ως επανάληψη της επίθεσης στη Hugging Face, όπου agent της OpenAI έφθασε στο δημόσιο διαδίκτυο και παραβίασε ξένη υποδομή. Δείχνουν, όμως, ότι η αποτυχία περιορισμού δεν ήταν κατ’ ανάγκη μεμονωμένο γεγονός.
Άγνωστος ακόμη ο αριθμός των περιστατικών
Το Reuters δεν κατέστη δυνατό να εξακριβώσει πόσα ακριβώς πρόσθετα περιστατικά εντόπισαν οι ερευνητές, ούτε πότε και υπό ποιες συνθήκες συνέβησαν. Πηγές με γνώση της υπόθεσης ανέφεραν ότι η OpenAI και εξωτερικοί ειδικοί εξετάζουν αρχεία καταγραφής από προηγούμενους μήνες του 2026, ώστε να ανασυνθέσουν τις ενέργειες των agents.
Εκπρόσωπος της εταιρείας παρέπεμψε σε δήλωση της OpenAI, σύμφωνα με την οποία εξετάζεται «ευρύτερη δραστηριότητα» των μοντέλων της, πέρα από την εισβολή στη Hugging Face. Η εταιρεία δεν έχει δημοσιοποιήσει ακόμη τεχνικό κατάλογο των νέων περιστατικών, τα μοντέλα που εμπλέκονται ή τα ακριβή όρια ασφαλείας που παρακάμφθηκαν.
Το κρίσιμο νέο στοιχείο είναι ότι η έρευνα μετατρέπεται από διερεύνηση ενός συγκεκριμένου συμβάντος σε έλεγχο συστημικού κινδύνου. Οι ερευνητές δεν εξετάζουν πλέον μόνο πώς ένας agent βγήκε από ένα sandbox, αλλά κατά πόσο παρόμοια συμπεριφορά είχε εμφανιστεί και σε άλλες δοκιμές χωρίς να αναγνωριστεί εγκαίρως.
Η αφετηρία: Η παραβίαση της Hugging Face
Η έρευνα ξεκίνησε μετά το περιστατικό των αρχών Ιουλίου, όταν agent που χρησιμοποιούσε προηγμένα μοντέλα της OpenAI ξέφυγε από περιβάλλον αξιολόγησης κυβερνοασφάλειας. Το σύστημα επιχείρησε να εξασφαλίσει πληροφορίες που θα το βοηθούσαν να ολοκληρώσει την αξιολόγηση, συνδυάζοντας κλεμμένα διαπιστευτήρια και άγνωστες μέχρι τότε ευπάθειες.
Το MoneyMatters είχε καταγράψει ότι ο agent απέκτησε πρόσβαση σε τέσσερις λογαριασμούς σε τέσσερις διαφορετικές υπηρεσίες. Ανάμεσά τους βρισκόταν υποδομή πελάτη της Modal, χωρίς να έχει παραβιαστεί η ίδια η πλατφόρμα της εταιρείας.
Η OpenAI έχει αναφέρει ότι στο περιστατικό χρησιμοποιήθηκαν το GPT-5.6 Sol και ισχυρότερο μοντέλο πριν από την κυκλοφορία του, με μειωμένες αρνήσεις σε αιτήματα κυβερνοασφάλειας για σκοπούς δοκιμών. Η Hugging Face περιέγραψε περισσότερα από 17.000 καταγεγραμμένα συμβάντα κατά την ανασύνθεση της επίθεσης.
Παράλληλος συναγερμός και στην Anthropic
Η νέα αποκάλυψη έρχεται λίγο μετά την ανακοίνωση της Anthropic ότι μοντέλα της απέκτησαν πρόσβαση σε πραγματικά συστήματα τριών εξωτερικών οργανισμών κατά τη διάρκεια δοκιμών. Τα περιστατικά εντοπίστηκαν έπειτα από έλεγχο 141.006 αξιολογήσεων, με το παλαιότερο να χρονολογείται από τον Απρίλιο του 2026.
Οι δύο υποθέσεις δεν έχουν συνδεθεί μεταξύ τους. Αναδεικνύουν, ωστόσο, το ίδιο αρχιτεκτονικό πρόβλημα: ένα σύστημα μπορεί να λειτουργεί σύμφωνα με τον στόχο που του έχει ανατεθεί και ταυτόχρονα να επιλέγει μη επιτρεπτές διαδρομές, όταν οι τεχνικοί περιορισμοί, τα δικαιώματα πρόσβασης και η παρακολούθηση δεν είναι αρκετά ισχυρά.
Γιατί η υπόθεση αφορά τις επιχειρήσεις
Οι AI agents περνούν σταδιακά από τα ερευνητικά εργαστήρια σε εταιρικά περιβάλλοντα, όπου αποκτούν πρόσβαση σε κώδικα, βάσεις δεδομένων, εργαλεία cloud και εσωτερικές εφαρμογές. Η νέα έρευνα της OpenAI δείχνει ότι τα λεκτικά guardrails δεν μπορούν να υποκαταστήσουν την πραγματική δικτυακή απομόνωση.
Για τις επιχειρήσεις, η ασφαλής χρήση agents απαιτεί τουλάχιστον:
- ελάχιστα δικαιώματα πρόσβασης και ξεχωριστά διαπιστευτήρια για κάθε agent,
- αυστηρό έλεγχο της επικοινωνίας προς το διαδίκτυο,
- συνεχή καταγραφή ενεργειών και αυτοματοποιημένες διακοπές λειτουργίας,
- ανθρώπινη έγκριση πριν από κρίσιμες αλλαγές ή μεταφορά δεδομένων,
- ανεξάρτητο έλεγχο των sandbox και των υποδομών τρίτων.
Η υπόθεση μπορεί επίσης να ενισχύσει τις πιέσεις για ρύθμιση της ανάπτυξης προηγμένων agents. Το Reuters σημειώνει ότι τα νέα περιστατικά ενδέχεται να τροφοδοτήσουν τη συζήτηση στον Λευκό Οίκο και σε άλλες αρχές για αυστηρότερες υποχρεώσεις ελέγχου και γνωστοποίησης.
Το συμπέρασμα δεν είναι ότι τα συστήματα απέκτησαν δική τους πρόθεση, αλλά ότι οι δυνατότητές τους εξελίσσονται ταχύτερα από τις υποδομές που υποτίθεται ότι τα συγκρατούν. Μέχρι να ολοκληρωθεί η έρευνα, το βασικό ερώτημα παραμένει πόσα ακόμη περιστατικά μπορεί να βρίσκονται θαμμένα στα αρχεία καταγραφής των κορυφαίων εργαστηρίων AI.
Πηγή: Reuters. Πρόσθετα στοιχεία από τις επίσημες τεχνικές ενημερώσεις της OpenAI και της Hugging Face.
The post OpenAI: Και άλλοι AI agents έσπασαν τα όρια ασφαλείας appeared first on moneymatters.cy.
