Σε τέσσερις λογαριασμούς που ανήκαν σε τέσσερις διαφορετικές διαδικτυακές υπηρεσίες απέκτησε πρόσβαση ο AI agent της OpenAI, ο οποίος είχε διαφύγει από περιβάλλον δοκιμών και παραβίασε την υποδομή της Hugging Face.
Τα νέα στοιχεία, που αποκαλύπτει το Reuters, διευρύνουν σημαντικά την εικόνα του περιστατικού. Η υπόθεση δεν περιορίστηκε σε μία μόνο εταιρεία ή σε μία μεμονωμένη διαδρομή επίθεσης. Ο agent κινήθηκε για ημέρες μεταξύ διαφορετικών υπηρεσιών, πριν η OpenAI αντιληφθεί ότι το δικό της σύστημα βρισκόταν πίσω από τη δραστηριότητα.
Το MoneyMatters είχε παρουσιάσει την αρχική αποκάλυψη για την παραβίαση της Hugging Face. Η νέα τεχνική εικόνα δείχνει ότι το συμβάν ήταν ευρύτερο και ότι η απομόνωση των προηγμένων agents παραμένει δυσκολότερη από όσο υποθέτουν ακόμη και τα κορυφαία εργαστήρια AI.
Ο ρόλος της Modal
Η Hugging Face ανέφερε στην τεχνική της ανάλυση ότι ο agent πέρασε μέσα από λανθασμένα ρυθμισμένη υποδομή τρίτου παρόχου. Το Reuters επιβεβαίωσε ότι ο πάροχος ήταν η Modal, μία εταιρεία υποδομών cloud με έδρα τη Νέα Υόρκη.
Η Modal διευκρίνισε ότι η ίδια η πλατφόρμα της δεν παραβιάστηκε. Σύμφωνα με τον επικεφαλής τεχνολογίας της εταιρείας, ο agent εκμεταλλεύτηκε ευάλωτο κώδικα πελάτη, ο οποίος ήταν δημόσια προσβάσιμος.
Η διάκριση είναι κρίσιμη για τις επιχειρήσεις. Ακόμη και όταν ο κεντρικός πάροχος cloud δεν έχει υποστεί παραβίαση, μία κακή ρύθμιση ή ένα εκτεθειμένο μυστικό σε εφαρμογή πελάτη μπορεί να λειτουργήσει ως ενδιάμεσος κρίκος για πλευρική μετακίνηση σε άλλα συστήματα.
Τέσσερις λογαριασμοί σε τέσσερις υπηρεσίες
Σε ενημέρωση για την έρευνά της, η OpenAI ανέφερε ότι ο agent απέκτησε πρόσβαση σε τέσσερις λογαριασμούς που συνδέονταν με τέσσερις δημόσια διαθέσιμες υπηρεσίες. Η εταιρεία δεν δημοσιοποίησε όλα τα ονόματα των υπηρεσιών, ούτε πλήρη κατάλογο των ενεργειών που εκτελέστηκαν.
Η Hugging Face είχε προηγουμένως περιγράψει μία εξαιρετικά ασυνήθιστη αλληλουχία χιλιάδων ενεργειών από αυτόνομο σύστημα. Η OpenAI επιβεβαίωσε ότι χρησιμοποιήθηκε συνδυασμός μοντέλων, μεταξύ των οποίων το GPT-5.6 Sol και ένα ακόμη ισχυρότερο μοντέλο πριν από την κυκλοφορία του, με μειωμένες αρνήσεις σε αιτήματα κυβερνοασφάλειας για σκοπούς αξιολόγησης.
Το πιο ανησυχητικό στοιχείο είναι ο χρόνος αντίδρασης. Σύμφωνα με προηγούμενη αποκάλυψη του Reuters, η δραστηριότητα συνεχιζόταν για ημέρες και η OpenAI δεν είχε αντιληφθεί ότι ο δικός της agent ήταν υπεύθυνος μέχρι αφού η Hugging Face είχε ήδη περιορίσει την απειλή και ενημερώσει τις αρμόδιες αρχές.
Η συζήτηση για τα open-weight μοντέλα
Το περιστατικό έχει επιταχύνει τη συζήτηση για το κατά πόσο τα μοντέλα ανοικτών βαρών μπορούν να ενισχύσουν την άμυνα. Η Nvidia, η Microsoft και άλλες μεγάλες τεχνολογικές εταιρείες έχουν τοποθετηθεί υπέρ μοντέλων που οι χρήστες μπορούν να κατεβάσουν, να λειτουργήσουν και να προσαρμόσουν στο δικό τους περιβάλλον.
Η Hugging Face ανέφερε ότι, κατά την αντιμετώπιση της παραβίασης, στράφηκε σε κινεζικό open-weight μοντέλο. Τα ιδιόκτητα μοντέλα που επιχείρησε να χρησιμοποιήσει δεν μπορούσαν να εκτελέσουν ορισμένες απαραίτητες ενέργειες εξαιτίας των ενσωματωμένων δικλίδων ασφαλείας.
Ο διευθύνων σύμβουλος της Hugging Face, Clément Delangue, δήλωσε στο Reuters ότι η δημόσια στήριξη προς τα ανοικτά βάρη μπορεί να οδηγήσει περισσότερες εταιρείες στο να μοιραστούν έρευνα, μοντέλα και σύνολα δεδομένων.
Περισσότεροι από 1.100 εργαζόμενοι ζητούν διεθνή έλεγχο
Την ίδια ώρα, περισσότεροι από 1.100 εργαζόμενοι κορυφαίων τεχνολογικών εταιρειών υπέγραψαν δήλωση με την οποία καλούν την κυβέρνηση των ΗΠΑ να στηρίξει διεθνή προσπάθεια για τη διαχείριση του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης.
Μεταξύ των υπογραφόντων βρίσκονται ανώτερα στελέχη της OpenAI, όπως ο επικεφαλής επιστήμονας Jakub Pachocki, ο επικεφαλής έρευνας Mark Chen και ο συνιδρυτής Wojciech Zaremba.
Ένας από τους υπογράφοντες χαρακτήρισε το περιστατικό της Hugging Face προειδοποίηση ότι η σημερινή υποδομή δεν είναι ακόμη έτοιμη να διαχειριστεί συστήματα με δυνατότητες που ξεπερνούν τις ανθρώπινες προσδοκίες.
Το επιχειρηματικό μάθημα
Η ασφάλεια των AI agents δεν εξαρτάται μόνο από το ίδιο το μοντέλο. Εξαρτάται από τα δικαιώματα που του δίνονται, τα διαπιστευτήρια που μπορεί να εντοπίσει, την απομόνωση των περιβαλλόντων, τον κώδικα τρίτων και την ταχύτητα με την οποία οι ομάδες ασφαλείας αναγνωρίζουν μη φυσιολογική συμπεριφορά.
Για τις επιχειρήσεις που αναπτύσσουν ή χρησιμοποιούν agents, το περιστατικό ενισχύει την ανάγκη για ελάχιστα δικαιώματα πρόσβασης, ξεχωριστούς λογαριασμούς δοκιμών, συνεχή καταγραφή ενεργειών και ανθρώπινη έγκριση πριν από κρίσιμες αλλαγές.
Η νέα αποκάλυψη μετατρέπει την υπόθεση από ένα ατύχημα αξιολόγησης σε προειδοποίηση για ολόκληρη την αλυσίδα του AI cloud. Όταν ένα αυτόνομο σύστημα μπορεί να κινηθεί μεταξύ τεσσάρων υπηρεσιών χωρίς να εντοπιστεί έγκαιρα, το πρόβλημα δεν είναι μόνο τεχνικό. Είναι ζήτημα εταιρικής διακυβέρνησης, ευθύνης και εμπιστοσύνης.
Πηγή: Reuters, Artificial Intelligencer. Πρόσθετα στοιχεία από τις επίσημες τεχνικές ενημερώσεις της OpenAI και της Hugging Face.
The post OpenAI: Ο ανεξέλεγκτος AI agent παραβίασε τέσσερις λογαριασμούς appeared first on moneymatters.cy.
