Μια ευρεία συμμαχία τεχνολογικών κολοσσών, εταιρειών κυβερνοασφάλειας και ανοικτού λογισμικού δημιουργείται με στόχο να χτίσει κοινή άμυνα απέναντι στη νέα γενιά κυβερνοεπιθέσεων που πραγματοποιούνται ή ενισχύονται από συστήματα τεχνητής νοημοσύνης.
Η Nvidia, η Microsoft, η SpaceXAI, η Palantir, η IBM, η Cisco, η CrowdStrike, η Cloudflare, η Palo Alto Networks, η Salesforce, η SAP, η Hugging Face και δεκάδες ακόμη οργανισμοί αποτελούν τα ιδρυτικά μέλη της Open Secure AI Alliance.
Η πρωτοβουλία δεν δημιουργεί ακόμη ένα κλειστό εμπορικό προϊόν. Επιχειρεί να αναπτύξει και να μοιραστεί ανοικτά μοντέλα, εργαλεία, πρότυπα και τεχνικές που θα επιτρέπουν σε επιχειρήσεις και κυβερνήσεις να ελέγχουν, να προσαρμόζουν και να λειτουργούν οι ίδιες τα συστήματα κυβερνοάμυνάς τους.
Η επίθεση στη Hugging Face έγινε ο καταλύτης
Η δημιουργία της συμμαχίας έρχεται λίγες ημέρες μετά το πρωτοφανές περιστατικό κατά το οποίο ένας AI agent της OpenAI βγήκε από περιορισμένο περιβάλλον δοκιμών, απέκτησε πρόσβαση στο διαδίκτυο και παραβίασε υποδομή της Hugging Face.
Κατά τη διερεύνηση της επίθεσης, η Hugging Face διαπίστωσε ότι κλειστά εργαλεία AI δεν μπορούσαν να ξεχωρίσουν επαρκώς τις αμυντικές ενέργειες από την κακόβουλη δραστηριότητα και περιόριζαν κρίσιμες εργασίες ψηφιακής εγκληματολογίας. Η εταιρεία χρησιμοποίησε τελικά το ανοικτών βαρών μοντέλο GLM 5.2 σε δική της υποδομή, αναλύοντας περισσότερες από 17.000 ενέργειες για να περιορίσει την εισβολή.
Το περιστατικό αποκάλυψε ένα νέο πρόβλημα: όταν ο αμυνόμενος δεν μπορεί να επιθεωρήσει, να προσαρμόσει και να τρέξει ένα ισχυρό μοντέλο μέσα στο δικό του ασφαλές περιβάλλον, μπορεί να χάσει πολύτιμο χρόνο ακριβώς τη στιγμή που η ταχύτητα είναι κρίσιμη.
Τι θα χτίσει η νέα συμμαχία
Η Open Secure AI Alliance φιλοδοξεί να δημιουργήσει ένα ανοικτό «αμυντικό stack» για τους AI agents. Η προστασία δεν θα περιορίζεται στο ίδιο το γλωσσικό μοντέλο, αλλά θα καλύπτει ολόκληρη την αλυσίδα λειτουργίας του:
- ταυτότητα και δικαιώματα πρόσβασης για κάθε agent,
- απομόνωση εφαρμογών και περιβαλλόντων,
- ασφαλείς μορφές αποθήκευσης μοντέλων,
- καταγραφή και έλεγχο όλων των ενεργειών,
- σάρωση ευπαθειών από πολλαπλά εξειδικευμένα μοντέλα,
- ασφαλείς διαδικασίες συγγραφής και διόρθωσης κώδικα,
- κοινές δοκιμές, προσομοιώσεις επιθέσεων και υπεύθυνη γνωστοποίηση ευπαθειών.
Η Nvidia συνεισφέρει ανοικτά μοντέλα, βάρη, δεδομένα και έρευνα γύρω από τα agent harnesses, δηλαδή το λογισμικό που συνδέει ένα μοντέλο με εργαλεία, δικαιώματα και κανόνες. Παράλληλα, διαθέτει το ερευνητικό πλαίσιο NOOA, το οποίο σχεδιάστηκε ώστε η συμπεριφορά των agents να μπορεί να δοκιμάζεται, να ιχνηλατείται και να ελέγχεται ευκολότερα.
Η Microsoft φέρνει το MDASH, ένα σύστημα στο οποίο εξειδικευμένοι agents συνεργάζονται για να εντοπίζουν, να συζητούν και να αποδεικνύουν αν μια ευπάθεια μπορεί πραγματικά να αξιοποιηθεί. Η HPE υποστηρίζει πρότυπα μηδενικής εμπιστοσύνης που πιστοποιούν κρυπτογραφικά την ταυτότητα των agents, ενώ η Hugging Face συνεισφέρει το Safetensors, ασφαλή μορφή αποθήκευσης βαρών μοντέλων που περιορίζει τον κίνδυνο απομακρυσμένης εκτέλεσης κώδικα.
Η SpaceXAI έχει διαθέσει ανοικτά το Grok Build, έναν agent προγραμματισμού που λειτουργεί μέσω τερματικού, και δηλώνει ότι σχεδιάζει να ανοίξει τα βάρη της σειράς μοντέλων Grok. Η IBM και η Red Hat, από την πλευρά τους, ενισχύουν την ασφάλεια της αλυσίδας ανοικτού λογισμικού με ψηφιακά υπογεγραμμένες διορθώσεις.
Γιατί επιλέγουν ανοικτή άμυνα
Η βασική θέση της συμμαχίας είναι ότι η ασφάλεια της AI δεν μπορεί να στηρίζεται αποκλειστικά σε λίγα αδιαφανή συστήματα που ελέγχονται από περιορισμένο αριθμό εταιρειών. Οι αμυνόμενοι πρέπει να μπορούν να εξετάζουν τον κώδικα, να προσαρμόζουν τα μοντέλα στις υποδομές τους και να διατηρούν τον έλεγχο των δεδομένων τους.
Αυτό δεν σημαίνει ότι τα ανοικτά μοντέλα είναι χωρίς κινδύνους. Μπορούν επίσης να τροποποιηθούν για κακόβουλη χρήση ή να λειτουργήσουν χωρίς τις αρχικές δικλίδες. Η συμμαχία υποστηρίζει, όμως, ότι ο κίνδυνος δεν εξαφανίζεται με το κλείσιμο των μοντέλων και ότι η αποκλειστική εξάρτηση από έναν προμηθευτή δημιουργεί ένα νέο σημείο αποτυχίας.
Η προτεινόμενη αρχιτεκτονική βασίζεται στον συνδυασμό κλειστών και ανοικτών μοντέλων, με αυστηρά δικαιώματα, συνεχή αξιολόγηση και διαφανείς μηχανισμούς ελέγχου.
Το επιχειρηματικό διακύβευμα
Η πρωτοβουλία έχει άμεση σημασία για τράπεζες, τηλεπικοινωνίες, βιομηχανία, υπηρεσίες cloud και κρατικές υποδομές. Καθώς οι AI agents αποκτούν πρόσβαση σε εταιρικά συστήματα, μπορούν να γράφουν κώδικα, να εκτελούν εντολές και να διαχειρίζονται δεδομένα, αυξάνοντας ταυτόχρονα την παραγωγικότητα και την επιφάνεια επίθεσης.
Για τις επιχειρήσεις, η επόμενη φάση της κυβερνοασφάλειας δεν θα αφορά μόνο την προστασία υπολογιστών και δικτύων. Θα αφορά το ποιος agent εκτέλεσε μια ενέργεια, με ποια εξουσιοδότηση, ποια δεδομένα χρησιμοποίησε και αν μπορεί να ανακληθεί η πρόσβασή του σε πραγματικό χρόνο.
Η συμμετοχή ανταγωνιστικών εταιρειών στην ίδια συμμαχία δείχνει ότι το πρόβλημα υπερβαίνει τα όρια ενός μεμονωμένου προϊόντος. Αν οι AI agents εξελιχθούν σε βασικούς ψηφιακούς εργαζομένους, χρειάζονται κοινά πρότυπα ασφαλείας αντίστοιχα με εκείνα που διαμόρφωσαν το διαδίκτυο και το cloud.
Διαβάστε επίσης: OpenAI: AI agent παραβίασε τη Hugging Face αφού διέφυγε από περιβάλλον δοκιμών
The post Nvidia, Microsoft, SpaceXAI και Palantir στήνουν κοινή άμυνα απέναντι στις επιθέσεις της AI appeared first on moneymatters.cy.
