Ο συνιδρυτής της Hugging Face, Τόμας Γουλφ, χαρακτήρισε το περιστατικό «καμπανάκι αφύπνισης» για ολόκληρη τη βιομηχανία, προειδοποιώντας ότι αυτού του είδους οι επιθέσεις ενδέχεται να αποτελέσουν σύντομα μία από τις πιο συνηθισμένες μορφές κυβερνοαπειλών.
«Οι περισσότερες εταιρείες δεν έχουν ακόμη συνειδητοποιήσει ότι το παιχνίδι έχει αλλάξει», δήλωσε στο BBC.
Η OpenAI δεν έχει σχολιάσει τις τελευταίες δηλώσεις, ενώ είχε ήδη ανακοινώσει ότι διεξάγει κοινή έρευνα με τη Hugging Face για το περιστατικό.
Πώς έγινε η επίθεση
Σύμφωνα με την OpenAI, κατά τη διάρκεια εσωτερικής δοκιμής ορισμένα προηγμένα μοντέλα τεχνητής νοημοσύνης κατάφεραν να εξέλθουν από το ασφαλές περιβάλλον δοκιμών και εξαπέλυσαν κυβερνοεπίθεση εναντίον της Hugging Face, σε ένα περιστατικό που η ίδια η εταιρεία χαρακτήρισε «άνευ προηγουμένου».
Η Hugging Face αποτελεί μία από τις μεγαλύτερες παγκόσμιες πλατφόρμες ανοικτού κώδικα για τη φιλοξενία και ανταλλαγή μοντέλων τεχνητής νοημοσύνης και χρησιμοποιείται ευρέως από ερευνητές και προγραμματιστές.
Ο Γουλφ αποκάλυψε ότι όταν εντοπίστηκαν οι πρώτες ενδείξεις της επίθεσης, στα μέσα Ιουλίου, η εταιρεία δεν μπορούσε να καταλάβει από πού προερχόταν.
Λίγο αργότερα, η OpenAI ενημέρωσε τη Hugging Face ότι πίσω από την επίθεση βρίσκονταν τα δικά της μοντέλα.
17.000 επιθέσεις μέσα σε λίγα λεπτά
Σύμφωνα με τον συνιδρυτή της Hugging Face, μέσα σε εξαιρετικά μικρό χρονικό διάστημα καταγράφηκαν περίπου 17.000 απόπειρες επίθεσης στο δίκτυο της εταιρείας από διαφορετικές διευθύνσεις IP.
Παρότι η παραβίαση περιορίστηκε εγκαίρως, ο ίδιος υπογράμμισε ότι η φύση της επίθεσης ήταν εντελώς διαφορετική από τις συμβατικές κυβερνοεπιθέσεις που αντιμετωπίζει καθημερινά η εταιρεία.
«Η AI αγνόησε τις δικλίδες ασφαλείας»
Ιδιαίτερη ανησυχία προκαλεί στους ειδικούς το γεγονός ότι τα μοντέλα φαίνεται να αγνόησαν τους μηχανισμούς ασφαλείας που έχουν σχεδιαστεί ώστε να αποτρέπουν κακόβουλες ενέργειες.
Ο Νέιτ Σοάρες, από το Machine Intelligence Research Institute, σχολίασε ότι το περιστατικό υποδηλώνει πως το σύστημα «καταλάβαινε ότι δεν ενεργούσε σύμφωνα με τις προθέσεις των δημιουργών του, αλλά απλώς δεν ενδιαφέρθηκε».
Η διαπίστωση αυτή αναζωπυρώνει τη συζήτηση για τον βαθμό ελέγχου που μπορούν να διατηρήσουν οι εταιρείες πάνω σε ολοένα πιο αυτόνομα συστήματα τεχνητής νοημοσύνης.
Παρέμβαση και από τη βρετανική κυβέρνηση
Το περιστατικό έχει ήδη κινητοποιήσει τις αρμόδιες αρχές.
Εκπρόσωπος της βρετανικής κυβέρνησης δήλωσε ότι το AI Security Institute μελετά τη συμπεριφορά του συστήματος κατά τη διάρκεια της επίθεσης και συνεχίζει να συνεργάζεται με την OpenAI και άλλα ερευνητικά εργαστήρια για την ενίσχυση των μηχανισμών ασφαλείας.
Παράλληλα, κάλεσε επιχειρήσεις και οργανισμούς να ενισχύσουν τα μέτρα κυβερνοασφάλειας, αξιοποιώντας πιστοποιήσεις και πρακτικές προστασίας από ολοένα πιο εξελιγμένες απειλές.
Νέες ανησυχίες γύρω από την AI
Το περιστατικό σημειώνεται σε μια περίοδο αυξανόμενων ανησυχιών για την ασφάλεια της τεχνητής νοημοσύνης.
Πριν από λίγες εβδομάδες, η αμερικανική κυβέρνηση είχε επιβάλει προσωρινούς περιορισμούς στην πρόσβαση στα μοντέλα της Anthropic για λόγους εθνικής ασφάλειας, πριν τελικά τους άρει.
Την ίδια στιγμή, στο επίκεντρο βρίσκεται και η Κίνα. Η νεοφυής εταιρεία Moonshot AI ετοιμάζεται να διαθέσει στις 27 Ιουλίου το ανοικτού κώδικα μοντέλο Kimi K3, το οποίο ήδη θεωρείται από αρκετούς ως ένας από τους ισχυρότερους ανταγωνιστές των κορυφαίων δυτικών συστημάτων.
Ωστόσο, σύμβουλος του Λευκού Οίκου κατηγόρησε δημοσίως τη Moonshot ότι συμμετείχε σε εκτεταμένη προσπάθεια αντιγραφής των δυνατοτήτων προηγμένων αμερικανικών μοντέλων τεχνητής νοημοσύνης, δείχνοντας ότι η ασφάλεια της AI εξελίσσεται πλέον όχι μόνο σε τεχνολογικό, αλλά και σε γεωπολιτικό ζήτημα.
Πηγή:naftemporiki.gr
The post «Το παιχνίδι άλλαξε»: Η εταιρεία που δέχθηκε επίθεση από τους «δραπέτες» της OpenAI χτυπάει καμπανάκι appeared first on SciNews.eu.
