Η τεχνητή νοημοσύνη περνά από την κατηγορία του επιχειρηματικού εργαλείου στην κατηγορία του συστημικού χρηματοπιστωτικού κινδύνου. Ο Andrew Bailey, διοικητής της Bank of England και πρόεδρος του Financial Stability Board, προειδοποιεί τους υπουργούς Οικονομικών και τους κεντρικούς τραπεζίτες του G20 ότι τα frontier AI μοντέλα μπορούν να αλλάξουν δραστικά την ταχύτητα, την κλίμακα και το οικονομικό κόστος μιας κυβερνοεπίθεσης.
- Το FSB θεωρεί τον κυβερνοκίνδυνο την πιο άμεση χρηματοπιστωτική απειλή από τη frontier AI.
- Πιο αυτόνομα μοντέλα μπορούν να εντοπίζουν ευπάθειες και να εκτελούν βήματα επίθεσης με ταχύτητα μηχανής.
- Η συγκέντρωση κρίσιμων λειτουργιών σε λίγους παρόχους μοντέλων και cloud δημιουργεί κοινά σημεία αποτυχίας.
- Μια επιτυχής επίθεση σε πληρωμές, εκκαθάριση ή δεδομένα μπορεί να εξελιχθεί σε κρίση εμπιστοσύνης.
- Το FSB ζητά παγκόσμια συνεργασία για ασφαλή κυκλοφορία και ανάπτυξη των ισχυρότερων μοντέλων.
Η προειδοποίηση προς το G20
Στην επιστολή του προς το G20, ενόψει των συνεδριάσεων της 31ης Αυγούστου και 1ης Σεπτεμβρίου 2026, ο Bailey τοποθετεί τη frontier AI δίπλα σε ήδη εύθραυστα σημεία του παγκόσμιου συστήματος: υψηλές αποτιμήσεις, πίεση στα κρατικά ομόλογα, ευπάθειες στο private credit και κίνδυνο άτακτης διόρθωσης των αγορών.
Η τεχνητή νοημοσύνη δεν παρουσιάζεται ως η μοναδική αιτία μιας μελλοντικής κρίσης. Παρουσιάζεται ως επιταχυντής. Μπορεί να κάνει μια υπάρχουσα αδυναμία πιο εύκολη στην εκμετάλλευση και μια αρχική διαταραχή ταχύτερη στη μετάδοση.
Τι είναι διαφορετικό στη frontier AI
Τα πιο προηγμένα μοντέλα δεν περιορίζονται πλέον στη δημιουργία κειμένου ή κώδικα κατόπιν μίας εντολής. Αποκτούν μεγαλύτερη αυτονομία, ικανότητα σχεδιασμού πολλαπλών βημάτων, χρήση εργαλείων και επίλυση προβλημάτων χωρίς συνεχή ανθρώπινη καθοδήγηση.
Σε ένα αμυντικό περιβάλλον, οι δυνατότητες αυτές μπορούν να βοηθήσουν μια τράπεζα να εντοπίζει απάτη ή να αποκρούει επιθέσεις. Στα χέρια επιτιθέμενων, όμως, μπορούν να αυτοματοποιήσουν την αναγνώριση στόχων, την αναζήτηση ευπαθειών, την παραγωγή κακόβουλου κώδικα και την προσαρμογή μιας επίθεσης όταν τα πρώτα μέτρα προστασίας την ανακόπτουν.
Από το τεχνικό συμβάν στη συστημική κρίση
Το χρηματοπιστωτικό σύστημα βασίζεται σε εμπιστοσύνη και αδιάλειπτη λειτουργία. Οι πληρωμές, η εκκαθάριση συναλλαγών, η αποτίμηση εξασφαλίσεων και η πρόσβαση σε δεδομένα πρέπει να λειτουργούν ακόμη και σε συνθήκες έντασης. Μια επίθεση που επηρεάζει ταυτόχρονα πολλές τράπεζες ή έναν κοινό πάροχο τεχνολογίας μπορεί να προκαλέσει αβεβαιότητα για το ποια δεδομένα είναι σωστά και ποιες εντολές είναι γνήσιες.
Η Έκθεση Χρηματοπιστωτικής Σταθερότητας της Bank of England επισημαίνει ότι οι κίνδυνοι δεν περιορίζονται σε άμεσες επιθέσεις. Αφορούν τη χρήση AI σε κρίσιμες αποφάσεις, την εξάρτηση από τρίτους παρόχους, την ομοιομορφία μοντέλων και την πιθανότητα πολλοί οργανισμοί να αντιδράσουν με τον ίδιο τρόπο στο ίδιο σήμα.
Ο κίνδυνος συγκέντρωσης
Η υιοθέτηση frontier AI απαιτεί υπολογιστική ισχύ, εξειδικευμένα μοντέλα και μεγάλα σύνολα δεδομένων. Αυτό ευνοεί περιορισμένο αριθμό παρόχων. Αν πολλές τράπεζες χρησιμοποιούν την ίδια υποδομή ή το ίδιο βασικό μοντέλο, μια αστοχία, παραβίαση ή προβληματική αναβάθμιση μπορεί να επηρεάσει μεγάλο μέρος του συστήματος ταυτόχρονα.
Η παραδοσιακή διαχείριση κινδύνου βασίζεται στη διαφοροποίηση. Η συγκέντρωση τεχνολογίας μπορεί να δημιουργήσει το αντίθετο: διαφορετικές τράπεζες με διαφορετικά χαρτοφυλάκια, αλλά με κοινό ψηφιακό σημείο αποτυχίας.
Τι ζητούν οι αρχές από τις τράπεζες
Η κοινή θέση Bank of England, FCA και βρετανικού Υπουργείου Οικονομικών είναι ότι οι οργανισμοί πρέπει να χαρτογραφήσουν πού χρησιμοποιείται frontier AI, να δοκιμάζουν σενάρια αποτυχίας, να διατηρούν εναλλακτικές λειτουργίες και να ελέγχουν τις εξαρτήσεις από προμηθευτές.
Η πρόκληση είναι ότι η ισχύς των μοντέλων αυξάνεται γρηγορότερα από τους κύκλους κανονιστικής συμμόρφωσης. Οι ετήσιες ασκήσεις και τα στατικά πρωτόκολλα δεν αρκούν όταν οι δυνατότητες επίθεσης αλλάζουν σε μήνες.
Το στρατηγικό συμπέρασμα
Η επιστολή Bailey δεν είναι έκκληση για πάγωμα της καινοτομίας. Είναι προειδοποίηση ότι η ανθεκτικότητα πρέπει να ενσωματώνεται πριν από την ανάπτυξη των ισχυρότερων μοντέλων σε κρίσιμες λειτουργίες. Αυτό απαιτεί συνεργασία κυβερνήσεων, εποπτών, τραπεζών, εταιρειών AI και παρόχων cloud.
Το πραγματικό ρίσκο δεν είναι ότι ένα μοντέλο θα «αποφασίσει» να ρίξει τις αγορές. Είναι ότι θα δώσει σε έναν επιτιθέμενο πρωτοφανή ταχύτητα ή θα δημιουργήσει κοινή αστοχία σε ένα σύστημα που λειτουργεί μόνο όσο οι συμμετέχοντες εμπιστεύονται τα δεδομένα και τις υποδομές του.
