Strategist Ai · AI Takeaways
- Το CNBC καταγράφει αυξημένη ζήτηση για AI και πάνω από 16.000 αναφορές σε διακυβέρνηση, έναντι περίπου 8.400 σε εκπαίδευση και ανάπτυξη μοντέλων.
- Η Επιτροπή της Βασιλείας υπογράμμισε την 1η Οκτωβρίου την ανάγκη διακυβέρνησης και διαχείρισης κινδύνων στις κρίσιμες χρηματοοικονομικές χρήσεις.
- Η επιτυχία μιας εφαρμογής χρειάζεται υπεύθυνο λειτουργίας, περιορισμένα δικαιώματα και αρχείο ελέγχου· η ταχύτητα από μόνη της δεν μετρά την επιχειρηματική αξία.
Η επέκταση της AI στις τράπεζες δημιουργεί ανάγκη για περισσότερους ανθρώπους που μπορούν να αναλάβουν την ευθύνη της λειτουργίας της. Η ζήτηση δεν περιορίζεται στην ανάπτυξη μοντέλων: επεκτείνεται στον έλεγχο δεδομένων, στη διακυβέρνηση και στις διαδικασίες που ορίζουν τι μπορεί να κάνει ένα σύστημα μέσα σε έναν χρηματοοικονομικό οργανισμό.
Στην ανάλυση Draup που δημοσίευσε το CNBC στις 2 Οκτωβρίου, οι αναφορές σε διακυβέρνηση AI ξεπερνούν τις 16.000, έναντι περίπου 8.400 για εκπαίδευση και ανάπτυξη μοντέλων. Οι κατηγορίες δεξιοτήτων μπορούν να επικαλύπτονται. Δεν πρέπει να αθροίζονται ως ανεξάρτητες προσλήψεις ούτε να παρουσιάζονται ως αριθμός θέσεων που δημιουργήθηκαν καθαρά.
Η εποπτική πλευρά του ίδιου φαινομένου
Μία ημέρα νωρίτερα, η Επιτροπή της Βασιλείας ανακοίνωσε ότι η ενσωμάτωση της AI σε κρίσιμες χρηματοοικονομικές λειτουργίες απαιτεί προσεκτική διακυβέρνηση, ισχυρή διαχείριση κινδύνων και συνεχή εποπτική προσοχή. Αναφέρθηκε επίσης σε λειτουργικές ευπάθειες, κυβερνοεπιθέσεις και συνδεδεμένες εξαρτήσεις στο χρηματοοικονομικό σύστημα.
Η ανακοίνωση δεν είναι καινούργιος κυπριακός νόμος ούτε γενική απαγόρευση χρήσης της τεχνολογίας. Περιγράφει το πρόβλημα που καλούνται να αντιμετωπίσουν διοικήσεις και επόπτες όταν μια εφαρμογή αποκτά μεγαλύτερη πρόσβαση σε δεδομένα και πραγματικές λειτουργίες.
Από την απάντηση στην ενέργεια
Ένα εργαλείο που συνοψίζει ένα δημόσιο έγγραφο έχει διαφορετικό προφίλ κινδύνου από έναν agent που αλλάζει εγγραφές πελατών, αποστέλλει οδηγίες ή ενεργοποιεί οικονομική συναλλαγή. Η δεύτερη περίπτωση χρειάζεται όρια πριν από την εκτέλεση, όχι μόνο έλεγχο του κειμένου μετά την παραγωγή του.
Σε μια υποθετική τραπεζική εφαρμογή, ένας agent θα μπορούσε να προετοιμάζει φάκελο για αξιολόγηση, αλλά η τελική έγκριση να παραμένει σε εξουσιοδοτημένο εργαζόμενο. Τα δικαιώματα ανάγνωσης, τροποποίησης και εκτέλεσης χρειάζονται ξεχωριστή αντιμετώπιση. Το αρχείο ενεργειών πρέπει να επιτρέπει να βρεθεί ποιο σύστημα έκανε τι, με ποια δεδομένα και με ποια έγκριση.
Ποιος είναι υπεύθυνος όταν κάτι αποτύχει
Το εθελοντικό πλαίσιο του NIST προσφέρει έναν τρόπο οργάνωσης της διακυβέρνησης, της χαρτογράφησης, της μέτρησης και της διαχείρισης κινδύνων. Σε έναν οργανισμό, η εφαρμογή αυτής της λογικής απαιτεί σαφή κατανομή ευθύνης ανάμεσα στην επιχειρησιακή μονάδα, στην πληροφορική και στις λειτουργίες ελέγχου.
Η ευθύνη δεν μπορεί να τελειώνει στη φράση «το έδωσε το μοντέλο». Αν μια εφαρμογή αποτύχει, χρειάζεται διαδικασία διακοπής, ανθρώπινης επανεξέτασης και αποκατάστασης. Ο προμηθευτής παρέχει τεχνολογία, αλλά η τράπεζα εξακολουθεί να διαχειρίζεται τη δική της σχέση με τον πελάτη και τις δικές της λειτουργίες.
Ο σωστός επιχειρηματικός λογαριασμός
Η εξοικονόμηση χρόνου σε μια δοκιμή πρέπει να συγκρίνεται με το κόστος συντήρησης, ελέγχου, διόρθωσης και ενσωμάτωσης σε υφιστάμενα συστήματα. Η αύξηση παραγωγής περιλήψεων δεν αποδεικνύει εξοικονόμηση αν περισσότερος χρόνος μεταφέρεται στους εργαζομένους που επαληθεύουν τα αποτελέσματα.
Για τις κυπριακές χρηματοοικονομικές επιχειρήσεις, μια πρακτική αφετηρία είναι μια συγκεκριμένη διαδικασία με μετρήσιμο στόχο, ορισμένο υπεύθυνο και καταγεγραμμένες εξαιρέσεις. Η γενική αγορά «λύσεων AI» χωρίς τέτοιο σχεδιασμό δυσκολεύει τόσο την αξιολόγηση της επένδυσης όσο και τον έλεγχο του κινδύνου.
Οι νέες αγγελίες δείχνουν ότι η τεχνολογία αλλάζει και την οργανωτική δομή. Η αξία θα κριθεί από το αν οι επιχειρήσεις μπορούν να χρησιμοποιούν τις δυνατότητές της διατηρώντας την ευθύνη για όσα εκτελούνται.
Φωτογραφία: Wil540 art / CC BY 4.0. Περικοπή κάδρου.
.jpg){kind=link}