Η ισχυρότερη τεχνητή νοημοσύνη δεν σημαίνει αυτομάτως και ευκολότερη εποπτεία. Αυτή είναι η ουσία της προειδοποίησης του επικεφαλής επιστήμονα της OpenAI, Τζέικομπ Παχότσκι, ο οποίος στο κείμενό του «An Alien Mind» της 6ης Σεπτεμβρίου υποστηρίζει ότι χρειάζονται ισχυρότερες δικλίδες και επιβραδύνσεις της ανάπτυξης όπου είναι αναγκαίο. Για τις επιχειρήσεις, το μήνυμα αφορά κάτι πολύ συγκεκριμένο: πόση ευθύνη αναθέτουν σε ένα σύστημα που γίνεται διαρκώς ικανότερο;
- Ο Τζέικομπ Παχότσκι υποστηρίζει επιβραδύνσεις όπου χρειάζονται μέχρι να ενισχυθούν οι δικλίδες ασφάλειας.
- Η παρέμβαση δεν αποτελεί ανακοίνωση διακοπής όλων των υπηρεσιών AI.
- Το επιχειρηματικό όφελος χρειάζεται να υπολογίζεται μαζί με εποπτεία, διορθώσεις και κίνδυνο.
Ο Παχότσκι εκτιμά ότι η δυνατότητα παρακολούθησης της συλλογιστικής των μοντέλων γίνεται λιγότερο αξιόπιστη. Η θέση του δεν είναι ανακοίνωση ότι κλείνει η OpenAI ή ότι σταματά κάθε εφαρμογή AI. Είναι παρέμβαση για τον ρυθμό ανάπτυξης και τις προϋποθέσεις ασφαλούς κλιμάκωσης.
Το κόστος που δεν φαίνεται στη συνδρομή
Η δημόσια συζήτηση συχνά συγκρίνει την τιμή ενός εργαλείου με τον χρόνο που χρειάζεται ένας εργαζόμενος. Η σύγκριση είναι ελλιπής. Στο πραγματικό κόστος περιλαμβάνονται η προετοιμασία των δεδομένων, η ενσωμάτωση στα εταιρικά συστήματα, η επιμέλεια του αποτελέσματος και η αντιμετώπιση των εξαιρέσεων. Όταν η AI μπορεί να ενεργεί, προστίθεται και η ανάγκη ελέγχου των ενεργειών της.
Ένα λάθος προσχέδιο διορθώνεται ευκολότερα από μια λανθασμένη πληρωμή ή αποστολή προσωπικών δεδομένων. Γι’ αυτό μια εφαρμογή που λειτουργεί καλά ως βοηθός δεν πρέπει να αποκτά αυτόματα δικαίωμα να εκτελεί την ίδια διαδικασία χωρίς επίβλεψη. Το προϊόν μπορεί να είναι το ίδιο, αλλά ο επιχειρηματικός κίνδυνος αλλάζει.
Δεν πρόκειται μόνο για θεωρητική συζήτηση
Σε ξεχωριστή ανακοίνωση της 18ης Αυγούστου, η OpenAI είχε περιγράψει παύση δύο εβδομάδων σε συγκεκριμένη εκπαίδευση ενισχυτικής μάθησης των νεότερων μοντέλων της, παράλληλα με ενίσχυση των μέτρων ασφάλειας. Αυτό ήταν συγκεκριμένο μέτρο σε συγκεκριμένη δραστηριότητα, όχι γενική παύση της έρευνας ή των προϊόντων της.
Η διάκριση έχει οικονομική σημασία. Μια καθυστέρηση για ελέγχους μπορεί να επηρεάσει το χρονοδιάγραμμα μιας υπηρεσίας, αλλά δεν αποτελεί από μόνη της απόδειξη κατάρρευσης της ζήτησης. Αντιστρόφως, μια γρήγορη κυκλοφορία δεν αποδεικνύει ότι το κόστος ενσωμάτωσης για τον πελάτη είναι χαμηλό.
Τρεις αποφάσεις πριν από την αυτοματοποίηση
Η πρώτη αφορά το πεδίο εφαρμογής. Μια εταιρεία μπορεί να ξεκινήσει από εργασίες όπου το αποτέλεσμα είναι αναστρέψιμο και ελέγχεται εύκολα. Για παράδειγμα, η συγκέντρωση στοιχείων για μια προσφορά δεν χρειάζεται να συνδέεται με αυτόματη αποστολή της στον πελάτη.
Η δεύτερη αφορά τα δικαιώματα. Ένα σύστημα πρέπει να έχει πρόσβαση μόνο στα δεδομένα και τις λειτουργίες που χρειάζεται για τη συγκεκριμένη εργασία. Η ευκολία του να συνδεθούν όλοι οι λογαριασμοί δεν είναι από μόνη της επιχειρηματική αιτιολόγηση. Η τρίτη αφορά τον άνθρωπο που εγκρίνει, ελέγχει και αναλαμβάνει την ευθύνη όταν προκύψει εξαίρεση.
Αυτές είναι πρακτικές επιλογές διαχείρισης κινδύνου, όχι υπόσχεση μηδενικού κινδύνου. Χρειάζονται δοκιμές με πραγματικά σενάρια, έλεγχος των λαθών και σαφής δυνατότητα διακοπής. Ένας προμηθευτής που παρουσιάζει εντυπωσιακά παραδείγματα πρέπει να μπορεί να εξηγήσει και πώς αντιμετωπίζονται οι αποτυχίες.
Η παραγωγικότητα θέλει απόδειξη
Για μια κυπριακή μικρομεσαία επιχείρηση, η σωστή ερώτηση δεν είναι αν πρέπει να αγνοήσει την AI μέχρι να λυθούν όλα τα προβλήματα. Είναι ποια διαδικασία μπορεί να βελτιώσει σήμερα, με ποιο κόστος και υπό ποιον έλεγχο. Η σύγκριση πριν και μετά χρειάζεται να περιλαμβάνει τις ώρες επιμέλειας, όχι μόνο την ταχύτητα παραγωγής.
Η παρέμβαση της OpenAI προσθέτει έτσι μια αναγκαία παράμετρο στον επενδυτικό ενθουσιασμό: η ασφάλεια δεν είναι εξωτερικό εμπόδιο στην παραγωγικότητα, αλλά μέρος του κόστους μιας αξιόπιστης υπηρεσίας. Το όφελος γίνεται πραγματικό όταν η επιχείρηση μπορεί να το επαναλάβει χωρίς να χάνει τον έλεγχο της λειτουργίας της.
The post Η OpenAI μιλά για επιβράδυνση της AI: Τι πρέπει να προσέξουν οι επιχειρήσεις πριν της δώσουν τον έλεγχο appeared first on moneymatters.cy.
