Ο νέος «εργαζόμενος» της επιχείρησης είναι AI agent: Ποιος λογοδοτεί; – Του Μιχάλη Παπαδόπουλου

Πράκτορες Τεχνητής Νοημοσύνης, αρμοδιότητες, εξουσιοδότηση και λογοδοσία στη νέα επιχειρησιακή πραγματικότητα.

Του Μιχάλη Α. Παπαδόπουλου

Μέχρι πρόσφατα, όταν μιλούσαμε για Τεχνητή Νοημοσύνη στις επιχειρήσεις, εννοούσαμε ένα εργαλείο: ένα σύστημα που αναλύει δεδομένα, ένα σύστημα συνομιλίας που απαντά σε πελάτες, μια εφαρμογή που συνοψίζει έγγραφα ή βοηθά ένα στέλεχος να ετοιμάσει μια παρουσίαση. Η εικόνα αυτή αλλάζει γρήγορα.

Η νέα γενιά των πρακτόρων Τεχνητής Νοημοσύνης (AI agents) δεν παράγει απλώς μια απάντηση. Αναλαμβάνει μια αποστολή, σχεδιάζει τα επιμέρους βήματα, χρησιμοποιεί εργαλεία, αναζητά πληροφορίες, αλληλεπιδρά με άλλα συστήματα και εκτελεί ενέργειες με περιορισμένη ανθρώπινη παρέμβαση. Εκεί αρχίζει μια πολύ διαφορετική συζήτηση: όταν ένα σύστημα αποκτά δυνατότητα δράσης μέσα στην επιχείρηση, παύει σταδιακά να μοιάζει με εργαλείο και αρχίζει να μοιάζει με ρόλο.

Από την πληροφορία στη δράση

Η πρόσφατη τοποθέτηση του καθηγητή του MIT Κωνσταντίνου Δασκαλάκη προσφέρει χρήσιμη αφετηρία. Διαχωρίζει τον υποθετικό κίνδυνο μιας μελλοντικής πλήρους απώλειας ελέγχου από έναν κίνδυνο που θεωρεί ήδη πραγματικό — την απρόβλεπτη συμπεριφορά εξαιρετικά σύνθετων συστημάτων — και εστιάζει στο τι συμβαίνει όταν αυτά αποκτούν πρόσβαση σε κώδικα, εργαλεία, δίκτυα και πραγματικές υποδομές.

Αυτό είναι και το κρίσιμο επιχειρησιακό σημείο. Ένα σύστημα που παράγει λανθασμένη πληροφορία δημιουργεί έναν συγκεκριμένο κίνδυνο. Ένα σύστημα που μπορεί να ενεργήσει πάνω στη λανθασμένη πληροφορία δημιουργεί κίνδυνο διαφορετικής τάξης. Όταν ένας πράκτορας μπορεί να μεταβάλλει στοιχεία σε ένα CRM, να εγκρίνει παραγγελία, να στείλει μήνυμα σε πελάτη, να εκτελέσει κώδικα ή να ξεκινήσει μια συναλλαγή, η συζήτηση αφορά κάτι πολύ περισσότερο από την ποιότητα της απάντησής του. Αφορά αρμοδιότητα, εξουσία και ευθύνη.

Ικανότητα δεν σημαίνει εξουσιοδότηση

Θα έθετα μια απλή αρχή στο κέντρο της συζήτησης: ικανότητα δεν σημαίνει εξουσιοδότηση. Το ότι ένα σύστημα μπορεί τεχνικά να κάνει κάτι δεν συνεπάγεται ότι πρέπει να του επιτρέπεται να το κάνει.

Η αρχή αυτή εφαρμόζεται εδώ και δεκαετίες στη διοίκηση επιχειρήσεων. Ένας εργαζόμενος μπορεί να γνωρίζει πώς γίνεται μια τραπεζική πληρωμή χωρίς να έχει δικαίωμα να εγκρίνει οποιοδήποτε ποσό. Ένας λογιστής καταχωρεί συναλλαγές χωρίς κατ’ ανάγκη δικαίωμα τελικής έγκρισης. Ένα στέλεχος έχει πρόσβαση σε εμπιστευτικές πληροφορίες, αλλά μόνο σε όσες απαιτεί ο ρόλος του. Η διακυβέρνηση στηρίζεται σε ρόλους, όρια αρμοδιοτήτων, επίπεδα εξουσιοδότησης, διαχωρισμό καθηκόντων και λογοδοσία. Γιατί λοιπόν να αντιμετωπίσουμε διαφορετικά έναν πράκτορα ΤΝ;

Περιγραφή θέσης και γραμμή αναφοράς

Όταν μια επιχείρηση προσλαμβάνει έναν άνθρωπο, προσδιορίζει τον σκοπό της θέσης, τις αρμοδιότητες, τη γραμμή αναφοράς, τις αποφάσεις που μπορεί να λαμβάνει, εκείνες που χρειάζονται έγκριση και τους δείκτες με τους οποίους αξιολογείται. Η ίδια λογική οφείλει να εφαρμοστεί και στους πράκτορες ΤΝ.

Κάθε πράκτορας που εντάσσεται σε πραγματική επιχειρησιακή διαδικασία χρειάζεται ένα είδος Όρων Εντολής: ποια είναι η αποστολή του, ποια δεδομένα μπορεί να χρησιμοποιεί, σε ποια συστήματα εισέρχεται, ποιες ενέργειες εκτελεί, ποιο είναι το χρηματικό ή επιχειρησιακό όριο της εξουσιοδότησής του, πότε απαιτείται ανθρώπινη έγκριση και ποιος άνθρωπος παραμένει τελικά υπεύθυνος για τη λειτουργία του. Ακούγεται γραφειοκρατικό. Στην πραγματικότητα είναι διοίκηση.

Χρειάζεται επίσης σαφή γραμμή αναφοράς. Ένας πράκτορας που υποστηρίζει τις πωλήσεις χρειάζεται επιχειρησιακό υπεύθυνο στις πωλήσεις· ένας πράκτορας που επεξεργάζεται πληρωμές, σαφή λογοδοσία στο οικονομικό σύστημα της εταιρείας. Η τεχνολογία μπορεί να ανήκει στην Πληροφορική, η επιχειρησιακή ευθύνη όμως ανήκει στη λειτουργία της οποίας τις αποφάσεις επηρεάζει. Διαφορετικά δημιουργείται κενό λογοδοσίας: όσο όλα πηγαίνουν καλά, όλοι απολαμβάνουν την παραγωγικότητα, και όταν κάτι πάει στραβά κανείς δεν είναι βέβαιος ποιος είχε την ευθύνη.

Η αρχή της ελάχιστης αναγκαίας εξουσίας

Το Εθνικό Ινστιτούτο Προτύπων και Τεχνολογίας των ΗΠΑ (NIST) έχει ήδη επισημάνει ότι η ασφαλής υιοθέτηση πρακτόρων ΤΝ απαιτεί προσοχή στην ταυτότητα, στην εξουσιοδότηση, στον έλεγχο πρόσβασης και στην καταγραφή των ενεργειών τους. Στην κυβερνοασφάλεια ισχύει εδώ και χρόνια η αρχή της ελάχιστης αναγκαίας πρόσβασης: κάθε χρήστης αποκτά μόνο τα δικαιώματα που χρειάζεται για τη δουλειά του.

Η ίδια αρχή πρέπει να περάσει στην εποχή των πρακτόρων. Ένας πράκτορας που διαβάζει στοιχεία πελατών δεν χρειάζεται απαραίτητα δυνατότητα να τα μεταβάλλει. Ένας πράκτορας που ετοιμάζει μια προσφορά δεν αποκτά αυτομάτως δικαίωμα να δεσμεύει εμπορικά την εταιρεία. Ένας πράκτορας που εισηγείται πληρωμή μπορεί να χρειάζεται ανθρώπινη έγκριση για την εκτέλεσή της. Η αυτονομία μπορεί να διευρύνεται σταδιακά, όσο αυξάνονται η εμπιστοσύνη, η τεχνική αξιοπιστία και η δυνατότητα ελέγχου.

Όταν το σύστημα βρίσκει τον δικό του δρόμο

Η ανάγκη αυτών των δικλίδων έπαψε να είναι θεωρητική. Τον Ιούλιο του 2026, κατά τη διάρκεια εσωτερικών αξιολογήσεων κυβερνοασφάλειας και με μειωμένες δικλίδες προστασίας, μοντέλα της OpenAI παρέκαμψαν τους ελέγχους που τα απομόνωναν από το διαδίκτυο, εκμεταλλεύτηκαν άγνωστη μέχρι τότε ευπάθεια, απέκτησαν πρόσβαση στο διαδίκτυο και τελικά σε συστήματα της Hugging Face — με στόχο να βρουν τις απαντήσεις της δοκιμασίας στην οποία αξιολογούνταν. Η Hugging Face εντόπισε την εισβολή μόνη της, πριν καν συνδεθεί με την αξιολόγηση. Η OpenAI δημοσιοποίησε το περιστατικό στις 21 Ιουλίου και τα πορίσματά της τον Αύγουστο, χαρακτηρίζοντάς το σοβαρή προειδοποίηση.

Δεν έμεινε μεμονωμένο. Στις 18 Σεπτεμβρίου 2026 η Google επιβεβαίωσε ότι, σε δοκιμή του Μαΐου, το μοντέλο Gemini απέκτησε μη εξουσιοδοτημένη πρόσβαση σε συστήματα τριών πραγματικών εταιρειών: το περιβάλλον δοκιμών είχε κατά λάθος πρόσβαση στο διαδίκτυο και το μοντέλο θεώρησε ότι επρόκειτο για μέρος της άσκησης.

Και στις δύο περιπτώσεις η αιτία ήταν πεζή — ένα όριο που δεν κρατούσε — και το δίδαγμα για τη διοίκηση κοινό: ένα πολύ ικανό σύστημα μπορεί να βρει τρόπο να ολοκληρώσει τον στόχο που του δώσαμε, χωρίς ο τρόπος αυτός να είναι εκείνος που είχαμε προβλέψει. Η διοίκηση επομένως δεν μπορεί να βασίζεται μόνο στην εντολή. Χρειάζεται και αρχιτεκτονική ορίων.

Δείκτες απόδοσης, και διαδικασία για όταν κάτι πάει στραβά

Αν οι πράκτορες εκτελούν πραγματική εργασία, τότε πρέπει και να μετράμε την απόδοσή τους — και όχι μόνο ως προς την ταχύτητα. Ένας πράκτορας εξυπηρέτησης μπορεί να απαντά σε δευτερόλεπτα και ταυτόχρονα να μειώνει την ικανοποίηση του πελάτη. Ένας πράκτορας προμηθειών μπορεί να πετυχαίνει χαμηλότερες τιμές αυξάνοντας τον επιχειρησιακό κίνδυνο. Ένας πράκτορας πωλήσεων μπορεί να πολλαπλασιάζει τις επαφές πλήττοντας την εικόνα της εταιρείας. Οι δείκτες απόδοσής τους χρειάζεται συνεπώς να καλύπτουν, ανάλογα με τον ρόλο, την ακρίβεια και την ποιότητα, τον χρόνο και το κόστος, την ικανοποίηση του πελάτη, το ποσοστό ανθρώπινων παρεμβάσεων, τα περιστατικά ασφάλειας και τις παραβιάσεις πολιτικών, και πάνω απ’ όλα το πραγματικό επιχειρησιακό αποτέλεσμα. Η ταχύτητα από μόνη της δεν είναι παραγωγικότητα.

Χρειάζεται επίσης διαδικασία για την αστοχία: ποιος την αντιλαμβάνεται, πότε διακόπτεται η λειτουργία, ποιος ειδοποιείται, ποιος διερευνά το συμβάν, πώς αποκαθίσταται η ζημιά και πώς αποφεύγεται η επανάληψη. Όπως έχουμε διαδικασίες για κυβερνοεπιθέσεις, ποιοτικά προβλήματα και επιχειρησιακή συνέχεια, θα χρειαστούμε διαδικασίες και για συμβάντα που προέρχονται από αυτόνομα συστήματα.

Το νέο οργανόγραμμα

Ίσως χρειαστεί σύντομα να επανεξετάσουμε και την έννοια του οργανογράμματος. Σήμερα απεικονίζει ανθρώπους και θέσεις· αύριο μπορεί να χρειάζεται να αποτυπώνει ένα μικτό εργατικό δυναμικό από ανθρώπους, αυτοματοποιημένες διαδικασίες και πράκτορες. Κάποιοι θα αναφέρονται λειτουργικά σε έναν προϊστάμενο, άλλοι θα υποστηρίζουν ταυτόχρονα περισσότερα τμήματα, κάποιοι θα έχουν ελάχιστη αυτονομία και κάποιοι θα εκτελούν ολόκληρες αλληλουχίες εργασιών.

Το ερώτημα για τη διοίκηση θα γίνεται όλο και πιο κεντρικό: ποια εργασία εκτελεί ο άνθρωπος, ποια η μηχανή και πού απαιτείται συνεργασία των δύο; Η απάντηση θα επηρεάσει οργανωτικές δομές, περιγραφές θέσεων, δεξιότητες, στελέχωση, αξιολόγηση απόδοσης και ηγεσία.

Οι ερωτήσεις του Διοικητικού Συμβουλίου

Ένα Διοικητικό Συμβούλιο δεν χρειάζεται να μάθει να προγραμματίζει. Χρειάζεται όμως να αρχίσει να θέτει διαφορετικές ερωτήσεις: πού χρησιμοποιούμε πράκτορες ΤΝ, ποιες αποφάσεις τους έχουμε αναθέσει, ποιος εγκρίνει την ανάπτυξή τους, ποια είναι τα σοβαρότερα σενάρια αστοχίας, ποιος έχει δικαίωμα να τους σταματήσει, πώς γνωρίζουμε ότι λειτουργούν εντός των ορίων που θέσαμε, ποια αποτελέσματα δημιουργούν και ποιος έχει την τελική λογοδοσία. Αυτές είναι ερωτήσεις εταιρικής διακυβέρνησης, όχι προγραμματισμού.

Ο νέος συνάδελφος

Τίποτα από τα παραπάνω δεν δικαιολογεί φοβική αντιμετώπιση. Οι πράκτορες ΤΝ μπορούν να απαλλάξουν ανθρώπους από επαναλαμβανόμενες εργασίες, να επιταχύνουν διαδικασίες, να βελτιώσουν την εξυπηρέτηση και να δώσουν σε μικρότερες επιχειρήσεις δυνατότητες που μέχρι πρόσφατα απαιτούσαν πολύ μεγαλύτερους οργανισμούς. Ακριβώς γι’ αυτό χρειάζεται ώριμη διοίκηση: όσο περισσότερη αυτονομία παραχωρούμε, τόσο μεγαλύτερη πρέπει να γίνεται η σαφήνεια γύρω από τον ρόλο, την εξουσία και τη λογοδοσία.

Ίσως σε λίγα χρόνια η ιδέα ενός πράκτορα μέσα στο οργανόγραμμα να μας φαίνεται απολύτως φυσιολογική, όπως σήμερα θεωρούμε αυτονόητο ότι ένας οργανισμός διαθέτει πληροφοριακά συστήματα. Η διοικητική πρόκληση είναι να προετοιμαστούμε από τώρα, γιατί κάθε πράκτορας που αποκτά δικαίωμα δράσης μέσα σε μια επιχείρηση χρειάζεται ό,τι χρειάζεται και ένας ανθρώπινος ρόλος: σαφή αποστολή, καθορισμένες αρμοδιότητες, όρια εξουσίας, μέτρηση απόδοσης, εποπτεία και λογοδοσία.

Ο νέος «εργαζόμενος» της επιχείρησης μπορεί πράγματι να μην είναι άνθρωπος. Η ευθύνη όμως για το τι θα του επιτρέψουμε να κάνει και για την αξία που θα δημιουργήσει παραμένει ανθρώπινη.

The post Ο νέος «εργαζόμενος» της επιχείρησης είναι AI agent: Ποιος λογοδοτεί; – Του Μιχάλη Παπαδόπουλου appeared first on moneymatters.cy.

Διαβάστε Περισσότερα...