Το πρόστιμο 825 εκατ. ευρώ στην Uber για αυτοματοποιημένες αναστολές οδηγών δείχνει ότι το human-in-the-loop δεν είναι διακοσμητική δικλίδα. Είναι μηχανισμός λογοδοσίας που πρέπει να μπορεί να κατανοήσει, να αμφισβητήσει και να αλλάξει μια αλγοριθμική απόφαση με πραγματική επίπτωση.
- Η ολλανδική Αρχή εντόπισε ανεπαρκή ενημέρωση και ανθρώπινη επανεξέταση.
- Η υπόθεση αφορά την περίοδο 2020–2022 και θα κριθεί σε έφεση.
- Η τυπική παρουσία ανθρώπου δεν αρκεί αν δεν έχει εξουσία ανατροπής.
- Algorithmic governance σημαίνει ιδιοκτησία κινδύνου από το διοικητικό συμβούλιο.
Απόδοση χωρίς λογοδοσία
Οι πλατφόρμες χρησιμοποιούν μοντέλα για να ανιχνεύουν απάτη, μη ολοκληρωμένες διαδρομές ή ύποπτη συμπεριφορά σε κλίμακα. Η λειτουργική λογική είναι ισχυρή: ταχύτερος έλεγχος, χαμηλότερο κόστος, ομοιομορφία. Όταν όμως η έξοδος του μοντέλου διακόπτει το εισόδημα ενός εργαζομένου, το ποσοστό σφάλματος αποκτά ανθρώπινη και νομική διάσταση.
Η Uber αμφισβητεί την αναλογικότητα της κύρωσης και λέει ότι οι σημερινές διαδικασίες περιλαμβάνουν ανθρώπινη επανεξέταση. Το δικαστικό αποτέλεσμα παραμένει ανοικτό. Το μάθημα για τη διοίκηση, όμως, δεν εξαρτάται από μία εταιρεία.
Τέσσερις ερωτήσεις για κάθε οργανισμό
- Ποιος εγκρίνει τα κριτήρια και τα δεδομένα του μοντέλου;
- Μπορεί ο επηρεαζόμενος να λάβει κατανοητή εξήγηση;
- Έχει ο ανθρώπινος ελεγκτής χρόνο, στοιχεία και εξουσία ανατροπής;
- Μετρά η διοίκηση false positives, ενστάσεις και άνισες επιπτώσεις;
Η συμμόρφωση δεν μπορεί να μένει μόνο στη νομική υπηρεσία. Χρειάζεται κοινή ιδιοκτησία από product, data, operations, HR και board risk committee. Όσο πιο αυτόματη γίνεται η απόφαση, τόσο πιο συγκεκριμένη πρέπει να γίνεται η ανθρώπινη ευθύνη.
