Η προειδοποίηση προέρχεται αυτή τη φορά από το εσωτερικό της κούρσας. Ο επικεφαλής επιστήμονας της OpenAI, Τζέικομπ Παχότσκι, ζητά κοινά όρια ασφάλειας και συντονισμό για επιβραδύνσεις της ανάπτυξης όπου χρειάζεται. Στο κείμενο που δημοσίευσε στις 6 Σεπτεμβρίου, εκφράζει την εκτίμηση ότι κανένα εργαστήριο δεν έχει λύσει επαρκώς τα προβλήματα ευθυγράμμισης και παρακολούθησης ώστε να συνεχίζει για πολύ ακόμη με τη μέγιστη ταχύτητα.
- Η παρέμβαση Παχότσκι αφορά τον έλεγχο της ανάπτυξης ισχυρότερων μοντέλων, όχι γενική απαγόρευση της AI.
- Προτείνει κοινές απαιτήσεις ασφάλειας και διεθνή συντονισμό.
- Το πολιτικό ζήτημα είναι ποιος ελέγχει τις εταιρικές αξιολογήσεις και μπορεί να επιβάλει όρια.
Πρόκειται για προσωπική επιστημονική αξιολόγηση με θεσμικό βάρος, όχι για διεθνή απόφαση παύσης. Ο ίδιος προτείνει απαιτήσεις ασφάλειας που θα μπορούσαν να ελέγχονται από ανεξάρτητους ελεγκτές, κυβερνητικές υπηρεσίες ή διεθνείς φορείς. Η στρατηγική συζήτηση μεταφέρεται έτσι από το ποιος κατασκευάζει το ισχυρότερο μοντέλο στο ποιος μπορεί να ελέγξει την πορεία του.
Η αυτοδέσμευση έχει ένα προφανές όριο
Όταν ο δημιουργός μιας τεχνολογίας επιλέγει τα τεστ, ερμηνεύει τα αποτελέσματα και αποφασίζει πότε θα τη διαθέσει, ο δημόσιος έλεγχος εξαρτάται από την πληροφόρηση που εκείνος παρέχει. Η τεχνική εμπειρία των εταιρειών είναι απαραίτητη. Δεν υποκαθιστά όμως την ανεξαρτησία της αξιολόγησης, ιδιαίτερα όταν μια αποτυχία μπορεί να επηρεάσει οργανισμούς που δεν συμμετείχαν στη σχετική απόφαση.
Από αυτή την άποψη, η πρόσκληση για κοινά κριτήρια είναι πιο ουσιαστική από μια γενική έκκληση για προσοχή. Ένα όριο αποκτά πραγματικό περιεχόμενο όταν είναι σαφές τι μετρά, ποιος αποκτά πρόσβαση στα στοιχεία και τι συμβαίνει αν μια εταιρεία δεν το τηρεί. Διαφορετικά παραμένει μια υπόσχεση που κάθε ανταγωνιστής ερμηνεύει διαφορετικά.
Η ασφάλεια μέσα σε μια ανταγωνιστική αγορά
Το δύσκολο πρόβλημα είναι ότι η επιβράδυνση ενός παίκτη δεν επιβραδύνει αυτομάτως τους υπόλοιπους. Μια κυβέρνηση μπορεί να ανησυχεί για την ασφάλεια και ταυτόχρονα για τεχνολογική εξάρτηση. Μια εταιρεία μπορεί να χρειάζεται περισσότερους ελέγχους και να φοβάται ότι θα χάσει την αγορά. Πρόκειται για πραγματική σύγκρουση κινήτρων, όχι για απλή διαφωνία γύρω από την ταχύτητα ενός προϊόντος.
Οι κοινές απαιτήσεις θα είχαν αξία ακριβώς επειδή μπορούν να περιορίσουν αυτό το δίλημμα. Η εφαρμογή τους, ωστόσο, προϋποθέτει συμφωνία για τα αποδεικτικά στοιχεία και τον τρόπο επιβολής. Δεν αρκεί μια γενική αναφορά στη διεθνή συνεργασία όταν οι συμμετέχοντες δεν έχουν τις ίδιες δυνατότητες πρόσβασης στην τεχνολογία.
Ο κίνδυνος αλλάζει όταν το μοντέλο ενεργεί
Στο πλαίσιο που παρουσίασε για την πορεία προς το Astra, η OpenAI περιγράφει ιδιαίτερες προφυλάξεις για αυξημένες δυνατότητες στον κυβερνοχώρο. Το ουσιαστικό στοιχείο είναι η πρόσβαση σε εργαλεία και συστήματα: η απόσταση ανάμεσα σε μια απάντηση και μια πράξη μικραίνει.
Αυτό δημιουργεί διαφορετικές απαιτήσεις για τις δημόσιες υποδομές, τις εταιρείες και τους οργανισμούς που προμηθεύονται τέτοιες υπηρεσίες. Η αξιολόγηση δεν μπορεί να περιορίζεται στο αν το αποτέλεσμα ακούγεται πειστικό. Πρέπει να εξετάζει αν η εφαρμογή παραμένει μέσα στο εξουσιοδοτημένο πεδίο και αν ένας άνθρωπος μπορεί να εντοπίσει και να διακόψει εγκαίρως μια απόκλιση.
Το ερώτημα για την Ευρώπη και την Κύπρο
Οι μικρότεροι χρήστες τεχνολογίας δεν ορίζουν τον παγκόσμιο ρυθμό ανάπτυξης, αλλά έχουν επιλογές στις προμήθειες και στην εφαρμογή. Μπορούν να ζητούν τεκμηρίωση, συγκεκριμένα δικαιώματα πρόσβασης, καταγραφή ενεργειών και ανθρώπινη ευθύνη στις κρίσιμες αποφάσεις. Η δυνατότητα αξιολόγησης πρέπει να αναπτύσσεται μαζί με τη δυνατότητα αγοράς.
Το διακύβευμα δεν είναι να επιλεγεί αφηρημένα η πρόοδος ή η ασφάλεια. Είναι να υπάρχει αξιόπιστος τρόπος να αποφασίζεται πότε η μία προχωρεί χωρίς να υπονομεύει την άλλη. Η παρέμβαση Παχότσκι κάνει αυτή τη συζήτηση πιο επείγουσα, αλλά οι κανόνες θα κριθούν από την ανεξαρτησία και την εφαρμογή τους, όχι από το πόσο δραματικά διατυπώνονται.
