Strategist Ai · AI Takeaways
- Ο Άλτμαν στηρίζει ανεξάρτητους αξιολογητές με πρόσβαση μέσα στις εταιρείες, ενώ ο Μασκ συμφώνησε με τον Αμοντέι.
- Η πρόταση αφορά περισσότερο χρόνο για ασφάλεια, χωρίς πλήρη διακοπή της έρευνας.
- Δεν έχει ανακοινωθεί δεσμευτική κοινή παύση ανάπτυξης από τον κλάδο.
Οι ανταγωνιστές που πιέζουν για το επόμενο άλμα της τεχνητής νοημοσύνης συγκλίνουν τώρα στην ανάγκη να επιβραδυνθεί η κούρσα. Μετά την παρέμβαση του Ντάριο Αμοντέι, ο Σαμ Άλτμαν δεσμεύθηκε να ακολουθήσει την πρόταση για ανεξάρτητους αξιολογητές μέσα στις εταιρείες, ενώ ο Έλον Μασκ εξέφρασε τη συμφωνία του.
Τις αντιδράσεις καταγράφουν οι Kevin Whitelaw και Seth Fiegerman στο Bloomberg. Η σύμπλευση είναι πολιτικά και επιχειρηματικά σημαντική, αλλά δεν αποτελεί ακόμη συμφωνία κοινής παύσης, με συγκεκριμένη διάρκεια και δεσμευτικούς όρους.
Περισσότερος χρόνος για να ελεγχθούν τα ισχυρότερα συστήματα
Στο πρωτότυπο κείμενό του, ο επικεφαλής της Anthropic συνδέει την πρόταση με την ταχύτητα αύξησης των δυνατοτήτων και με περιστατικά ανεπιθύμητης συμπεριφοράς αυτόνομων συστημάτων. Ζητά χρόνο για ευθυγράμμιση, προστασία και ανεξάρτητη επαλήθευση. Δεν εισηγείται πλήρη διακοπή της τεχνικής προόδου.
Η διάκριση έχει σημασία. Ένα σύστημα μπορεί να λύνει περισσότερες εργασίες και ταυτόχρονα να αποκτά δυνατότητες που είναι δυσκολότερο να περιοριστούν. Το ερώτημα για τις εταιρείες είναι αν ο έλεγχος προηγείται της ευρείας διάθεσης ή προσπαθεί να την προλάβει εκ των υστέρων.
Τι αξία έχει ένας ελεγκτής μέσα στην εταιρεία
Η ανεξάρτητη αξιολόγηση αποκτά βάρος όταν ο αξιολογητής μπορεί να εξετάζει ουσιαστικά δεδομένα, αποτυχίες και διαδικασίες. Μια εξωτερική δοκιμή του τελικού προϊόντος δίνει διαφορετική εικόνα από την πρόσβαση στον τρόπο με τον οποίο αναπτύχθηκε και δοκιμάστηκε.
Η πρόσβαση από μόνη της δεν λύνει όλα τα ζητήματα. Χρειάζεται να προσδιορίζεται ποιος επιλέγει και χρηματοδοτεί τον ελεγκτή, τι μπορεί να δημοσιοποιήσει και ποια διαδικασία ακολουθείται όταν διαφωνεί με την εταιρεία. Εκεί θα φανεί αν η ανεξαρτησία είναι λειτουργική.
Το δύσκολο πέρασμα από τη σύμπλευση στους κανόνες
Οι εταιρείες ανταγωνίζονται για πελάτες, στελέχη και χρηματοδότηση. Μια επιχείρηση που καθυστερεί την κυκλοφορία προϊόντος αναλαμβάνει εμπορικό κόστος, ιδίως αν οι υπόλοιπες συνεχίζουν κανονικά. Αυτό δημιουργεί ισχυρό κίνητρο να ζητούνται κοινές προϋποθέσεις εφαρμογής.
Από την άλλη πλευρά, ο συντονισμός μεταξύ κυρίαρχων ανταγωνιστών χρειάζεται δημόσια εποπτεία. Οι κανόνες ασφάλειας πρέπει να προστατεύουν την κοινωνία χωρίς να γίνονται μηχανισμός αποκλεισμού μικρότερων εταιρειών. Η συζήτηση επομένως αφορά και τις κυβερνήσεις, όχι μόνο τα εργαστήρια.
Τι αλλάζει για όσους χρησιμοποιούν AI
Για επιχειρήσεις και δημόσιες υπηρεσίες, η νέα στάση ενισχύει την ανάγκη να εξετάζουν την αξιοπιστία μαζί με την απόδοση. Οι κρίσιμες χρήσεις χρειάζονται σαφή ανθρώπινη ευθύνη, δυνατότητα διακοπής μιας λανθασμένης ενέργειας και καταγραφή όσων εκτελεί ένα σύστημα.
Η πραγματική αλλαγή θα μετρηθεί στις διαδικασίες που εφαρμόζονται. Η σπάνια συμφωνία των επικεφαλής ανοίγει αυτή τη συζήτηση. Δεν αποδεικνύει ακόμη ότι ο κλάδος έχει συμφωνήσει πού ακριβώς θα βάλει το όριο.
