Strategist Ai · AI Takeaways
- Ο Μαρκ Ζούκερμπεργκ απορρίπτει την ιδέα κοινής επιβράδυνσης των μεγάλων εργαστηρίων AI και ζητά ευθύνη ανά εταιρεία.
- Η θέση του διαφοροποιεί τη Meta από προτάσεις που έχουν στηρίξει στελέχη όπως ο Ντάριο Αμοντέι, ο Σαμ Άλτμαν και ο Έλον Μασκ.
- Ο επικεφαλής της Meta επικαλείται τον ανταγωνισμό και τη νομική ευθύνη ως κίνητρα ασφαλέστερης ανάπτυξης.
- Η διαφωνία είναι ταυτόχρονα τεχνική, πολιτική και εμπορική, καθώς η Meta επενδύει επιθετικά σε ανοικτά μοντέλα και υποδομές.
Το εύθραυστο μέτωπο των επικεφαλής της τεχνητής νοημοσύνης γύρω από την ανάγκη επιβράδυνσης έσπασε δημόσια. Ο Μαρκ Ζούκερμπεργκ απέρριψε την ιδέα μιας συντονισμένης παύσης ή επιβράδυνσης στην ανάπτυξη των ισχυρότερων μοντέλων και υποστήριξε ότι κάθε εργαστήριο πρέπει να αποφασίζει μόνο του πότε ένα σύστημα είναι ασφαλές για κυκλοφορία.
Η θέση του επικεφαλής της Meta τον διαφοροποιεί από προτάσεις που έχουν διατυπωθεί από τον διευθύνοντα σύμβουλο της Anthropic Ντάριο Αμοντέι και έχουν βρει υποστήριξη, σε διαφορετικούς βαθμούς, από τον Σαμ Άλτμαν της OpenAI και τον Έλον Μασκ. Η διαφωνία δεν είναι θεωρητική. Καθορίζει ποιος θα συνεχίσει να επενδύει, ποιος θα αποδεχθεί καθυστέρηση και ποιος θα έχει πλεονέκτημα όταν η επόμενη γενιά μοντέλων φτάσει στην αγορά.
Το επιχείρημα του Ζούκερμπεργκ
Ο Ζούκερμπεργκ θεωρεί ότι η ασφάλεια μπορεί να προστατευθεί μέσα από την ευθύνη κάθε εταιρείας, τον ανταγωνισμό και το νομικό κόστος μιας αποτυχίας. Ως παράδειγμα ανέφερε ότι η Meta καθυστέρησε για μήνες την κυκλοφορία του μοντέλου Muse, επειδή ήθελε να αντιμετωπίσει ζητήματα πριν το διαθέσει.
Η λογική του είναι ότι ένα κοινό φρένο θα ήταν δύσκολο να οριστεί και ακόμη δυσκολότερο να εφαρμοστεί. Δεν είναι σαφές ποιος θα αποφάσιζε ποιο επίπεδο υπολογιστικής ισχύος ή ικανότητας θεωρείται επικίνδυνο, πώς θα ελέγχονταν κρατικά εργαστήρια και νεοεισερχόμενες εταιρείες ή τι θα συνέβαινε αν μία χώρα συνέχιζε ενώ οι υπόλοιπες σταματούσαν.
Η εμπορική διάσταση
Η Meta έχει κάθε λόγο να αντιτίθεται σε έναν συλλογικό περιορισμό. Επενδύει δεκάδες δισεκατομμύρια σε data centers, chips και τα μοντέλα Llama, ενώ θέλει να μεταφέρει την AI σε Facebook, Instagram, WhatsApp, έξυπνα γυαλιά και συσκευές. Μια υποχρεωτική παύση θα πάγωνε την απόδοση αυτών των επενδύσεων και θα μπορούσε να ευνοήσει εταιρείες που προηγούνται σε συγκεκριμένες κατηγορίες.
Ταυτόχρονα, η στρατηγική ανοικτών μοντέλων της Meta δημιουργεί διαφορετικό προφίλ κινδύνου. Όταν τα βάρη και ο κώδικας ενός μοντέλου διατίθενται ευρύτερα, η εταιρεία έχει μικρότερο έλεγχο στη μεταγενέστερη χρήση τους. Οι επικριτές υποστηρίζουν ότι η ατομική αυτορρύθμιση δεν αρκεί όταν ένα σύστημα μπορεί να αντιγραφεί, να τροποποιηθεί ή να αξιοποιηθεί εκτός της αρχικής πλατφόρμας.
Υπολογιστική ισχύς για ανθρώπους ή για περισσότερη AI;
Ο Ζούκερμπεργκ έβαλε και ένα ουσιαστικό όριο: η υπολογιστική ισχύς πρέπει να χρησιμοποιείται για υπηρεσίες που ωφελούν ανθρώπους και όχι σε μια ανεξέλεγκτη διαδικασία όπου τα συστήματα βελτιώνουν διαρκώς τον εαυτό τους χωρίς σαφή κοινωνικό σκοπό. Η διάκριση ακούγεται λογική, αλλά είναι δύσκολο να μετρηθεί. Η έρευνα που βελτιώνει ένα μοντέλο μπορεί ταυτόχρονα να προσφέρει χρήσιμες εφαρμογές και να αυξάνει τις δυνατότητες κατάχρησης.
Τι κρύβεται πίσω από τη σύγκρουση
Η συζήτηση για το φρένο της AI έχει τρία επίπεδα. Το πρώτο είναι η τεχνική ασφάλεια: δοκιμές, βιοασφάλεια, κυβερνοεπιθέσεις και έλεγχος συμπεριφοράς. Το δεύτερο είναι η γεωπολιτική: καμία αμερικανική εταιρεία δεν θέλει να περιοριστεί αν πιστεύει ότι ανταγωνιστές στην Κίνα θα συνεχίσουν. Το τρίτο είναι η αγορά: οι εταιρείες έχουν δεσμεύσει τεράστιο κεφάλαιο και πρέπει να δείξουν προϊόντα, έσοδα και απόδοση.
Γι’ αυτό η σύγκρουση δεν θα λυθεί με μια εθελοντική δήλωση καλών προθέσεων. Χρειάζονται κοινά τεστ, διαφάνεια για σοβαρά περιστατικά και κανόνες που εφαρμόζονται με τον ίδιο τρόπο στους μεγάλους παίκτες. Η θέση του Ζούκερμπεργκ υπενθυμίζει ότι όσο το οικονομικό κίνητρο παραμένει η ταχύτητα, η επιβράδυνση θα είναι εξαίρεση και όχι συλλογική στρατηγική.
Φωτογραφία: Anthony Quintano / Wikimedia Commons, CC BY 2.0
