Ο Μαρκ Ζάκερμπεργκ δεν παρουσίασε απλώς ένα ακόμη τεχνολογικό όραμα. Με ένα κείμενο περίπου 6.500 λέξεων επιχείρησε να ορίσει τη βασική πολιτική σύγκρουση της εποχής της υπερνοημοσύνης: αν η νέα ισχύς θα συγκεντρωθεί σε λίγα κράτη και εργαστήρια ή θα διανεμηθεί σε δισεκατομμύρια ανθρώπους.
Στο μανιφέστο «The Future Is for Everyone», ο επικεφαλής της Meta απορρίπτει την ιδέα μιας μοναδικής «καλοπροαίρετης» υπερνοημοσύνης. Υποστηρίζει ότι κανένα σύστημα δεν μπορεί να εκφράσει ταυτόχρονα όλες τις διαφορετικές ανθρώπινες αξίες και ότι η ασφάλεια πρέπει να βασιστεί σε ισορροπίες και αμοιβαίους ελέγχους, όπως συμβαίνει στις δημοκρατικές κοινωνίες.
- Ο Ζάκερμπεργκ θεωρεί μεγαλύτερη απειλή τη συγκέντρωση της AI από αρκετούς επιμέρους τεχνολογικούς κινδύνους.
- Το δόγμα του στηρίζεται σε προσωπικούς agents, ανοικτά μοντέλα και πολλαπλά κέντρα ισχύος.
- Προτείνει στενή συνεργασία εταιρειών και κυβέρνησης χωρίς καθυστερήσεις που θα ευνοούσαν την Κίνα.
- Η Meta επιχειρεί να παρουσιάσει το εμπορικό της σχέδιο ως φιλελεύθερο και γεωπολιτικό αντίβαρο στη συγκεντρωτική AI.
Τα πέντε σημεία του νέου δόγματος
Πρώτον, προσωπική υπερνοημοσύνη για όλους. Η Meta θα επικεντρωθεί σε agents που ευθυγραμμίζονται με τους στόχους του χρήστη και όχι με μια ενιαία εταιρική αντίληψη για το τι είναι ορθό.
Δεύτερον, ανοικτά μοντέλα ως μηχανισμός αποτροπής της συγκέντρωσης. Ο Ζάκερμπεργκ δεσμεύεται ότι η εταιρεία θα επαναλάβει τις κυκλοφορίες open-source μοντέλων και υποστηρίζει ότι η ευρεία πρόσβαση μπορεί να ενισχύσει, αντί να αποδυναμώσει, την κυβερνοασφάλεια.
Τρίτον, ανεξάρτητη εποπτεία. Το διοικητικό συμβούλιο της Meta θα μπορεί να εγκρίνει τα κριτήρια ασφαλείας και να εξετάζει αν κάθε νέο μοντέλο πληροί τις προϋποθέσεις κυκλοφορίας. Η παραδοχή ότι ούτε ο ίδιος ο ιδρυτής πρέπει να αποφασίζει μόνος είναι πολιτικά σημαντική για μια εταιρεία με ισχυρό ιδρυτικό έλεγχο.
Τέταρτον, θεσμική συνεργασία με το κράτος. Τα κορυφαία εργαστήρια, σύμφωνα με την πρόταση, πρέπει να μοιράζονται ενδιάμεσα checkpoints και τεχνικούς πόρους με την κυβέρνηση, ώστε να θωρακίζονται εγκαίρως κρίσιμες υποδομές.
Πέμπτον, αμερικανική πρωτοκαθεδρία. Η ταχύτερη κατασκευή ενεργειακών υποδομών, chips και data centers παρουσιάζεται ως ζήτημα εθνικής ασφάλειας. Ο Ζάκερμπεργκ εκτιμά ότι ακόμη και καθυστέρηση ενός μήνα μπορεί να αλλάξει τον ανταγωνισμό όταν το τεχνολογικό προβάδισμα μετριέται πλέον σε εβδομάδες.
Η Κίνα βρίσκεται πίσω από κάθε γραμμή
Η Κίνα δεν είναι απλώς ένας εμπορικός αντίπαλος στο κείμενο. Αποτελεί το βασικό γεωπολιτικό μέτρο σύγκρισης. Ο Ζάκερμπεργκ επισημαίνει την ταχύτητα με την οποία το Πεκίνο προσθέτει ενεργειακή ισχύ και προειδοποιεί ότι η αμερικανική γραφειοκρατία μπορεί να μετατραπεί σε στρατηγικό μειονέκτημα.
Υπερασπίζεται επίσης τη «distillation», δηλαδή την εκπαίδευση μικρότερων μοντέλων από τα αποτελέσματα ισχυρότερων, την ώρα που στις ΗΠΑ υπάρχουν πιέσεις για περιορισμό της πρακτικής λόγω κινεζικών εταιρειών. Η θέση του είναι ότι η απαγόρευση θα περιόριζε περισσότερο το αμερικανικό open-source οικοσύστημα παρά τους ανταγωνιστές του.
Η αντίφαση ανάμεσα στη διανομή και τον έλεγχο
Το βασικό στρατηγικό παράδοξο είναι εμφανές. Η Meta ζητά την ευρύτερη δυνατή διανομή προηγμένων δυνατοτήτων, αλλά αναγνωρίζει κινδύνους από κυβερνοεπιθέσεις, βιολογική κατάχρηση και αυτοβελτιούμενα συστήματα. Η απάντηση του Ζάκερμπεργκ δεν είναι η επιβράδυνση, αλλά η ενίσχυση των αμυνόμενων πλευρών και η διατήρηση πολλών ανταγωνιστικών κέντρων ισχύος.
Οι επικριτές του επισημαίνουν ότι η ευρεία διάδοση ισχυρών μοντέλων μπορεί να αυξήσει την επιφάνεια κινδύνου και ότι η Meta έχει άμεσο εμπορικό όφελος από ένα μέλλον στο οποίο τα δικά της συστήματα χρησιμοποιούνται παντού. Το μανιφέστο, επομένως, είναι ταυτόχρονα φιλοσοφική θέση και εταιρική στρατηγική νομιμοποίησης.
Η ουσία είναι ότι η επόμενη φάση της AI δεν θα κριθεί μόνο στα benchmarks. Θα κριθεί στο ποιος διαθέτει compute, ποιος θέτει τους κανόνες, ποιος ελέγχει τα προσωπικά δεδομένα και ποια πολιτική αντίληψη για την ισχύ θα ενσωματωθεί στα συστήματα που θα χρησιμοποιούν δισεκατομμύρια άνθρωποι.
