Strategist Ai · AI Takeaways
- Έξι κορυφαίοι όμιλοι τεχνητής νοημοσύνης υπέγραψαν στις ΗΠΑ εθελοντικό σύμφωνο για εσωτερικούς ελέγχους, εξωτερικές αξιολογήσεις και εποπτεία κινδύνων.
- Το σύμφωνο δεν είναι νόμος με ανεξάρτητο μηχανισμό επιβολής· η πραγματική του αξία θα κριθεί από την εφαρμογή και τη δημοσιοποίηση ελέγχων.
- Ξεχωριστό προεδρικό διάταγμα αλλάζει την ορολογία της ομοσπονδιακής διοίκησης από AI σε «Super Intelligence» και ζητεί πρόταση ορισμού εντός 60 ημερών.
Ο Λευκός Οίκος έφερε στο ίδιο τραπέζι εταιρείες που ανταγωνίζονται σκληρά στην τεχνητή νοημοσύνη και τους ζήτησε να υπογράψουν κοινές αρχές ασφάλειας. Οι επικεφαλής ή εκπρόσωποι των Google, Meta, OpenAI, Anthropic, Nvidia και xAI/SpaceX συνυπέγραψαν στις 29 Σεπτεμβρίου το White House Accord on Super Intelligence. Η είδηση δεν είναι ότι θεσπίστηκε νέος υποχρεωτικός νόμος: είναι ότι η Ουάσιγκτον επέλεξε, για το συγκεκριμένο βήμα, την αυτοδέσμευση της βιομηχανίας.
Σύμφωνα με την καταγραφή του Associated Press από τη συνάντηση, οι υπογράφοντες περιλαμβάνουν τον Σούνταρ Πιτσάι της Google, τον Μαρκ Ζούκερμπεργκ της Meta, τον Ντάριο Αμοντέι της Anthropic, τον Γκρεγκ Μπρόκμαν της OpenAI, τον Τζένσεν Χουάνγκ της Nvidia και τον Ίλον Μασκ της xAI, που συνδέεται πλέον με τη SpaceX. Η παρουσία στελεχών στη συνάντηση δεν σημαίνει ότι υπέγραψε κάθε εταιρεία που εκπροσωπήθηκε στο δωμάτιο.
Τι περιλαμβάνει το σύμφωνο
Το δημοσιοποιημένο κείμενο του συμφώνου περιγράφει αξιολόγηση ισχυρών συστημάτων πριν από την ευρεία χρήση, εσωτερικούς μηχανισμούς ελέγχου, επανεξέταση κινδύνων σε επίπεδο διοίκησης και συμμετοχή εξωτερικών αξιολογητών. Η στόχευση αφορά, μεταξύ άλλων, τη δυνατότητα των μοντέλων να δημιουργούν σοβαρούς κινδύνους ασφάλειας. Οι αρχές αυτές έχουν βαρύτητα επειδή δεσμεύουν δημόσια επιχειρήσεις που καθορίζουν την αγορά, αλλά δεν υποκαθιστούν τη νομοθεσία ή μια ανεξάρτητη εποπτική αρχή.
Ο ίδιος ο Ντόναλντ Τραμπ περιέγραψε την υπογραφή ως ηθική δέσμευση. Αυτό σημαίνει ότι ο αναγνώστης πρέπει να ξεχωρίζει τρία επίπεδα: την πολιτική εξαγγελία, τις εταιρικές διαδικασίες που υπόσχονται οι υπογράφοντες και την τυχόν μελλοντική εκτελεστή υποχρέωση. Χωρίς δημοσιευμένα αποτελέσματα ελέγχων, κοινή μεθοδολογία και συνέπειες σε περίπτωση παράβασης, η ποιότητα της αυτορρύθμισης θα εξαρτάται κυρίως από την ίδια τη διαφάνεια των εταιρειών.
Το διάταγμα είναι άλλο έγγραφο
Την ίδια ημέρα, ο Αμερικανός πρόεδρος υπέγραψε ξεχωριστό εκτελεστικό διάταγμα που καθοδηγεί τις ομοσπονδιακές υπηρεσίες να χρησιμοποιούν τους όρους «Super Intelligence» και «SI» αντί «Artificial Intelligence» και «AI» σε μη νομοθετικά έγγραφα και επικοινωνίες. Ζητεί επίσης να υποβληθεί εντός 60 ημερών πρόταση για ομοσπονδιακό ορισμό. Η αλλαγή ορολογίας δεν μετατρέπει αυτομάτως το εθελοντικό σύμφωνο σε υποχρεωτικό κανονισμό ούτε αλλάζει από μόνη της τις τεχνικές δυνατότητες των μοντέλων.
Για την Ευρώπη και την Κύπρο το πρακτικό ζήτημα είναι η απόσταση ανάμεσα στα δύο ρυθμιστικά μοντέλα: εθελοντικές δεσμεύσεις των αμερικανικών εταιρειών από τη μία, υποχρεώσεις που απορρέουν από το ευρωπαϊκό κανονιστικό πλαίσιο από την άλλη. Μια κυπριακή επιχείρηση που χρησιμοποιεί αυτά τα εργαλεία εξακολουθεί να χρειάζεται δικό της έλεγχο για δεδομένα, ασφάλεια και ανθρώπινη εποπτεία· η υπογραφή του προμηθευτή δεν αποτελεί πιστοποιητικό μηδενικού κινδύνου.
Το κριτήριο των επόμενων μηνών θα είναι συγκεκριμένο: ποιες αξιολογήσεις θα δημοσιευθούν, ποιοι θα έχουν πρόσβαση στα ευρήματα και τι θα συμβεί όταν ένας έλεγχος αναδείξει σοβαρή αδυναμία. Εκεί θα φανεί αν το σύμφωνο είναι ουσιαστικός μηχανισμός ασφάλειας ή κυρίως πολιτική δήλωση.
