Ένα ισχυρό μήνυμα προς την αμερικανική κυβέρνηση στέλνουν περισσότεροι από 1.100 εργαζόμενοι, ερευνητές και ανώτερα στελέχη των μεγαλύτερων εταιρειών τεχνητής νοημοσύνης του κόσμου, μεταξύ των οποίων οι Google, OpenAI, Anthropic, Meta, Microsoft και Amazon. Με ανοικτή επιστολή τους ζητούν τη λήψη άμεσων μέτρων εποπτείας της ανάπτυξης των πλέον προηγμένων συστημάτων τεχνητής νοημοσύνης, προειδοποιώντας ότι ο κίνδυνος έχει πάψει να είναι θεωρητικός και ενδέχεται να εξελιχθεί ταχύτερα από την ικανότητα των ανθρώπων να τον ελέγξουν.
Η παρέμβασή τους αποκτά ιδιαίτερη σημασία, καθώς προέρχεται από ανθρώπους που βρίσκονται στην «καρδιά» της ανάπτυξης των συστημάτων AI και γνωρίζουν από πρώτο χέρι τις πραγματικές δυνατότητες αλλά και τους περιορισμούς τους. Αντί να ζητούν χαλάρωση των κανονισμών, καλούν την Ουάσιγκτον να θεσπίσει ένα σαφές πλαίσιο ελέγχου, πριν η τεχνολογία ξεπεράσει τις δυνατότητες ανθρώπινης εποπτείας.
Ο μεγαλύτερος φόβος: Η τεχνητή νοημοσύνη να αρχίσει να βελτιώνει μόνη της τον εαυτό της
Η βασικότερη ανησυχία των υπογραφόντων αφορά την ταχεία πρόοδο της λεγόμενης «αυτοματοποιημένης έρευνας τεχνητής νοημοσύνης» (Automated AI Research).
Πρόκειται για την προοπτική τα προηγμένα μοντέλα να αποκτήσουν τη δυνατότητα να σχεδιάζουν, να δοκιμάζουν και να αναπτύσσουν νέες, ακόμη ισχυρότερες εκδόσεις του εαυτού τους, με ελάχιστη ανθρώπινη παρέμβαση.
Εάν αυτό συμβεί, οι επιστήμονες προειδοποιούν ότι η εξέλιξη των συστημάτων θα μπορούσε να επιταχυνθεί τόσο πολύ ώστε να καθίσταται αδύνατος ο ουσιαστικός ανθρώπινος έλεγχος. Με άλλα λόγια, η AI θα μπορούσε να εξελίσσεται γρηγορότερα απ’ ό,τι μπορούν να την αξιολογούν οι άνθρωποι.
Γιατί θεωρούν ότι ο κίνδυνος είναι πραγματικός
Στην επιστολή τους επισημαίνεται ότι μέχρι πρόσφατα κάθε σημαντική αναβάθμιση ενός μοντέλου απαιτούσε μήνες εργασίας από εκατοντάδες ερευνητές.
Σήμερα όμως, τα ίδια τα μοντέλα χρησιμοποιούνται ήδη για:
- παραγωγή προγραμματιστικού κώδικα,
- επιστημονική έρευνα,
- ανάλυση τεράστιων βάσεων δεδομένων,
- βελτιστοποίηση αλγορίθμων,
- αυτοματοποίηση της ανάπτυξης νέων εφαρμογών.
Αυτό σημαίνει ότι η τεχνητή νοημοσύνη συμμετέχει πλέον ενεργά στη δημιουργία της επόμενης γενιάς τεχνητής νοημοσύνης, γεγονός που, σύμφωνα με τους ειδικούς, μπορεί να οδηγήσει σε έναν εκθετικό κύκλο ανάπτυξης χωρίς επαρκείς δικλίδες ασφαλείας.
Ο φόβος της απώλειας ελέγχου
Οι συντάκτες της επιστολής ξεκαθαρίζουν ότι δεν θεωρούν αναπόφευκτη μια καταστροφική εξέλιξη.
Ωστόσο υποστηρίζουν ότι, όσο τα μοντέλα γίνονται πιο αυτόνομα, αυξάνεται και ο κίνδυνος να λαμβάνουν αποφάσεις ή να εκτελούν ενέργειες που οι δημιουργοί τους δεν είχαν προβλέψει.
Ένα τέτοιο ενδεχόμενο θα μπορούσε να προκαλέσει προβλήματα στην κυβερνοασφάλεια, στις κρίσιμες υποδομές, στις χρηματοπιστωτικές αγορές ή ακόμη και στην εθνική ασφάλεια, εφόσον ιδιαίτερα ισχυρά συστήματα χρησιμοποιηθούν χωρίς επαρκείς μηχανισμούς ελέγχου.
Δεν ζητούν φρένο στην καινοτομία
Οι εργαζόμενοι τονίζουν ότι η τεχνητή νοημοσύνη έχει τη δυνατότητα να μεταμορφώσει θετικά την ιατρική, την εκπαίδευση, την επιστήμη και την οικονομία.
Ακριβώς όμως επειδή οι δυνατότητές της είναι τόσο μεγάλες, θεωρούν ότι η ανάπτυξή της δεν μπορεί να βασίζεται αποκλειστικά στις αποφάσεις των ίδιων των εταιρειών.
Υποστηρίζουν ότι απαιτείται ανεξάρτητη κρατική εποπτεία, διαφανείς διαδικασίες αξιολόγησης και υποχρεωτικοί έλεγχοι ασφαλείας πριν από τη διάθεση ολοένα ισχυρότερων μοντέλων.
Η συζήτηση έχει ήδη ανοίξει
Η νέα αυτή πρωτοβουλία εντάσσεται σε μια ευρύτερη διεθνή συζήτηση γύρω από τη ρύθμιση της τεχνητής νοημοσύνης.
Τα τελευταία χρόνια έχουν διατυπωθεί επανειλημμένα εκκλήσεις από επιστήμονες και προσωπικότητες της τεχνολογίας για αυστηρότερη εποπτεία των προηγμένων συστημάτων AI, ενώ το 2023 εκατοντάδες ειδικοί είχαν προειδοποιήσει ακόμη και για υπαρξιακούς κινδύνους από την ανεξέλεγκτη ανάπτυξη της τεχνητής νοημοσύνης.
Το παράδοξο
Ιδιαίτερο ενδιαφέρον παρουσιάζει το γεγονός ότι το αίτημα για αυστηρότερη κρατική παρέμβαση δεν προέρχεται από κυβερνήσεις ή οργανώσεις της κοινωνίας των πολιτών, αλλά από ανθρώπους που εργάζονται στις ίδιες τις εταιρείες οι οποίες ηγούνται της παγκόσμιας κούρσας της τεχνητής νοημοσύνης.
Η εξέλιξη αυτή αποτυπώνει ότι ακόμη και μέσα στον κλάδο αυξάνεται η ανησυχία πως η τεχνολογική πρόοδος ενδέχεται να τρέχει ταχύτερα από την ανάπτυξη των απαραίτητων μηχανισμών ασφάλειας και λογοδοσίας
The post Καμπανάκι από τους ίδιους τους δημιουργούς της AI: Ζητούν κρατικό έλεγχο πριν να είναι αργά appeared first on SciNews.eu.
