Συντονισμένα σμήνη από συστήματα τεχνητής νοημοσύνης που αναλυτές ονομάζουν «AI personas» μπορούν πλέον να μιμούνται την ανθρώπινη συμπεριφορά τόσο πειστικά ώστε να χειραγωγούν διαδικτυακές πολιτικές συζητήσεις και ενδεχομένως να επηρεάζουν εκλογές.
Δεν θα εμφανιστούν σε προεκλογικές συγκεντρώσεις ούτε θα ψηφίσουν αλλά μπορούν παρ’ όλα αυτά να επηρεάσουν μια δημοκρατία. Ειδικοί ανησυχούν ολοένα και περισσότερο για αυτές τις περσόνες που ελέγχονται από τεχνητή νοημοσύνη και μοιάζουν με συνηθισμένους χρήστες κατευθύνοντας διακριτικά το τι βλέπουν, μοιράζονται και πιστεύουν οι άνθρωποι στο Διαδίκτυο.
Μια μελέτη στην επιθεώρηση «Science» περιγράφει πώς σμήνη τέτοιων περσονών μπορούν να διεισδύσουν σε πραγματικές κοινότητες, να χτίσουν αξιοπιστία με την πάροδο του χρόνου και να κατευθύνουν πολιτικές συζητήσεις προς στοχευμένες κατευθύνσεις με ταχύτητα μηχανής. Η βασική διαφορά σε σχέση με τα παλαιότερα botnets είναι η ομαδική συνεργασία. Αντί να δημοσιεύουν το ίδιο spam μαζικά οι λογαριασμοί μπορούν να συντονίζονται διαρκώς, να μαθαίνουν από ό,τι κερδίζει απήχηση και να διατηρούν το ίδιο αφήγημα συνεκτικό σε χιλιάδες προφίλ ακόμη κι αν μεμονωμένοι λογαριασμοί εμφανίζονται και εξαφανίζονται.
Στο εσωτερικό των δικτύων AI personas
Τα νεότερα μεγάλα γλωσσικά μοντέλα σε συνδυασμό με multi-agents συστήματα επιτρέπουν σε έναν μόνο χειριστή να ελέγχει ένα ολόκληρο σύνολο από «φωνές» τεχνητής νοημοσύνης που φαίνονται τοπικές και αυθεντικές. Κάθε περσόνα μπορεί να μιλά με ελαφρώς διαφορετικό ύφος, να αναφέρεται στους κανόνες της κοινότητας και να απαντά γρήγορα σε αντιδράσεις γεγονός που καθιστά δυσκολότερο τον εντοπισμό της χειραγώγησης.
Το σμήνος μπορεί επίσης να πραγματοποιεί μαζικές και γρήγορες δοκιμές μηνυμάτων και στη συνέχεια να ενισχύει τις εκδοχές που επηρεάζουν αποτελεσματικότερα τις απόψεις. Αν γίνει σωστά, μπορεί να δημιουργήσει την αίσθηση ότι «όλοι αυτό λένε» ακόμη κι αν αυτή η συναίνεση έχει κατασκευαστεί προσεκτικά.
Πρώιμα προειδοποιητικά σημάδια: Deepfakes και συνθετικές ειδήσεις
Παρότι σμήνη AI περσονών μεγάλης κλίμακας δεν έχουν ακόμη υλοποιηθεί πλήρως οι ειδικοί λένε ότι ήδη διακρίνονται ενδείξεις για το τι ενδέχεται να ακολουθήσει. Ο επιστήμονας υπολογιστών του UBC Δρ. Κέβιν Λέιτον Μπράουν επισημαίνει βίντεο deepfake που δημιουργούνται με τεχνητή νοημοσύνη και κατασκευασμένα ειδησεογραφικά μέσα τα οποία έχουν επηρεάσει πρόσφατες εκλογικές συζητήσεις στις ΗΠΑ, την Ταϊβάν, την Ινδονησία και την Ινδία.
Επιπλέον, οργανισμοί παρακολούθησης αναφέρουν ότι φιλορωσικά δίκτυα πλημμυρίζουν ενεργά το Διαδίκτυο με περιεχόμενο σχεδιασμένο να «μολύνει» τα μελλοντικά δεδομένα εκπαίδευσης συστημάτων τεχνητής νοημοσύνης, εγείροντας ανησυχίες για το πώς αυτά τα συστήματα μπορεί να διαμορφωθούν με την πάροδο του χρόνου.
Τι σημαίνει αυτό για τις εκλογές και την εμπιστοσύνη
Τα AI σμήνη θα μπορούσαν να μεταβάλουν την ισορροπία ισχύος στις δημοκρατίες. Δεν πρέπει να φανταζόμαστε ότι η κοινωνία θα παραμείνει αμετάβλητη καθώς αναδύονται αυτά τα συστήματα. Ένα πιθανό αποτέλεσμα είναι η μείωση της εμπιστοσύνης προς άγνωστες φωνές στα μέσα κοινωνικής δικτύωσης, κάτι που θα μπορούσε να ενισχύσει τις διασημότητες και να δυσκολέψει τα μηνύματα βάσης να ακουστούν» λέει ο Δρ. Μπράουν.
Οι ερευνητές προσθέτουν ότι οι επερχόμενες εκλογές ενδέχεται να αποτελέσουν την πρώτη πραγματική δοκιμασία αυτής της τεχνολογίας θέτοντας το επείγον ερώτημα αν τέτοιες συντονισμένες εκστρατείες επιρροής θα εντοπιστούν έγκαιρα.
Naftemporiki.gr
The post Σμήνη από «περσόνες ΑΙ» απειλούν τη δημοκρατία appeared first on SciNews.eu.
