Τα deepfakes αποτελούν μία από τις πιο χαρακτηριστικές εφαρμογές της τεχνητής νοημοσύνης, αλλά και μία από τις μεγαλύτερες προκλήσεις για την αξιοπιστία του περιεχομένου που βλέπουμε καθημερινά στο διαδίκτυο.
Καθώς τα εργαλεία δημιουργίας εικόνας, ήχου και βίντεο εξελίσσονται, γίνεται όλο και δυσκολότερο να ξεχωρίσει κανείς ένα πραγματικό οπτικοακουστικό ντοκουμέντο από ένα κατασκευασμένο.
Υπάρχουν, όμως, ενδείξεις που μπορούν να μας βοηθήσουν να εντοπίσουμε ένα ύποπτο βίντεο. Το σημαντικότερο είναι να γνωρίζουμε ότι κανένα οπτικό σημάδι δεν αποτελεί από μόνο του ασφαλή απόδειξη, ενώ ένα ιδιαίτερα πειστικό deepfake μπορεί να μην εμφανίζει κανένα εμφανές λάθος.
Τι είναι τα deepfakes;
Ο όρος deepfake χρησιμοποιείται για περιεχόμενο που έχει δημιουργηθεί ή αλλοιωθεί με τεχνικές τεχνητής νοημοσύνης, ώστε να παρουσιάζει πρόσωπα, φωνές ή γεγονότα με τρόπο που μπορεί να δημιουργεί ψευδή εντύπωση αυθεντικότητας.
Για παράδειγμα, ένα deepfake μπορεί να εμφανίζει έναν πολιτικό να κάνει μια δήλωση που δεν πραγματοποίησε, έναν επιχειρηματία να προωθεί ένα προϊόν χωρίς τη συγκατάθεσή του ή έναν γνωστό μας να ζητά χρήματα χρησιμοποιώντας μια συνθετική φωνή.
Η τεχνολογία δεν χρησιμοποιείται αποκλειστικά για εξαπάτηση. Έχει εφαρμογές στον κινηματογράφο, στη δημιουργική παραγωγή και στην εκπαίδευση. Το πρόβλημα προκύπτει όταν το κατασκευασμένο περιεχόμενο παρουσιάζεται ως πραγματικό, χωρίς την κατάλληλη ενημέρωση του κοινού.
Τα σημάδια που πρέπει να προσέχουμε
1. Χείλη και φωνή που δεν συγχρονίζονται
Ένα από τα πρώτα στοιχεία που αξίζει να εξετάσουμε είναι η σχέση ανάμεσα στην κίνηση των χειλιών και στις λέξεις που ακούμε.
Σε ορισμένα αλλοιωμένα βίντεο, το στόμα μπορεί να κινείται ελάχιστα νωρίτερα ή αργότερα από τον ήχο. Μπορεί επίσης οι κινήσεις να μην αντιστοιχούν φυσικά στην προφορά συγκεκριμένων λέξεων.
Ωστόσο, ο κακός συγχρονισμός μπορεί να οφείλεται και σε τεχνικό πρόβλημα ενός αυθεντικού βίντεο. Αντίστοιχα, τα σύγχρονα deepfakes μπορούν να πετυχαίνουν πολύ πειστικό συγχρονισμό.
2. Ασυνήθιστες εκφράσεις και κινήσεις του προσώπου
Η τεχνητή νοημοσύνη μπορεί να δυσκολεύεται να αναπαραγάγει με συνέπεια ορισμένες λεπτομέρειες, ιδιαίτερα όταν ένα πρόσωπο στρέφεται, χαμογελά ή καλύπτεται μερικώς από κάποιο αντικείμενο.
Αξίζει να παρατηρούμε εάν οι εκφράσεις μεταβάλλονται αφύσικα, εάν το περίγραμμα του προσώπου παρουσιάζει στιγμιαίες αλλοιώσεις ή εάν κάποια χαρακτηριστικά φαίνεται να αλλάζουν από καρέ σε καρέ.
Αυτές οι ατέλειες εμφανίζονταν συχνότερα σε παλαιότερες τεχνικές δημιουργίας deepfakes. Σήμερα, η απουσία τους δεν αποτελεί εγγύηση γνησιότητας.
3. Φωτισμός, σκιές και λεπτομέρειες που δεν ταιριάζουν
Ένα ακόμη πιθανό στοιχείο είναι η ασυνέπεια στον φωτισμό.
Για παράδειγμα, το πρόσωπο μπορεί να φαίνεται φωτισμένο από διαφορετική κατεύθυνση σε σχέση με το υπόλοιπο σώμα ή το περιβάλλον. Σε ορισμένες περιπτώσεις, οι σκιές και οι αντανακλάσεις δεν συμπεριφέρονται όπως θα αναμέναμε σε μια πραγματική σκηνή.
Ιδιαίτερη προσοχή χρειάζεται και σε σημεία όπως τα μαλλιά, τα γυαλιά, τα σκουλαρίκια και το περίγραμμα του προσώπου, όπου ενδέχεται να εμφανίζονται οπτικές ασυνέπειες.
4. Φωνή που ακούγεται γνώριμη, αλλά κάτι δεν ταιριάζει
Τα deepfakes δεν περιορίζονται στην εικόνα. Η τεχνητή νοημοσύνη μπορεί να παράγει συνθετική ομιλία που μιμείται τη φωνή ενός πραγματικού ανθρώπου.
Σε ορισμένα ηχητικά παραδείγματα μπορεί να παρατηρηθούν ασυνήθιστες παύσεις, αφύσικος τονισμός ή συναισθηματική έκφραση που δεν ταιριάζει με τα λόγια.
Παρόλα αυτά, η ποιότητα της συνθετικής ομιλίας έχει βελτιωθεί σημαντικά. Επομένως, το ότι αναγνωρίζουμε μια φωνή δεν αρκεί για να επιβεβαιώσουμε ποιος πραγματικά μιλά.
Το πιο σημαντικό στοιχείο: Από πού προέρχεται το βίντεο;
Πέρα από τις οπτικές ατέλειες, υπάρχει ένας πολύ πιο ουσιαστικός τρόπος αξιολόγησης: να αναζητήσουμε την αρχική πηγή του βίντεο και να επιβεβαιώσουμε το γεγονός που υποτίθεται ότι παρουσιάζει.
Το αμερικανικό Εθνικό Ινστιτούτο Προτύπων και Τεχνολογίας (NIST) τονίζει ότι η προέλευση και το ιστορικό ενός ψηφιακού αρχείου αποτελούν βασικά στοιχεία για την αξιολόγηση της αυθεντικότητάς του.
Αν, για παράδειγμα, κυκλοφορεί ένα βίντεο με έναν γνωστό επιχειρηματία να ανακοινώνει μια επένδυση ή να προτείνει μια οικονομική συναλλαγή, αξίζει να εξετάσουμε εάν η δήλωση υπάρχει στον επίσημο ιστότοπο της εταιρείας ή σε αξιόπιστα ειδησεογραφικά μέσα.
Αντίστοιχα, όταν ένα βίντεο παρουσιάζει ένα εντυπωσιακό περιστατικό, μπορούμε να αναζητήσουμε άλλες λήψεις, ανεξάρτητες μαρτυρίες και δημοσιεύματα που επιβεβαιώνουν τι πραγματικά συνέβη.
Ιδιαίτερη προσοχή χρειάζεται και στα παλαιότερα βίντεο που παρουσιάζονται ως πρόσφατα. Ένα αυθεντικό βίντεο μπορεί να χρησιμοποιηθεί παραπλανητικά εάν συνοδεύεται από ψευδή ημερομηνία ή περιγραφή.
Πέντε κινήσεις πριν πιστέψουμε ή κοινοποιήσουμε ένα ύποπτο βίντεο
- Ελέγχουμε ποιος το δημοσίευσε. Ένας άγνωστος λογαριασμός δεν αποτελεί αξιόπιστη επιβεβαίωση, ακόμη κι αν έχει πολλές προβολές.
- Αναζητούμε την αρχική δημοσίευση. Εξετάζουμε εάν υπάρχει ολόκληρο το βίντεο και όχι μόνο ένα απομονωμένο απόσπασμα
- Κάνουμε αντίστροφη αναζήτηση εικόνας. Μπορούμε να αποθηκεύσουμε ένα χαρακτηριστικό καρέ και να το αναζητήσουμε μέσω εργαλείων όπως το Google Lens, ώστε να εντοπίσουμε παλαιότερες εμφανίσεις του.
- Συγκρίνουμε τις πληροφορίες. Ελέγχουμε εάν το γεγονός επιβεβαιώνεται από ανεξάρτητες, αξιόπιστες πηγές.
- Δεν ενεργούμε βιαστικά. Αν το βίντεο μας ζητά να στείλουμε χρήματα, να αποκαλύψουμε προσωπικά στοιχεία ή να ακολουθήσουμε έναν ύποπτο σύνδεσμο, επιβεβαιώνουμε πρώτα το αίτημα από άλλο, γνωστό κανάλι επικοινωνίας.
Η αμερικανική Υπηρεσία Κυβερνοασφάλειας CISA συνιστά, μεταξύ άλλων, τη χρήση αντίστροφης αναζήτησης εικόνας για τον έλεγχο της προέλευσης ύποπτου ψηφιακού περιεχομένου.
Μπορούν τα ειδικά εργαλεία να εντοπίσουν ένα deepfake;
Υπάρχουν προγράμματα που χρησιμοποιούν τεχνητή νοημοσύνη για να αναλύσουν εικόνες, βίντεο και ήχο, αναζητώντας χαρακτηριστικά που μπορεί να υποδηλώνουν ψηφιακή αλλοίωση.
Ωστόσο, ούτε αυτά είναι αλάνθαστα.
Το NIST επισημαίνει ότι τα συστήματα αυτόματης ανίχνευσης χρειάζονται αξιολόγηση τόσο ως προς τις λανθασμένες θετικές ενδείξεις όσο και ως προς τις περιπτώσεις όπου αποτυγχάνουν να εντοπίσουν παραποιημένο υλικό. Για τον λόγο αυτό, η αυτοματοποιημένη ανάλυση πρέπει να συμπληρώνεται από ανθρώπινο έλεγχο, ιδιαίτερα σε κρίσιμες εφαρμογές.
Αυτό σημαίνει ότι δεν πρέπει να θεωρούμε οριστική απόδειξη ούτε την ένδειξη ενός διαδικτυακού εργαλείου ότι ένα βίντεο δημιουργήθηκε από AI ούτε την αντίθετη ένδειξη ότι είναι αυθεντικό.
Ο κίνδυνος της εξαπάτησης με γνώριμα πρόσωπα
Μία από τις πιο ανησυχητικές χρήσεις της τεχνολογίας αφορά την πλαστοπροσωπία.
Η Ομοσπονδιακή Επιτροπή Εμπορίου των ΗΠΑ (FTC) έχει προειδοποιήσει ότι επιτήδειοι μπορούν να αξιοποιήσουν μικρά δείγματα φωνής, ακόμη και από δημόσια διαθέσιμα βίντεο, για να μιμηθούν ένα οικείο πρόσωπο και να ζητήσουν χρήματα επικαλούμενοι κάποια έκτακτη ανάγκη.
Η σύσταση της FTC είναι σαφής: όταν δεχόμαστε ένα τέτοιο αίτημα, δεν αρκεί να αναγνωρίζουμε τη φωνή. Πρέπει να επικοινωνούμε με το πρόσωπο μέσω αριθμού τηλεφώνου που γνωρίζουμε ήδη ή να αναζητούμε ανεξάρτητη επιβεβαίωση.
Η ίδια λογική ισχύει και για τις βιντεοκλήσεις. Το γεγονός ότι βλέπουμε ένα γνώριμο πρόσωπο στην οθόνη δεν αποτελεί από μόνο του εγγύηση ταυτότητας.
Το πραγματικό πρόβλημα δεν είναι μόνο τα ψεύτικα βίντεο
Η εξάπλωση των deepfakes δημιουργεί και ένα δεύτερο πρόβλημα: μπορεί να οδηγήσει τους ανθρώπους να αμφισβητούν ακόμη και πραγματικό οπτικοακουστικό υλικό.
Όσο πιο εύκολη γίνεται η δημιουργία πειστικών συνθετικών βίντεο, τόσο μεγαλύτερη σημασία αποκτά η τεκμηρίωση της προέλευσης του περιεχομένου.
Γι’ αυτό αναπτύσσονται τεχνολογίες που επιτρέπουν την καταγραφή πληροφοριών για τη δημιουργία και την επεξεργασία ψηφιακών αρχείων, καθώς και συστήματα ψηφιακής σήμανσης. Αυτές οι μέθοδοι μπορούν να ενισχύσουν τη διαφάνεια, χωρίς όμως να αποτελούν από μόνες τους καθολική λύση.
Συμπέρασμα: Μην εμπιστεύεσαι μόνο αυτό που βλέπεις
Πριν από λίγα χρόνια, ένα βίντεο θεωρούνταν συχνά ισχυρή απόδειξη ότι κάτι είχε πραγματικά συμβεί. Σήμερα, αυτή η βεβαιότητα δεν μπορεί να θεωρείται δεδομένη.
Η τεχνητή νοημοσύνη μπορεί να δημιουργήσει ιδιαίτερα πειστικές εικόνες, πρόσωπα και φωνές. Παράλληλα, ακόμη και πραγματικά βίντεο μπορούν να παρουσιαστούν εκτός πλαισίου, οδηγώντας σε λανθασμένα συμπεράσματα.
Ο πιο αποτελεσματικός τρόπος προστασίας δεν είναι να προσπαθούμε να εντοπίσουμε κάθε μικρή ατέλεια στην εικόνα, αλλά να ελέγχουμε την πηγή, το περιεχόμενο και την ανεξάρτητη επιβεβαίωση των γεγονότων.
Γιατί στην εποχή των deepfakes, το ερώτημα δεν είναι μόνο «φαίνεται αληθινό;», αλλά κυρίως «πώς γνωρίζουμε ότι είναι αληθινό;»
Κείμενο από πηγές: NIST, FTC, CISA
*** Η φωτογραφία είναι προϊόν Τεχνητής Νοημοσύνης
The post Deepfakes: Πώς καταλαβαίνεις ότι ένα βίντεο δεν είναι πραγματικό appeared first on SciNews.eu.
