Μια ανησυχητική έρευνα φέρνει στο φως ότι τα chatbots της Google και της OpenAI μπορούν να χειραγωγηθούν ώστε να δημιουργούν deepfake εικόνες, στις οποίες γυναίκες που είναι πλήρως ντυμένες εμφανίζονται με μαγιό ή μπικίνι. Το εύρημα έρχεται σε ευθεία αντίθεση με τις επίσημες πολιτικές και των δύο εταιρειών, οι οποίες απαγορεύουν ρητά τη δημιουργία μη συναινετικού ερωτικού περιεχομένου.
Σύμφωνα με το WIRED, δημοσιογράφοι κατάφεραν να παρακάμψουν τα φίλτρα τόσο του Gemini όσο και του ChatGPT, χρησιμοποιώντας απλές, καθημερινές εντολές στα αγγλικά. Οι δοκιμές έδειξαν ότι δεν απαιτούνται εξειδικευμένες γνώσεις ή περίπλοκες τεχνικές για την παραγωγή τέτοιων εικόνων.
Ακόμη πιο ανησυχητικό είναι ότι παρόμοιες «οδηγίες» κυκλοφορούσαν για καιρό στο Reddit, σε κοινότητα με περισσότερα από 200.000 μέλη, προτού τελικά αποκλειστεί. Αυτό υποδηλώνει ότι οι πρακτικές αυτές δεν αποτελούν μεμονωμένα περιστατικά, αλλά μέρος μιας ευρύτερης διαδικτυακής κουλτούρας κατάχρησης της τεχνητής νοημοσύνης.
Τα ευρήματα εντάσσονται σε ένα μεγαλύτερο και διαρκώς διογκούμενο πρόβλημα: πλατφόρμες «nudify» προσελκύουν κατά μέσο όρο 18,5 εκατομμύρια επισκέπτες τον μήνα, ενώ το 96% των deepfake βίντεο που κυκλοφορούν στο διαδίκτυο αφορούν μη συναινετική πορνογραφία. Από αυτά, το 99% έχει ως στόχο γυναίκες, αναδεικνύοντας μια έντονα έμφυλη διάσταση της ψηφιακής κακοποίησης.
Η υπόθεση εγείρει κρίσιμα ερωτήματα για την ευθύνη των εταιρειών τεχνητής νοημοσύνης, την επάρκεια των μηχανισμών ασφαλείας και την ανάγκη για αυστηρότερο ρυθμιστικό πλαίσιο. Καθώς τα generative AI εργαλεία γίνονται ολοένα και πιο ισχυρά και προσβάσιμα, η γραμμή μεταξύ καινοτομίας και κατάχρησης φαίνεται να γίνεται όλο και πιο λεπτή.
