Η Τεχνητή Νοημοσύνη αποτελεί ένα πανίσχυρο, δωρεάν εργαλείο που προσφέρει άμεση πρόσβαση στην παγκόσμια γνώση. Ο πειρασμός για γρήγορες λύσεις στις επιχειρήσεις και την καθημερινότητα είναι μεγάλος, όμως οι λανθασμένες απαντήσεις σε θέματα υψηλής σημασίας επιφέρουν σοβαρότατες συνέπειες. Μια πρόσφατη έρευνα αποκαλύπτει ότι σχεδόν οι μισές απαντήσεις των δημοφιλών μοντέλων περιέχουν σημαντικά σφάλματα ή κατασκευασμένες πηγές, παραπλανώντας ακόμη και κορυφαίες εταιρείες.
Εκ πρώτης όψεως, η Τεχνητή Νοημοσύνη μοιάζει με μια πανίσχυρη μηχανή αναζήτησης, καθώς εντοπίζει και συνοψίζει γρήγορα πληροφορίες για κάθε θέμα. Διαφέρει όμως ριζικά από τα παραδοσιακά συστήματα αναζήτησης. Η Πραγκάτι Αβάστι, επίκουρη καθηγήτρια στο Πανεπιστήμιο Ντρέξελ, εξηγεί ότι τα μοντέλα Τεχνητής Νοημοσύνης δημιουργούν κείμενο προβλέποντας στατιστικά τις πιθανές λέξεις, με βάση μοτίβα από την εκπαίδευσή τους.
«Η Τεχνητή Νοημοσύνη μπορεί να παράγει μια απάντηση που ακούγεται έγκυρη, έχει άψογη ροή, αλλά να είναι εντελώς λανθασμένη», επισημαίνει η Αβάστι.
Το ποσοστό ακρίβειας των απαντήσεων παραμένει ανοιχτό ζήτημα και εξαρτάται από πολλούς παράγοντες, σημειώνει το Forbes. Τουλάχιστον το 45% των απαντήσεων σε έρευνα του BBC και της Ευρωπαϊκής Ένωσης Ραδιοτηλεόρασης παρουσίασε ένα σημαντικό πρόβλημα. Η μελέτη βασίστηκε σε στοιχεία από 22 οργανισμούς μέσων ενημέρωσης. Διαπιστώθηκε ότι το 31% των περιπτώσεων εμφάνιζε ελλιπή, παραπλανητική ή λανθασμένη αναφορά στις πηγές.
Επιπλέον, το 20% των απαντήσεων περιείχε σοβαρά λάθη ακρίβειας, όπως ξεπερασμένες πληροφορίες ή φανταστικές λεπτομέρειες.
Τα συνηθισμένα σφάλματα
Τα τυπικά λάθη της Τεχνητής Νοημοσύνης περιλαμβάνουν παραπληροφόρηση, ξεπερασμένες ειδήσεις και ψευδαισθήσεις (hallucinations).
Επίσης, εμφανίζονται επικαλύψεις, παραλείψεις στοιχείων, κατασκευασμένες αναφορές ή ανάμειξη αληθινών και ψευδών γεγονότων. Τα λανθασμένα αυτά αποτελέσματα ξεγελούν ακόμη και τις πιο σχολαστικές επιχειρήσεις.
Για παράδειγμα, σύμφωνα με τους New York Times, η κορυφαία δικηγορική εταιρεία της Wall Street Sullivan & Cromwell υπέβαλε στο δικαστήριο έγγραφα με εντελώς φανταστικές νομικές υποθέσεις, τις οποίες είχε κατασκευάσει η AI.
Τα μοντέλα βασίζονται αποκλειστικά σε δεδομένα εκπαίδευσης, γεγονός που καθιστά τις απαντήσεις τους ευάλωτες. Αν τα δεδομένα δεν έχουν ανανεωθεί, οι πληροφορίες πέρα από ένα χρονικό σημείο απλώς δεν υπάρχουν. Επιπλέον, οι πληροφορίες ίσως να μην καλύπτουν την εξειδικευμένη γνώση που αναζητά ο χρήστης. Το σύστημα μπορεί να παραδεχτεί την έλλειψη στοιχείων, αλλά ο πραγματικός κίνδυνος υπάρχει όταν ο χρήστης δεν γνωρίζει αυτούς τους περιορισμούς.
Όταν η Τεχνητή Νοημοσύνη χρησιμοποιεί πηγές από έγκυρα επιστημονικά περιοδικά, η απάντηση αποκτά μια ψευδή αίσθηση αυθεντίας. Στην πραγματικότητα, το μοντέλο συνθέτει στατιστικά μοτίβα και δεν αξιολογεί το περιεχόμενο. Τέλος, ελλοχεύει ο κίνδυνος να μπερδευτούν τα συμφραζόμενα, δηλαδή να αναμειχθούν ακατάλληλα άσχετα μεταξύ τους ευρήματα.
Το θετικό είναι ότι ο εντοπισμός των λανθασμένων αποτελεσμάτων παραμένει εφικτός, αν και απαιτείται ιδιαίτερη προσοχή και χρόνος για τον έλεγχο των απαντήσεων.
Ποια είναι τα 6 βήματα ελέγχου για την εγκυρότητα των απαντήσεων;
1. Πλάγια Ανάγνωση: Διασταύρωση Πηγών
Οι χρήστες δεν πρέπει ποτέ να δέχονται τις απαντήσεις της Τεχνητής Νοημοσύνης ως μοναδική πηγή. Σύμφωνα με οδηγίες του Πανεπιστημίου Texas A&M Corpus Christi, η τεχνική της πλάγιας ανάγνωσης επιβάλλει αυτόνομη έρευνα για την επαλήθευση των στοιχείων. Για παράδειγμα, το άνοιγμα μιας νέας καρτέλας για αναζήτηση στο Google ή στο Google Scholar βοηθά να εντοπιστεί ποιος πραγματικά επιβεβαιώνει τις πληροφορίες.
2. Αμφισβήτηση Απαντήσεων
Η κριτική στάση απέναντι στις απαντήσεις ενός μοντέλου είναι απαραίτητη. Η διαδικασία μοιάζει με τη συζήτηση με έναν συνάδελφο, καθώς η επεξεργασία φυσικής γλώσσας επιτρέπει διευκρινιστικές ερωτήσεις για τις πηγές των πληροφοριών. Η Λόρι Κιν Κότσερ, διευθύνουσα σύμβουλος της Different Day, συμβουλεύει την αντίστροφη προσέγγιση: να ζητάτε από την Τεχνητή Νοημοσύνη να υποστηρίξει την αντίθετη θέση ή να εντοπίσει αδυναμίες στα επιχειρήματά της.
3. Επανάληψη και Σύγκριση
Η εξέταση μιας μόνο απάντησης δεν αρκεί. Η υποβολή του ίδιου ερωτήματος σε διαφορετικά συστήματα βοηθά στον έλεγχο των δεδομένων. Ο Σρούτι Τιουάρι, επικεφαλής προϊόντων τεχνητής νοημοσύνης στην Dell Technologies, εξηγεί ότι τα ChatGPT, Claude και Gemini έχουν εκπαιδευτεί σε διαφορετικές βάσεις δεδομένων. Η συμφωνία των μοντέλων προσφέρει μεγαλύτερη σιγουριά, ενώ οι αποκλίσεις δείχνουν πού χρειάζεται έρευνα. Παράλληλα, η υποβολή της ερώτησης με διαφορετικούς τρόπους στο ίδιο μοντέλο ελέγχει τη συνέπειά του. Αν οι λεπτομέρειες αλλάζουν, το σύστημα απλώς μαντεύει.
4. Έλεγχος Επικαιρότητας
Τα μοντέλα Τεχνητής Νοημοσύνης σταματούν να ενημερώνονται μετά την ολοκλήρωση της εκπαίδευσής τους. Η διακοπή αυτή μπορεί να μετρά μήνες ή έτη, εμποδίζοντας την παροχή πρόσφατων δεδομένων. Η ερώτηση προς το ίδιο το σύστημα για αλλαγές μετά τον τελευταίο γύρο εκπαίδευσης κρίνεται απαραίτητη, ειδικά για στατιστικά στοιχεία ή ειδήσεις. Η δοκιμή της ερώτησης σε διαφορετικά μοντέλα βοηθά στον εντοπισμό νεότερων ενημερώσεων.
5. Έλεγχος Παραπομπών
Η αναζήτηση των πηγών και ο έλεγχος των παραπομπών είναι απαραίτητα βήματα. Ο Ντόιλ Άλμπι, διευθύνων σύμβουλος στην Prolexity, τονίζει ότι πρέπει να επιβεβαιώνεται αν το άρθρο αναφέρει όσα ισχυρίζεται η Τεχνητή Νοημοσύνη. Παράλληλα, ο Σαχίλ Ντάτα, μεταδιδακτορικός επιστήμονας στο Νοσοκομείο Παίδων Nationwide, προειδοποιεί ότι το σύστημα κατασκευάζει συχνά ψεύτικες αναφορές. Αυτές δανείζονται ονόματα γνωστών συγγραφέων ή περιοδικών, αλλά δεν υπάρχουν σε βάσεις δεδομένων όπως το PubMed.
6. Εμπιστευτείτε το ένστικτό σας
Η ανθρώπινη διαίσθηση χρησιμεύει ως κίνητρο για περαιτέρω έρευνα, ειδικά όταν βασίζεται σε προϋπάρχουσα γνώση. Ακόμη όμως και σε άγνωστα θέματα, υπάρχουν ενδείξεις σφαλμάτων. Για παράδειγμα, μια λανθασμένη απάντηση παρουσιάζει συχνά υπερβολική βεβαιότητα, χωρίς καμία επιφύλαξη. Παράλληλα, τα εσφαλμένα κείμενα τείνουν να επαναλαμβάνουν κουραστικά τα ίδια σημεία. Όταν μια απάντηση ξενίζει τον χρήστη, η επιστροφή στα προηγούμενα βήματα ελέγχου κρίνεται απαραίτητη.
naftemporiki.gr
The post Τεχνητή Νοημοσύνη: 6 τρόποι για να επαληθεύετε τις απαντήσεις που σας δίνει appeared first on SciNews.eu.
