Strategist Ai · AI Takeaways
- Επινοημένες καταθέσεις και μάρτυρες από το ChatGPT περιλήφθηκαν σε έφεση για φόνο στο Νέο Μεξικό.
- Ο δικηγόρος τιμωρήθηκε, ενώ η έφεση του πελάτη του παραμένει εκκρεμής.
- Η υπόθεση αναδεικνύει την ανάγκη ελέγχου κάθε κρίσιμου ισχυρισμού με βάση την πραγματική δικογραφία.
Η είσοδος ανύπαρκτων μαρτύρων σε μια έφεση για φόνο θέτει ένα θεμελιώδες ερώτημα για τη χρήση τεχνητής νοημοσύνης στη Δικαιοσύνη: ποιος διασφαλίζει ότι το κείμενο που φτάνει στον δικαστή αντιστοιχεί στην πραγματική δικογραφία; Η υπόθεση στο Νέο Μεξικό δείχνει τι μπορεί να συμβεί όταν η παραγωγή μιας περίληψης αντιμετωπίζεται ως εγγύηση πιστής απόδοσης των γεγονότων.
Οι επινοημένες μαρτυρίες και η κύρωση
Όπως μεταδίδει ο Mike Scarcella του Reuters, ο δικηγόρος Stephen Aarons κατέθεσε στην έφεση του Oscar Renee Sandoval υλικό με επινοημένες καταθέσεις και μάρτυρες από το ChatGPT. Το Ανώτατο Δικαστήριο του Νέου Μεξικού επέβαλε πρόστιμο 5.000 δολαρίων και πειθαρχική παραπομπή. Ο Aarons δήλωσε μεταμέλεια και απέδωσε το συμβάν σε ειλικρινές λάθος. Η έφεση παραμένει εκκρεμής και έχει ανατεθεί σε άλλη συνήγορο.
Στην επίσημη ιστοσελίδα του δικαστηρίου είναι καταχωρισμένη η ακρόαση παροχής εξηγήσεων για την υπόθεση State v. Sandoval, S-1-SC-40845. Η διάκριση έχει σημασία: η διαδικασία ελέγχου του δικηγόρου δεν πρέπει να συγχέεται με την κρίση επί της ίδιας της έφεσης.
Όταν μια περίληψη αποκτά κύρος αποδεικτικού υλικού
Το επικίνδυνο πέρασμα γίνεται όταν το παραγόμενο κείμενο παύει να αντιμετωπίζεται ως προσχέδιο και αρχίζει να χρησιμοποιείται σαν να αποτυπώνει αυθεντικές καταθέσεις. Μια αναφορά σε πρόσωπο, μια περιγραφή συμπεριφοράς ή μια δήθεν δήλωση μπορεί να αλλάξει τον τρόπο με τον οποίο παρουσιάζεται η υπόθεση.
Ακόμη και αν το λάθος εντοπιστεί, η διαδικασία επιβαρύνεται. Πρέπει να διαχωριστούν τα πραγματικά στοιχεία από τις προσθήκες και να επανελεγχθεί η επιχειρηματολογία που στηρίχθηκε σε αυτές. Το κόστος δεν εξαντλείται στην αξιοπιστία του συντάκτη. Αφορά και τον άνθρωπο του οποίου τα δικαιώματα επιχειρεί να υπερασπιστεί.
Το NIST εξηγεί ότι τα συστήματα γενετικής AI μπορούν να παρουσιάζουν ψευδές περιεχόμενο με αυτοπεποίθηση και να αποκλίνουν από τα δεδομένα που τους δόθηκαν. Ο κίνδυνος γίνεται ιδιαίτερα σημαντικός όταν το αποτέλεσμα χρησιμοποιείται για αποφάσεις με σοβαρές συνέπειες. Η ύπαρξη αρχείων στην είσοδο δεν εγγυάται πιστή περίληψη στην έξοδο.
Ο έλεγχος πρέπει να φτάνει ως το πρωτότυπο
Μια θεσμικά αξιόπιστη χρήση θα απαιτούσε δυνατότητα αναδρομής από κάθε ουσιώδη ισχυρισμό στο σημείο της δικογραφίας που τον στηρίζει. Η αναφορά μιας σελίδας χρειάζεται και η ίδια έλεγχο: υπάρχει το χωρίο και λέει πράγματι αυτό που του αποδίδεται;
Η καθοδήγηση της American Bar Association για τη γενετική AI επιμένει στην κατανόηση των περιορισμών του εργαλείου και στην εξέταση της ακρίβειας του αποτελέσματος. Η τεχνολογική συνδρομή δεν καταργεί την επαγγελματική κρίση του δικηγόρου.
Για τη συζήτηση στην Κύπρο, το χρήσιμο ερώτημα είναι πώς θα οργανωθεί η επαλήθευση πριν ένα παραγόμενο κείμενο αποκτήσει θεσμική βαρύτητα. Χρειάζονται σαφείς αρμοδιότητες, πρόσβαση στα πρωτότυπα και χρόνος για ουσιαστικό έλεγχο. Η απλή αναφορά ότι χρησιμοποιήθηκε AI δεν αρκεί για να αποδείξει την ορθότητα του περιεχομένου.
Η αξιοπιστία μιας δίκης στηρίζεται στη δυνατότητα των μερών και του δικαστηρίου να εξετάζουν συγκεκριμένα, υπαρκτά στοιχεία. Η τεχνητή νοημοσύνη μπορεί να βοηθά στην οργάνωση της πληροφορίας. Το κύρος της πληροφορίας, όμως, πρέπει να εξακολουθεί να θεμελιώνεται στην πηγή της.
