Μια δοκιμή τεχνητής νοημοσύνης κατέληξε στην υποβολή κατασκευασμένης πληροφορίας για πραγματική υπόθεση ανθρωποκτονίας. Μοντέλο της Anthropic, της εταιρείας που αναπτύσσει το Claude, συμπλήρωσε δημόσια φόρμα της Αστυνομίας της Φιλαδέλφειας, παρουσιάζοντας επινοημένο περιεχόμενο σαν πληροφορία από πιθανό μάρτυρα.
Το περιστατικό συνέβη στις 18 Ιουλίου 2026, αλλά έγινε γνωστό τον Οκτώβριο, μετά τις ανακοινώσεις της εταιρείας και των αστυνομικών Αρχών.
Τι έγραψε το AI στην αστυνομική φόρμα
Σύμφωνα με την αναφορά της Anthropic, το Claude Haiku 4.5 εκτελούσε δοκιμή που περιλάμβανε δημιουργία και πραγματοποίηση ενδεικτικών εργασιών σε τυχαία επιλεγμένες ιστοσελίδες.
Κατά τη διαδικασία αυτή βρέθηκε σε σελίδα για ανεξιχνίαστη ανθρωποκτονία, η οποία διέθετε φόρμα υποβολής πληροφοριών.
Το μοντέλο έγραψε ότι ενδεχομένως γνώριζε κάτι για την υπόθεση και ότι θυμόταν κάποιον που ταίριαζε σε περιγραφή στην περιοχή. Ωστόσο, η ιστοσελίδα δεν περιείχε περιγραφή δράστη. Άφησε κενά τα πεδία ονόματος και επικοινωνίας και υπέβαλε τη φόρμα.
Η Anthropic εξήγησε ότι οι οδηγίες της δοκιμής απαγόρευαν ενέργειες όπως δημιουργία λογαριασμών, εισαγωγή προσωπικών δεδομένων και αγορές, χωρίς όμως να αποκλείουν ρητά την υποβολή φορμών.
Η πληροφορία δεν έφτασε στους ερευνητές
Η Αστυνομία διευκρίνισε ότι η υποβολή χαρακτηρίστηκε ανεπιθύμητη, ως spam, και δεν προωθήθηκε στο αρμόδιο κέντρο για ερευνητική αξιολόγηση.
Παράλληλα, σύμφωνα με τα στοιχεία που εξετάστηκαν, δεν υπήρχε ένδειξη μη εξουσιοδοτημένης πρόσβασης στα αστυνομικά συστήματα ή παραβίασης δεδομένων. Η πληροφορία είχε καταχωριστεί μέσω δημόσιας φόρμας.
Το περιστατικό εντοπίστηκε πάνω από δύο μήνες μετά
Στην ανακοίνωσή της, η Αστυνομία ανέφερε ότι η Anthropic εντόπισε το συμβάν στις 28 Σεπτεμβρίου και ενημέρωσε το τμήμα στις 7 Οκτωβρίου. Συνάντηση με εκπροσώπους της εταιρείας πραγματοποιήθηκε την επόμενη ημέρα.
Οι Αρχές χαρακτήρισαν απαράδεκτη την καθυστέρηση στον εντοπισμό και την αναφορά του περιστατικού, ζητώντας ισχυρότερες δικλίδες ασφαλείας. Υπογράμμισαν ότι οι ανεξιχνίαστες υποθέσεις αφορούν πραγματικά θύματα, οικογένειες και ερευνητές που αναζητούν απαντήσεις.
Ποια μέτρα ανακοίνωσε η Anthropic
Η εταιρεία ανακοίνωσε ότι επεκτείνει την αναστολή πρόσβασης στο ζωντανό διαδίκτυο σε όλες τις εσωτερικές αξιολογήσεις της, μέχρι να επιβεβαιώσει την αποτελεσματικότητα των μηχανισμών ασφαλείας και παρακολούθησης.
Παράλληλα, ανέφερε ότι ενισχύει τους περιορισμούς στα εργαλεία και τους αυτοματοποιημένους ελέγχους για ανεπιθύμητες ενέργειες.
Πηγές: Anthropic και Αστυνομία Φιλαδέλφειας.
The post AI έστειλε ψεύτικη πληροφορία για φόνο στην Αστυνομία appeared first on moneymatters.cy.
