Ο CEO της Anthropic ζητά να επιβραδυνθεί η ανάπτυξη της AI: Ποιους κινδύνους βλέπει

Περισσότερη ισχύς στην AI, αλλά ποιος αναλαμβάνει το ρίσκο;

Να μειώσουν συνειδητά την ταχύτητα με την οποία αναπτύσσουν ισχυρότερα μοντέλα τεχνητής νοημοσύνης καλεί τις εταιρείες του κλάδου ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της Anthropic. Όπως μεταδίδει το Reuters το Σάββατο 12 Σεπτεμβρίου, η παρέμβασή του συνοδεύεται από ένα σχέδιο για να κερδηθεί χρόνος αντιμετώπισης των κινδύνων.

Η τοποθέτηση φέρνει στο επίκεντρο ένα δύσκολο οικονομικό ερώτημα: πώς μπορεί να λειτουργήσει η αυτοσυγκράτηση σε μια αγορά που ανταμείβει όποιον βγάζει πρώτος το επόμενο προϊόν; Για μια εταιρεία, η καθυστέρηση μπορεί να σημαίνει χαμένη πελατεία. Για τους πελάτες της, όμως, ένα ανεπαρκώς ελεγμένο σύστημα μπορεί να δημιουργήσει κόστος πολύ μεγαλύτερο από την εξοικονόμηση που υποσχέθηκε.

Τι προτείνει ο Αμοντέι

Στο πρωτότυπο κείμενο «We Must Pace the Frontier», ο Αμοντέι διευκρινίζει ότι ζητά χρόνο για ασφάλεια και ανεξάρτητη αξιολόγηση, χωρίς διακοπή της τεχνικής προόδου. Προτείνει τρεις βαθμίδες: εξωτερικούς αξιολογητές μέσα στις εταιρείες, συντονισμό μεταξύ επιχειρήσεων και κυβερνήσεων δημοκρατικών χωρών και, στη συνέχεια, διεθνή συνεργασία.

Η Anthropic δεσμεύεται μονομερώς για την πρώτη βαθμίδα. Οι αξιολογητές θα έχουν διαρκή πρόσβαση συγκρίσιμη με εκείνη εσωτερικών ομάδων και δυνατότητα δημοσιοποίησης ευρημάτων, με συγκεκριμένες εξαιρέσεις για ευαίσθητες πληροφορίες. Πρόκειται για δέσμευση, όχι για ήδη ολοκληρωμένη εγκατάσταση των ελεγκτών.

Ο ίδιος συνδέει την ανησυχία του με την αυξανόμενη χρήση AI για ανάπτυξη επόμενων μοντέλων και με το περιστατικό αυτόνομων πρακτόρων OpenAI–Hugging Face. Φοβάται ότι ισχυρότερα αντίστοιχα συστήματα θα μπορούσαν σε 6–12 μήνες να προκαλέσουν εκτεταμένες διαδικτυακές ζημιές. Είναι δική του εκτίμηση κινδύνου, όχι βεβαιωμένη εξέλιξη ή χρονοδιάγραμμα.

Οι κίνδυνοι που περιγράφει ήδη η εταιρεία

Στη χωριστή έκθεση απειλών του Σεπτεμβρίου, η Anthropic αναφέρει ότι διέκοψε επιχειρήσεις κακόβουλης χρήσης του Claude μεταξύ Δεκεμβρίου 2025 και Αυγούστου 2026. Περιγράφει, μεταξύ άλλων, κυβερνοεπιθέσεις, απάτες και παρακολούθηση αντιφρονούντων. Τα στοιχεία προέρχονται από τις έρευνες της ίδιας της εταιρείας. Η έκθεση ξεκαθαρίζει ότι παρουσιάζει επιλεγμένα αξιοσημείωτα περιστατικά και όχι την τυπική χρήση της υπηρεσίας.

Η διάκριση έχει σημασία. Η ύπαρξη περιστατικών δείχνει συγκεκριμένα σημεία αποτυχίας και ανάγκες προστασίας. Δεν μετρά από μόνη της πόσο συχνά κινδυνεύει μια επιχείρηση ούτε επιτρέπει να εξισώσουμε κάθε εφαρμογή AI με την πιο επικίνδυνη χρήση της.

Ποιος πληρώνει για την ασφάλεια

Η ανεξάρτητη αξιολόγηση προσθέτει εργασία, χρόνο και έξοδα. Μπορεί, όμως, να μειώνει μια άλλη κατηγορία κόστους: διαρροές δεδομένων, λανθασμένες ενέργειες, διακοπές λειτουργίας και απώλεια εμπιστοσύνης. Η πραγματική τιμή της AI δεν τελειώνει στη συνδρομή ή στη χρέωση χρήσης.

Ένας προμηθευτής που δέχεται ουσιαστικό έλεγχο μπορεί να διευκολύνει τον πελάτη να αξιολογήσει τι αγοράζει. Το κρίσιμο είναι ποιος επιλέγει και πληρώνει τον ελεγκτή, πόση πρόσβαση του δίνει και αν τα δυσάρεστα ευρήματα φτάνουν πράγματι στη δημοσιότητα. Η ετικέτα «ανεξάρτητος» από μόνη της δεν απαντά σε αυτά.

Υπάρχει επίσης ζήτημα ανταγωνισμού. Οι κοινοί κανόνες μπορούν να αποτρέπουν την εξοικονόμηση κόστους εις βάρος της ασφάλειας. Αν όμως σχεδιαστούν με δυσανάλογες απαιτήσεις, μπορεί να δυσκολεύουν μικρότερους ανταγωνιστές περισσότερο από τους καθιερωμένους ομίλους. Το ζητούμενο είναι απαιτήσεις ανάλογες με τον κίνδυνο, με έλεγχο της εφαρμογής τους.

Τι σημαίνει για μια κυπριακή επιχείρηση

Για μια κυπριακή επιχείρηση που εξετάζει την αυτοματοποίηση, χρήσιμη αφετηρία είναι η εξουσία που θα παραχωρήσει στο εργαλείο. Άλλο να συντάσσει ένα προσχέδιο απάντησης και άλλο να στέλνει μηνύματα, να αλλάζει αρχεία πελατών ή να εκτελεί οικονομικές εντολές χωρίς έγκριση.

Μια πιλοτική εφαρμογή με περιορισμένα δικαιώματα μπορεί να μετρήσει τόσο τον χρόνο που εξοικονομείται όσο και τον χρόνο διόρθωσης. Έτσι, η απόφαση αγοράς στηρίζεται στο καθαρό λειτουργικό όφελος. Η πιο ισχυρή AI έχει επιχειρηματική αξία όταν η εταιρεία μπορεί να καταλάβει, να ελέγξει και να διορθώσει όσα της αναθέτει.

Φωτογραφία: TechCrunch / Wikimedia Commons, CC BY 2.0 (περικοπή).

The post Ο CEO της Anthropic ζητά να επιβραδυνθεί η ανάπτυξη της AI: Ποιους κινδύνους βλέπει appeared first on moneymatters.cy.

Διαβάστε Περισσότερα...