Strategist Ai · AI Takeaways
- Ο Μπραντ Σμιθ, πρόεδρος της Microsoft, μίλησε στις 13 Οκτωβρίου, πριν από τη σύνοδο AI στο Δουβλίνο.
- Ζητά δικλίδες διακοπής ή επιβράδυνσης για agents, ιδιαίτερα σε κρίσιμες υποδομές.
- Προτείνει υποχρεωτική ενημέρωση των επηρεαζομένων και ενίσχυση δοκιμών πριν από την κυκλοφορία μοντέλων.
Δυνατότητα διακοπής της λειτουργίας μιας AI που χάνει τον έλεγχο και υποχρέωση ενημέρωσης όσων επηρεάζονται από περιστατικά ζητά ο Μπραντ Σμιθ, πρόεδρος της Microsoft. Μιλώντας σε δημοσιογράφους στις 13 Οκτωβρίου, πριν από τη διεθνή σύνοδο για την AI στο Δουβλίνο, κάλεσε επιχειρήσεις και κυβερνήσεις να προχωρήσουν σε πραγματικούς και αποτελεσματικούς κανόνες ασφάλειας.
Η παρέμβαση, την οποία κατέγραψε το AFP, ξεχωρίζει τρία πρακτικά πεδία: έλεγχο κατά τη λειτουργία, ενημέρωση μετά από περιστατικό και αξιολόγηση πριν από την κυκλοφορία. Πρόκειται για προτάσεις του στελέχους προς τον κλάδο και τις κυβερνήσεις, όχι για ανακοίνωση ότι θεσπίστηκε νέο ενιαίο κανονιστικό πλαίσιο.
Να μπορεί να σταματήσει ένα αυτόνομο σύστημα
Ο Σμιθ προτείνει δικλίδες έκτακτης ανάγκης που θα μπορούν να ενεργοποιούνται από τους χρήστες. Έδωσε ιδιαίτερο βάρος σε συστήματα που διαχειρίζονται κρίσιμες υποδομές ή άλλες αυτοματοποιημένες λειτουργίες, όπου χρειάζεται δυνατότητα διακοπής ή επιβράδυνσης σε περίπτωση συμβάντος.
Η πρακτική σημασία αυτής της πρότασης βρίσκεται στην απόσταση ανάμεσα στην παραγωγή μιας απάντησης και στην εκτέλεση μιας ενέργειας. Όσο περισσότερες λειτουργίες ανατίθενται σε agents, τόσο πιο σημαντικό γίνεται να είναι σαφές ποιος μπορεί να παρέμβει και πώς διακόπτεται μια ανεπιθύμητη ακολουθία ενεργειών.
Ενημέρωση των ανθρώπων που επηρεάζονται
Το δεύτερο σκέλος είναι η υποχρεωτική αναφορά περιστατικών και ενημέρωση των θυμάτων. Ο Σμιθ συνέκρινε την αρχή με την ενημέρωση καταναλωτών όταν μια παραβίαση ασφάλειας οδηγεί σε απώλεια δεδομένων. Ζητά αντίστοιχη νομική υποχρέωση όταν η ζημιά προέρχεται από AI agent.
Η ενημέρωση δεν ταυτίζεται με την τεχνική επίλυση ενός προβλήματος. Δίνει στον επηρεαζόμενο τη δυνατότητα να γνωρίζει ότι έχει συμβεί κάτι που αφορά τα δεδομένα ή τις συναλλαγές του και να αντιδράσει ανάλογα.
Δοκιμές πριν από την κυκλοφορία
Το τρίτο σκέλος αφορά ισχυρότερες δοκιμές και αξιολογήσεις των μοντέλων πριν διατεθούν στην αγορά. Ο Σμιθ τόνισε την ανάγκη επείγουσας δράσης, ζητώντας μεγαλύτερη συμμετοχή τόσο των εταιρειών όσο και των κυβερνήσεων.
Η συζήτηση μεταφέρει την ασφάλεια από μια γενική υπόσχεση σε λειτουργικές υποχρεώσεις: δυνατότητα παρέμβασης, ενημέρωση και έλεγχος. Το επόμενο ζήτημα είναι πώς αυτές οι αρχές θα οριστούν και θα εφαρμοστούν σε διαφορετικές υπηρεσίες AI, ώστε οι ευθύνες να παραμένουν κατανοητές όταν τα συστήματα αποκτούν περισσότερη αυτονομία.
Στοιχεία και πηγές: AFP, δηλώσεις Μπραντ Σμιθ της 13ης Οκτωβρίου 2026.
Μπραντ Σμιθ, Web Summit στη Λισαβόνα, 11/11/2025 — Φωτογραφία: Paul Devlin / Web Summit / Sportsfile / CC BY 4.0. Περικοπή κάδρου.
