Η τεχνητή νοημοσύνη αποκτά αυξημένες δυνατότητες με ταχύτερους ρυθμούς από ό,τι προέβλεπαν πολλοί ειδικοί, ωστόσο η ικανότητά μας να μετράμε τους κινδύνους που ενέχει για τον πραγματικό κόσμο δεν συμβαδίζει με αυτή την εξέλιξη. Αυτό αποτελεί το κεντρικό ζήτημα που αναδεικνύεται στη Διεθνή Έκθεση για την Ασφάλεια της Τεχνητής Νοημοσύνης του 2026 (International AI Safety Report 2026) — μια επιστημονική αξιολόγηση που εκπονήθηκε υπό την καθοδήγηση του Yoshua Bengio και με τη συμβολή περισσότερων από 100 ανεξάρτητων ειδικών, οι οποίοι υποδείχθηκαν από πάνω από 30 χώρες και διεθνείς οργανισμούς.
Η έκθεση δεν αποτελεί πρόβλεψη ότι κάποια δραματική εξέλιξη είναι αναπόφευκτη. Αποτελεί έναν χάρτη του τι γνωρίζουν οι ερευνητές, τι δεν γνωρίζουν και γιατί η ίδια η αβεβαιότητα έχει σημασία όταν η τεχνητή νοημοσύνη γενικού σκοπού τίθεται σε εφαρμογή σε μεγάλη κλίμακα.
Τρεις οικογένειες κινδύνου
Η έκθεση ομαδοποιεί τους αναδυόμενους κινδύνους σε τρεις ευρείες κατηγορίες:
- Κακόβουλη χρήση, συμπεριλαμβανομένων απατών, δόλιων ενεργειών, κυβερνοεπιχειρήσεων και καταχρηστικού συνθετικού περιεχομένου.
- Δυσλειτουργίες, κατά τις οποίες ένα σύστημα συμπεριφέρεται με τρόπο μη αξιόπιστο, επιδιώκει λάθος στόχο ή παράγει επιβλαβές αποτέλεσμα.
- Συστημικοί κίνδυνοι, όπου η ευρεία υιοθέτηση επηρεάζει την εργασία, τα περιβάλλοντα πληροφόρησης, τη συγκέντρωση της αγοράς ή κρίσιμους θεσμούς.
Τα διαθέσιμα στοιχεία παρουσιάζουν ανισότητες. Ορισμένες μορφές βλάβης, όπως η απάτη με τη συνδρομή της τεχνητής νοημοσύνης και η διακίνηση προσωπικού οπτικού υλικού ερωτικής φύσης χωρίς τη συγκατάθεση των εικονιζομένων, είναι ήδη τεκμηριωμένες. Άλλα σενάρια παραμένουν αβέβαια, ιδίως όταν εξαρτώνται από μελλοντικές δυνατότητες ή από σύνθετες κοινωνικές αλληλουχίες γεγονότων. Η υπεύθυνη δημοσιογραφική κάλυψη οφείλει να αναδεικνύει αυτή τη διάκριση.
Το χάσμα αξιολόγησης
Μια βαθμολογία αναφοράς (benchmark score) μπορεί να δείξει ότι ένα μοντέλο αποδίδει καλά σε μια συγκεκριμένη δοκιμασία. Δεν μπορεί, από μόνη της, να προβλέψει πώς θα συμπεριφερθεί το ίδιο σύστημα σε ένα χαοτικό εργασιακό περιβάλλον, υπό συνθήκες εχθρικών παρεμβάσεων ή όταν είναι συνδεδεμένο με εργαλεία και ευαίσθητα δεδομένα.
Η έκθεση χαρακτηρίζει αυτό το φαινόμενο ως «κενό αξιολόγησης». Τα μοντέλα ενδέχεται να είναι ευαίσθητα στις εντολές (prompts) και στο πλαίσιο χρήσης, οι δοκιμασίες μπορεί να καταστούν παρωχημένες, ενώ ένα εργαστηριακό αποτέλεσμα ενδέχεται να μην μεταφέρεται άμεσα στην πραγματική χρήση. Αυτό δεν καθιστά την αξιολόγηση άχρηστη. Σημαίνει, ωστόσο, ότι η αξιολόγηση πρέπει να είναι πολυεπίπεδη: οι δοκιμασίες δυνατοτήτων, οι ασκήσεις τύπου «red-team», η παρακολούθηση κατά την ανάπτυξη, η αναφορά περιστατικών και η ανθρώπινη αξιολόγηση εξυπηρετούν διαφορετικούς σκοπούς και απαντούν σε διαφορετικά ερωτήματα.
Οι δικλείδες ασφαλείας βελτιώνονται — αλλά δεν είναι καθοριστικές.
Οι προγραμματιστές και οι ερευνητές έχουν διευρύνει τις διαδικασίες αξιολόγησης μοντέλων, την εκπαίδευση για την άρνηση απόκρισης, τους ελέγχους πρόσβασης, τα εργαλεία ιχνηλάτησης προέλευσης και τα πλαίσια ασφάλειας για μοντέλα αιχμής. Η έκθεση υπογραμμίζει επίσης τους περιορισμούς τους: επιδέξιοι επιτιθέμενοι ενδέχεται να παρακάμψουν τα μέτρα προστασίας, η σήμανση υδατογράφησης μπορεί να αποδειχθεί ευάλωτη, ενώ η αποτελεσματικότητα πολλών μηχανισμών ελέγχου σε πραγματικές συνθήκες παραμένει δύσκολο να ποσοτικοποιηθεί.
Η ορθή προσέγγιση δεν είναι η εγκατάλειψη των δικλείδων ασφαλείας, αλλά η αποφυγή της αντιμετώπισης οποιουδήποτε μεμονωμένου μέτρου ελέγχου ως εγγύησης. Η άμυνα σε βάθος είναι καθοριστικής σημασίας: περιορίστε τα δικαιώματα πρόσβασης, απομονώστε τα ευαίσθητα συστήματα, καταγράψτε τις κρίσιμες ενέργειες, ελέγξτε τα σενάρια αστοχίας και διασφαλίστε τη δυνατότητα επαναφοράς στην προηγούμενη κατάσταση.
Τι μπορούν να κάνουν οι ομάδες πρακτικής δράσης
- Ευθυγραμμίστε το επίπεδο εποπτείας με τις συνέπειες της εργασίας.
- Διατηρήστε την ευθύνη των ανθρώπων για αποφάσεις που αφορούν οικονομικά, ιατρικά και νομικά ζητήματα, καθώς και για αποφάσεις κρίσιμης σημασίας για την ασφάλεια.
- Παρέχετε στα εργαλεία τεχνητής νοημοσύνης τα ελάχιστα δεδομένα και δικαιώματα που χρειάζονται.
- Μετρήστε την απόδοση μετά την εγκατάσταση, όχι μόνο πριν από την κυκλοφορία.
- Καταγράψτε τις αστοχίες και τα περιστατικά που παραλίγο να εξελιχθούν σε αστοχίες, ώστε να βελτιωθεί η βάση τεκμηρίωσης.
- Ενημερώνετε τους χρήστες όταν το περιεχόμενο ή οι αποφάσεις περιλαμβάνουν ουσιαστική συμμετοχή της τεχνητής νοημοσύνης.
Το Mythic Mode προοπτική
Το πιο χρήσιμο δίδαγμα αφορά την κουλτούρα: η εμπιστοσύνη πρέπει να βασίζεται σε αποδεικτικά στοιχεία. Η τεχνητή νοημοσύνη μπορεί να επιταχύνει την έρευνα, τον σχεδιασμό και τις λειτουργίες, αλλά η ταχύτητα δεν ταυτίζεται με την αξιοπιστία. Ένα σύστημα καθίσταται πιο αξιόπιστο όταν τα όριά του είναι ορατά, οι ενέργειές του επιδέχονται επανεξέταση και οι χειριστές του είναι πρόθυμοι να δηλώσουν: «δεν γνωρίζουμε ακόμη».
Η έκθεση δεν επιλύει κάθε διαφωνία. Παρέχει μια κοινή επιστημονική βάση για τη λήψη καλύτερων αποφάσεων, καθώς οι δυνατότητες και οι κίνδυνοι συνεχίζουν να μεταβάλλονται.