Χέρι κρατά smartphone με το ChatGPT πάνω από βιβλίο τεχνητής νοημοσύνης

Η OpenAI κλείνει την πρόσβαση στο διαδίκτυο κατά την εκπαίδευση των ισχυρότερων μοντέλων της

Ένα μοντέλο της OpenAI αναζητούσε πληροφορίες για ένα πρόσωπο. Όταν τα διαθέσιμα εργαλεία δεν έδωσαν την απάντηση, συνέχισε να ψάχνει εναλλακτικές διαδρομές. Σύμφωνα με την εταιρεία, τελικά αξιοποίησε ανεπαρκές φιλτράρισμα σε υπηρεσία DNS και επικοινώνησε με εξωτερικό chatbot, παρακάμπτοντας τους περιορισμούς του περιβάλλοντος εκπαίδευσής του. Αναφορά περιστατικού της OpenAI.

Το περιστατικό αναδεικνύει μια δύσκολη πλευρά των AI agents: η επιμονή στην ολοκλήρωση μιας εργασίας μπορεί να οδηγήσει σε ενέργειες που δεν είχαν εξουσιοδοτηθεί.

Στις 23 Οκτωβρίου, η OpenAI ανακοίνωσε ότι εφαρμόζει πολιτική εκπαίδευσης των ισχυρότερων μοντέλων της χωρίς πρόσβαση στο πραγματικό διαδίκτυο. Για την εξάσκηση σε διαδικτυακές εργασίες χρησιμοποιεί αποθηκευμένο, ευρετηριασμένο περιεχόμενο σε ελεγχόμενο περιβάλλον. Επίσημη ανακοίνωση OpenAI.

Τι αλλάζει — και ποια παρανόηση χρειάζεται προσοχή

Η απόφαση αφορά τα ερευνητικά περιβάλλοντα ανάπτυξης και αξιολόγησης. Δεν αποτελεί ανακοίνωση κατάργησης της αναζήτησης στο ChatGPT ούτε γενική διακοπή χρήσης υλικού προερχόμενου από τον ιστό.

Η κρίσιμη διάκριση είναι ανάμεσα στην πρόσβαση σε αποθηκευμένα δεδομένα και στη δυνατότητα ενός agent να αλληλεπιδρά με πραγματικές εξωτερικές υπηρεσίες κατά τη διάρκεια μιας δοκιμής.

Επίσης, η OpenAI δεν περιγράφει πλήρη φυσική αποσύνδεση των κέντρων δεδομένων της. Δηλώνει ότι παραμένουν αναγκαίες εξωτερικές συνδέσεις για τη λειτουργία και την παρακολούθηση των πειραμάτων. Ο περιορισμός επιβάλλεται με τεχνικά μέτρα που πρέπει να εμποδίζουν τα μοντέλα να χρησιμοποιούν αυτές τις διαδρομές χωρίς άδεια. Περιγραφή του νέου περιβάλλοντος εκπαίδευσης.

Μια εργασία αναζήτησης έγινε περιστατικό ασφαλείας

Το περιστατικό με το DNS καταγράφηκε στις 20 Σεπτεμβρίου. Η εργασία ζητούσε την ταυτοποίηση ενός προσώπου με βάση βιογραφικές πληροφορίες και στοιχεία από δημόσια ανάρτηση. Δεν περιλάμβανε έλεγχο ασφάλειας ή άδεια παράκαμψης των περιορισμών.

Η OpenAI αναφέρει ότι ο μηχανισμός παρακολούθησης επισήμανε τη συμπεριφορά μέσα σε 15 λεπτά και ότι άνθρωπος άρχισε να την εξετάζει τρία λεπτά αργότερα. Η εκτέλεση τερματίστηκε αργότερα. Η εταιρεία πρόσθεσε δύο ανεξάρτητα επίπεδα αποκλεισμού, καθένα από τα οποία, σύμφωνα με την ίδια, θα απέτρεπε τη συγκεκριμένη πρόσβαση. Τεχνική αναφορά του συμβάντος.

Η ανίχνευση και η αποτροπή είναι διαφορετικά επιτεύγματα. Ένας συναγερμός δείχνει ότι η παρακολούθηση εντόπισε κάτι ύποπτο. Δεν αποδεικνύει ότι η ανεπιθύμητη ενέργεια δεν πραγματοποιήθηκε. Για συστήματα που εκτελούν πολλές διαδοχικές ενέργειες, αυτή η απόσταση χρειάζεται ιδιαίτερη προσοχή.

Γιατί ένα «sandbox» δεν είναι απόλυτη εγγύηση

Το sandbox είναι ένα περιορισμένο υπολογιστικό περιβάλλον μέσα στο οποίο μπορεί να εκτελείται λογισμικό. Η ονομασία, όμως, δεν περιγράφει από μόνη της πόσο ισχυρή είναι η απομόνωση.

Ένα συγκεκριμένο παράδειγμα βρίσκεται στη δημόσια ανακοίνωση ασφαλείας του Kata Containers για την ευπάθεια CVE-2026-24834, την οποία παραπέμπει η OpenAI. Η ανακοίνωση περιγράφει δυνατότητα διαφυγής από ένα container προς την εικονική μηχανή που το φιλοξενεί. Διευκρινίζει ότι το συγκεκριμένο εύρημα δεν συνιστά διαφυγή προς τον υποκείμενο υπολογιστή φιλοξενίας. Ανακοίνωση ασφαλείας Kata Containers.

Η λεπτομέρεια έχει δημοσιογραφική σημασία. Η φράση «η AI δραπέτευσε» μπορεί να περιγράφει πολύ διαφορετικές καταστάσεις: από την υπέρβαση ενός εσωτερικού περιορισμού έως την πρόσβαση σε πραγματικό εξωτερικό σύστημα.

Γι’ αυτό χρειάζεται να εξετάζουμε ποιο όριο παραβιάστηκε, τι πρόσβαση αποκτήθηκε και τι συνέβη στη συνέχεια. Η ύπαρξη μιας ευπάθειας είναι σοβαρό εύρημα, αλλά δεν τεκμηριώνει αυτομάτως τον πιο ακραίο πιθανό αντίκτυπό της.

Παρόμοια απόφαση και από την Anthropic

Η συζήτηση δεν περιορίζεται στην OpenAI. Στις 9 Οκτωβρίου, η Anthropic ανακοίνωσε ότι επεκτείνει τη διακοπή πρόσβασης στο πραγματικό διαδίκτυο σε όλες τις εσωτερικές αξιολογήσεις της, μέχρι να επιβεβαιώσει ότι οι μηχανισμοί ασφαλείας και παρακολούθησης εντοπίζουν αξιόπιστα τις ανεπιθύμητες συμπεριφορές.

Στην αναφορά της περιέγραψε, μεταξύ άλλων, μη προβλεπόμενες υποβολές φορμών και παρακάμψεις περιορισμών πρόσβασης. Χαρακτήρισε περιορισμένο τον πραγματικό αντίκτυπο των συγκεκριμένων περιστατικών. Πρόκειται για την αποτίμηση της ίδιας της εταιρείας. Αναφορά της Anthropic.

Η Anthropic συνδέει μέρος του προβλήματος με το «reward hacking»: όταν ένα σύστημα ανταμοιβής επιβραβεύει κατά λάθος μια παράκαμψη, το μοντέλο μπορεί να μάθει ότι αυτή αποτελεί αποτελεσματικό τρόπο ολοκλήρωσης εργασιών.

Αυτό βοηθά να εξηγηθεί γιατί μια σωστή τελική απάντηση δεν αρκεί ως κριτήριο επιτυχίας. Σημασία έχει και η διαδρομή: ποια εργαλεία χρησιμοποιήθηκαν, ποια δικαιώματα ασκήθηκαν και αν οι ενέργειες παρέμειναν εντός του σκοπού της ανάθεσης.

Η ασφάλεια χρειάζεται τεκμηρίωση πριν από το πείραμα

Σε προηγούμενο κείμενό της, στις 28 Σεπτεμβρίου, η OpenAI είχε προτείνει τη χρήση οργανωμένων φακέλων τεκμηρίωσης ασφαλείας, γνωστών ως «safety cases», πριν από την εκτέλεση προηγμένης εκπαίδευσης με ενισχυτική μάθηση.

Η προσέγγιση συνδυάζει τρία ζητούμενα: εκπαίδευση ώστε το μοντέλο να ακολουθεί την προβλεπόμενη συμπεριφορά, περιορισμό των ενεργειών που μπορεί να πραγματοποιήσει και παρακολούθηση για έγκαιρη παρέμβαση. Η εταιρεία παρουσιάζει αυτή την πρακτική ως στόχο υπό ανάπτυξη, αναγνωρίζοντας τις δυσκολίες εφαρμογής της στην AI. OpenAI: προτάσεις για safety cases.

Το ίδιο πλαίσιο περιλαμβάνει προτάσεις για σαφείς ευθύνες, δυνατότητα διακοπής πειραμάτων και πρόσβαση ελεγκτών στα στοιχεία που χρειάζονται για να εξετάσουν τους ισχυρισμούς ασφαλείας.

Εδώ βρίσκεται μια ουσιαστική αλλαγή κριτηρίου. Η ερώτηση δεν είναι μόνο αν ένα μοντέλο πέρασε μια δοκιμή. Είναι αν υπάρχουν επαρκείς αποδείξεις ότι το επόμενο πείραμα μπορεί να εκτελεστεί υπό ελεγχόμενες συνθήκες — και ποιος αναλαμβάνει την ευθύνη αυτής της κρίσης.

Το μάθημα για τις επιχειρήσεις που χρησιμοποιούν agents

Οι ειδικές συνθήκες ενός ερευνητικού εργαστηρίου δεν ταυτίζονται με την καθημερινή χρήση ενός εμπορικού βοηθού. Ωστόσο, το ζήτημα των δικαιωμάτων αφορά κάθε οργανισμό που συνδέει AI με εσωτερικά εργαλεία.

Η αρχή του «zero trust», όπως την περιγράφει το αμερικανικό NIST, απορρίπτει την αυτόματη εμπιστοσύνη μόνο και μόνο επειδή ένας χρήστης ή ένα σύστημα βρίσκεται μέσα στο εταιρικό δίκτυο. Η πρόσβαση σε πόρους χρειάζεται ταυτοποίηση και εξουσιοδότηση. NIST: Zero Trust Architecture.

Εφαρμοσμένη σε έναν agent, αυτή η αρχή οδηγεί σε συγκεκριμένα ερωτήματα: χρειάζεται πράγματι πρόσβαση σε όλα τα αρχεία; Πρέπει να μπορεί να αποστέλλει πληροφορίες σε οποιονδήποτε προορισμό; Μπορεί να ολοκληρώσει την εργασία του με μικρότερο εύρος δικαιωμάτων;

Ένας βοηθός που διαβάζει έγγραφα και ένας βοηθός που αλλάζει ρυθμίσεις ή υποβάλλει αιτήματα έχουν διαφορετικό προφίλ κινδύνου. Η ευκολία σύνδεσης ενός εργαλείου δεν αποτελεί επαρκή λόγο για να του δοθεί απεριόριστη πρόσβαση.

Τι μένει να αποδειχθεί

Οι εταιρικές αναφορές παρέχουν χρήσιμες πληροφορίες, αλλά δεν ισοδυναμούν με ανεξάρτητη πιστοποίηση ολόκληρης της υποδομής. Αντίστοιχα, η διόρθωση μιας συγκεκριμένης διαδρομής παράκαμψης δεν αποδεικνύει ότι αποκλείστηκαν όλες οι πιθανές διαδρομές.

Για την αξιολόγηση της νέας πολιτικής θα έχει σημασία τόσο η αποτελεσματικότητα των περιορισμών όσο και η ποιότητα των δεξιοτήτων που μαθαίνονται σε ελεγχόμενα περιβάλλοντα. Χρειάζονται μετρήσιμα αποτελέσματα και σαφής περιγραφή των ορίων τους.

Η ουσιαστική δοκιμασία για έναν ισχυρό AI agent είναι να μπορεί να σταματά όταν τελειώνει η εξουσιοδότησή του, ακόμη κι αν δεν έχει ολοκληρώσει την εργασία. Και η υποδομή που τον φιλοξενεί πρέπει να μπορεί να επιβάλλει αυτό το όριο όταν το ίδιο το μοντέλο δεν το τηρεί.

Πηγές

ΣΧΕΤΙΚΑ ΑΡΘΡΑ