Ανοιχτά μοντέλα AI: Ποιος ελέγχει την ισχύ και τους κινδύνους;
Όταν μια εταιρεία διαθέτει ένα μοντέλο τεχνητής νοημοσύνης για λήψη, παραχωρεί κάτι περισσότερο από πρόσβαση σε μια υπηρεσία. Δίνει σε άλλους τη δυνατότητα να το εγκαταστήσουν, να το μελετήσουν και, ανάλογα με την άδεια, να το τροποποιήσουν. Μαζί με αυτή την ελευθερία χάνει μέρος του ελέγχου πάνω στις μελλοντικές χρήσεις του.
Αυτό το δίλημμα εξετάζει το MIT Technology Review σε ανάλυση της 13ης Οκτωβρίου 2026. Η συζήτηση αποκτά νέο βάρος καθώς ισχυρότερες δυνατότητες AI γίνονται διαθέσιμες εκτός των κλειστών υπηρεσιών των μεγάλων εργαστηρίων. Το άρθρο του MIT Technology Review.
Το ερώτημα αφορά ταυτόχρονα την ασφάλεια και την πρόσβαση. Ποιος μπορεί να χρησιμοποιεί την τεχνολογία; Ποιος ορίζει τους περιορισμούς της; Και ποιος έχει τα μέσα να ελέγξει αν οι ισχυρισμοί του δημιουργού της ευσταθούν;
«Ανοιχτά βάρη» δεν σημαίνει πλήρης ανοικτός κώδικας
Τα βάρη ενός νευρωνικού δικτύου είναι οι αριθμητικές παράμετροιές του, οι οποίες διαμορφώνονται κατά την εκπαίδευση και επηρεάζουν τον τρόπο με τον οποίο παράγει αποτελέσματα. Η δημοσίευσή τους επιτρέπει σε τρίτους, με το κατάλληλο λογισμικό και υλικό, να εκτελούν το μοντέλο.
Αυτό δεν σημαίνει ότι δημοσιεύεται ολόκληρη η διαδικασία δημιουργίας του. Μπορεί να λείπουν ο κώδικας εκπαίδευσης, ουσιώδεις πληροφορίες για τα δεδομένα ή δικαιώματα ελεύθερης επαναχρησιμοποίησης.
Η Open Source Initiative, στον ορισμό Open Source AI 1.0, απαιτεί ελευθερίες χρήσης, μελέτης, τροποποίησης και διαμοιρασμού. Περιλαμβάνει επίσης πρόσβαση στις παραμέτρους, στον σχετικό κώδικα και σε επαρκώς αναλυτικές πληροφορίες για τα δεδομένα εκπαίδευσης. Δεν απαιτεί κατ’ ανάγκη να διανεμηθεί κάθε αρχικό σύνολο δεδομένων. Ο ορισμός της OSI.
Για τον χρήστη, η πρακτική συνέπεια είναι απλή: η ένδειξη «open» δεν αρκεί. Χρειάζεται να εξετάζει τι ακριβώς διατίθεται και τι επιτρέπει η άδεια. Η δυνατότητα λήψης ενός αρχείου δεν εγγυάται απεριόριστη εμπορική χρήση ή πλήρη αναπαραγωγή της εκπαίδευσης.
Η ανεξαρτησία έχει αξία — και λειτουργικό κόστος
Η αμερικανική NTIA έχει καταγράψει οφέλη των ανοιχτών μοντέλων για την έρευνα, τον ανταγωνισμό και την προσαρμογή σε διαφορετικές ανάγκες. Η σχετική έκθεση του 2024 αποτελεί χρήσιμο υπόβαθρο για τη συζήτηση, όχι αποτίμηση των δυνατοτήτων κάθε μοντέλου του 2026. Η έκθεση της NTIA.
Για ένα πανεπιστήμιο, η πρόσβαση στο μοντέλο επιτρέπει πειράματα πέρα από την αποστολή ερωτήσεων σε μια διαδικτυακή υπηρεσία. Για μια επιχείρηση, μπορεί να προσφέρει μεγαλύτερο έλεγχο στις αναβαθμίσεις, στις προσαρμογές και στον τόπο επεξεργασίας των δεδομένων της.
Ας υποθέσουμε ότι μια ελληνική εταιρεία χρειάζεται έναν βοηθό για εσωτερικά τεχνικά εγχειρίδια. Η φιλοξενία ενός κατάλληλου μοντέλου στη δική της υποδομή μπορεί να περιορίσει την ανάγκη αποστολής εγγράφων σε εξωτερική υπηρεσία. Χρειάζεται όμως ανθρώπους που θα το εγκαθιστούν, θα το ενημερώνουν και θα προστατεύουν την πρόσβαση σε αυτό.
Το «διατίθεται δωρεάν» δεν ισοδυναμεί με «λειτουργεί χωρίς κόστος». Εξοπλισμός, μνήμη, ηλεκτρική ενέργεια, συντήρηση και αξιολόγηση παραμένουν μέρος του λογαριασμού. Αντίστοιχα, η τοπική εγκατάσταση προσφέρει έλεγχο, αλλά δεν δημιουργεί από μόνη της ένα ασφαλές περιβάλλον.
Γιατί το GLM-5.3 αναζωπύρωσε τη συζήτηση
Στις 17 Σεπτεμβρίου 2026, το Center for AI Standards and Innovation του αμερικανικού NIST δημοσίευσε αξιολόγηση του GLM-5.3 της Z.ai. Το χαρακτήρισε ως το ισχυρότερο μέχρι τότε μοντέλο ανοιχτών βαρών στις δοκιμές κυβερνοασφάλειας που εξέτασε, ενώ το τοποθέτησε χαμηλότερα από τα κορυφαία αμερικανικά μοντέλα.
Η αξιολόγηση περιλάμβανε τέσσερις δοκιμασίες για ανακάλυψη ευπαθειών και ανάπτυξη τρόπων εκμετάλλευσής τους. Οι συγκρίσεις αφορούν συγκεκριμένες μετρήσεις, όχι μια καθολική κατάταξη ασφάλειας ή χρησιμότητας. Η αξιολόγηση του CAISI/NIST.
Ακολούθησε, στις 29 Σεπτεμβρίου, έκθεση της Anthropic. Η εταιρεία ανέφερε ότι το GLM-5.3 παρήγαγε ολοκληρωμένα exploits σε 50 από 410 προσπάθειες μιας δοκιμασίας γνωστών ευπαθειών του V8, της μηχανής JavaScript του Chrome. Οι δοκιμές έγιναν σε απομονωμένα περιβάλλοντα. Η έκθεση της Anthropic.
Τα ευρήματα δείχνουν συγκεκριμένες τεχνικές δυνατότητες. Δεν σημαίνουν ότι το μοντέλο μπορεί να παραβιάζει οποιοδήποτε σύστημα ούτε μεταφράζονται σε ποσοστό επιτυχίας πραγματικών επιθέσεων.
Η προέλευση της δεύτερης έκθεσης έχει επίσης σημασία: η Anthropic είναι ανταγωνιστής της Z.ai. Αυτό δεν ακυρώνει τις μετρήσεις της, αλλά ενισχύει την ανάγκη ανεξάρτητων αξιολογήσεων και προσεκτικής σύγκρισης των συνθηκών δοκιμής.
Η πρόσβαση αλλάζει το είδος της προστασίας
Ένας πάροχος που διαθέτει μοντέλο αποκλειστικά μέσω της δικής του υπηρεσίας μπορεί να εφαρμόζει φίλτρα, όρια χρήσης και περιορισμούς λογαριασμών. Όταν τα βάρη έχουν διανεμηθεί, ο αρχικός δημιουργός δεν μπορεί να επιβάλει εξ αποστάσεως τις ίδιες παρεμβάσεις σε κάθε αντίγραφο.
Η Anthropic ανέφερε ότι οι προστασίες του GLM-5.3 μπορούσαν να παρακαμφθούν ή να αποδυναμωθούν στις δοκιμές της. Παράλληλα, αναγνώρισε ότι οι ίδιες προηγμένες δυνατότητες μπορούν να αξιοποιηθούν από αμυνόμενους για τη θωράκιση συστημάτων.
Αυτή είναι η δυσκολία των τεχνολογιών διπλής χρήσης. Ένα εργαλείο εντοπισμού σφαλμάτων μπορεί να βοηθήσει τον διαχειριστή ενός συστήματος να τα διορθώσει ή έναν επιτιθέμενο να τα εκμεταλλευτεί.
Η διάκριση ανοιχτού και κλειστού μοντέλου περιγράφει, επομένως, διαφορετικούς μηχανισμούς ελέγχου. Δεν αποτελεί πιστοποιητικό ασφάλειας. Ένας συγκεντρωτικός μηχανισμός μπορεί να παρέμβει γρήγορα, αλλά παραμένει εξαρτημένος από την ποιότητα των ελέγχων και τις αποφάσεις του παρόχου.
Μπορούν οι προστασίες να αντέχουν στις τροποποιήσεις;
Ερευνητές εξετάζουν τρόπους ώστε η συμπεριφορά ασφάλειας ενός μοντέλου να παραμένει ανθεκτική ακόμη και όταν κάποιος τροποποιεί τις παραμέτρους του ή το εκπαιδεύει περαιτέρω.
Το TamperBench αξιολόγησε 21 μοντέλα ανοιχτών βαρών, μαζί με παραλλαγές ενισχυμένων αμυνών, απέναντι σε εννέα κατηγορίες παρεμβάσεων. Τα αποτελέσματα έδειξαν ότι οι άμυνες που εξετάστηκαν συχνά δεν άντεχαν στη συστηματική αναζήτηση κατάλληλων τροποποιήσεων. Η εργασία στο arXiv.
Εδώ υπάρχει μια χρήσιμη ενημέρωση σε σχέση με το αρχικό δημοσίευμα: η εργασία δεν βρίσκεται πλέον μόνο σε μορφή προδημοσίευσης. Το αποθετήριο του ETH Zurich την καταγράφει ως δημοσιευμένη στα πρακτικά του ACM SIGKDD 2026. Η καταχώριση της δημοσίευσης.
Το συμπέρασμα αφορά τα μοντέλα, τις άμυνες και τις παρεμβάσεις που δοκιμάστηκαν. Δεν αποδεικνύει ότι κάθε μελλοντική προστασία θα αποτυγχάνει. Δείχνει όμως γιατί η ασφάλεια ενός αμετάβλητου μοντέλου δεν αρκεί για να περιγράψει τη συμπεριφορά των πιθανών παραλλαγών του.
Ποιος έχει πραγματικά τη δυνατότητα να συμμετέχει;
Η δημόσια διάθεση βαρών μειώνει ένα εμπόδιο πρόσβασης. Παραμένουν άλλα: υπολογιστικοί πόροι, τεχνική εμπειρία, δεδομένα κατάλληλης ποιότητας και χρόνος για δοκιμές.
Μια μικρή ερευνητική ομάδα μπορεί να αποκτήσει το ίδιο αρχείο με έναν μεγάλο οργανισμό, χωρίς να διαθέτει ανάλογη δυνατότητα εκτέλεσης ή προσαρμογής του. Για αυτό, η συζήτηση περί συγκέντρωσης ισχύος πρέπει να περιλαμβάνει και την πρόσβαση στην υποδομή.
Από την άλλη, η αποκλειστική εξάρτηση από λίγες υπηρεσίες δημιουργεί δικούς της περιορισμούς. Μια αλλαγή τιμολόγησης, διαθεσιμότητας ή όρων μπορεί να επηρεάσει εφαρμογές που στηρίζονται σε αυτές. Η δυνατότητα μεταφοράς μιας υπηρεσίας σε διαφορετική υποδομή έχει αξία ακόμη και όταν δεν χρησιμοποιείται άμεσα.
Για έναν οργανισμό που επιλέγει μοντέλο, το ζητούμενο είναι συγκεκριμένο: ποια δεδομένα θα επεξεργάζεται, ποιες ενέργειες θα εκτελεί και ποιος θα αναλαμβάνει την ευθύνη λειτουργίας του. Η ετικέτα «ανοιχτό» ή «κλειστό» είναι μόνο η αρχή αυτής της αξιολόγησης.
Αποφάσεις με βάση τις δυνατότητες και τα στοιχεία
Το 2024, η NTIA είχε εισηγηθεί να μη θεσπιστούν άμεσοι γενικοί περιορισμοί στη διάθεση βαρών, αλλά να αναπτυχθεί συνεχής παρακολούθηση κινδύνων και οφελών. Ήταν σύσταση της συγκεκριμένης έκθεσης, όχι διαχρονική βεβαίωση ότι κάθε μελλοντικό μοντέλο είναι ασφαλές για ανεμπόδιστη κυκλοφορία.
Η λογική της επανεξέτασης παραμένει χρήσιμη. Οι αποφάσεις χρειάζονται ανεξάρτητες δοκιμές, σαφή περιγραφή των περιορισμών και στοιχεία για τις δυνατότητες που πράγματι προστίθενται.
Η ουσιαστική πρόκληση είναι να διατηρηθούν οι ευκαιρίες έρευνας, προσαρμογής και ανεξαρτησίας, ενώ αντιμετωπίζονται συγκεκριμένοι, τεκμηριωμένοι κίνδυνοι. Αυτό απαιτεί περισσότερα από έναν χαρακτηρισμό στη σελίδα λήψης ενός μοντέλου: απαιτεί διαφάνεια για το τι μπορεί να κάνει, ποιος μπορεί να το ελέγξει και ποιος μπορεί να επωφεληθεί.
Πηγές
- MIT Technology Review — Open models have real benefits. Do they outweigh the risks?, 13 Οκτωβρίου 2026. Αρχειοθετημένο αντίγραφο.
- Open Source Initiative — The Open Source AI Definition 1.0.
- NIST/CAISI — Assessment of Z.ai’s GLM-5.3 Cyber Capabilities, 17 Σεπτεμβρίου 2026.
- Anthropic — GLM-5.3 and the spread of advanced cyber capabilities, 29 Σεπτεμβρίου 2026.
- TamperBench — Systematically Stress-Testing LLM Safety Under Fine-Tuning and Tampering.
- ETH Zurich — Καταχώριση του TamperBench στα πρακτικά ACM SIGKDD 2026.
- NTIA — Dual-Use Foundation Models with Widely Available Model Weights Report, 2024.
