Το αόρατο σημάδι του ChatGPT: τι αποκαλύπτει και πού αποτυγχάνει
Μια απάντηση του ChatGPT μπορεί να περιέχει κάτι που δεν βλέπει ο αναγνώστης: ένα στατιστικό μοτίβο στις επιλογές των λέξεων, σχεδιασμένο για να αναγνωρίζεται αργότερα από ειδικό ανιχνευτή. Δεν εμφανίζεται ως υπογραφή στο τέλος της παραγράφου. Βρίσκεται μέσα στον τρόπο με τον οποίο συντάχθηκε.
Η OpenAI παρουσίασε τον Οκτώβριο το textGrain, συνδέοντάς το με τις ευρωπαϊκές απαιτήσεις για την αναγνώριση περιεχομένου τεχνητής νοημοσύνης. Το νέο ρεπορτάζ του IEEE Spectrum αναδεικνύει, ωστόσο, το κρίσιμο ερώτημα: πόση εμπιστοσύνη μπορούμε να δώσουμε σε ένα σημάδι που εξασθενεί όταν το κείμενο μικραίνει ή αλλάζει;
Η απάντηση έχει σημασία πολύ πέρα από την OpenAI. Αφορά μέσα ενημέρωσης, εκπαιδευτικούς, πλατφόρμες και επιχειρήσεις που αναζητούν έναν αξιόπιστο τρόπο να καταλαβαίνουν από πού προέρχεται ένα κείμενο.
Πώς μπαίνει ένα υδατογράφημα μέσα στις λέξεις
Ένα γλωσσικό μοντέλο δημιουργεί κείμενο διαδοχικά, επιλέγοντας μικρές μονάδες που ονομάζονται tokens. Μπορεί να είναι ολόκληρες λέξεις ή τμήματά τους. Σε κάθε βήμα υπάρχουν πιθανές συνέχειες, με διαφορετική πιθανότητα επιλογής.
Το textGrain συνδέει αυτή τη διαδικασία με ψευδοτυχαίες τιμές που παράγονται με ένα μυστικό κλειδί. Έτσι ενσωματώνεται ένα μοτίβο το οποίο ο αντίστοιχος ανιχνευτής μπορεί να αναζητήσει στο τελικό κείμενο. Δεν χρειάζεται να προστεθούν ορατά σύμβολα ή μια ξεχωριστή ετικέτα.
Η ιδιαίτερη προσέγγισή του αφορά την «εντροπία», δηλαδή την αβεβαιότητα των επιλογών κατά την παραγωγή. Οι δημιουργοί του περιγράφουν έναν τρόπο να ρυθμίζεται πόση από αυτή την αβεβαιότητα θυσιάζεται για την ενίσχυση του σήματος. Πρόκειται για συμβιβασμό ανάμεσα στην αναγνωρισιμότητα και στην ποικιλία των απαντήσεων. Η σχετική δημοσίευση είναι τεχνική αναφορά, όχι αξιολογημένο επιστημονικό άρθρο. Τεχνική αναφορά textGrain
Αυτό εξηγεί και μια συχνή παρανόηση: ο ανιχνευτής δεν διαβάζει απλώς μια παράγραφο και αποφασίζει αν «μοιάζει με AI». Αναζητά ένα συγκεκριμένο σήμα που έχει ενσωματωθεί κατά τη δημιουργία της.
Τι δείχνουν πραγματικά οι δοκιμές
Η OpenAI ανακοίνωσε σταδιακή προσθήκη του υδατογραφήματος σε επιλέξιμες απαντήσεις ChatGPT και Codex στην Ευρωπαϊκή Ένωση. Για το API προβλέπεται προαιρετική ενεργοποίηση σε επιλεγμένα μοντέλα, ενώ η αρχική πρόσβαση στον ανιχνευτή περιορίζεται σε εγκεκριμένους ερευνητές και εξειδικευμένους οργανισμούς.
Οι δικές της μετρήσεις δείχνουν μεγάλες διαφορές ανάλογα με το κείμενο. Σε απαντήσεις θεματολογίας όπως η ψυχολογία, η ανίχνευση έφθανε περίπου το 80% στα 200 tokens και το 95% στα 400, με στόχο ποσοστό ψευδώς θετικών αποτελεσμάτων 1%.
Σε διαφορετική δοκιμή αποσπασμάτων 400 tokens, η αντικατάσταση του 10% των λέξεων με συνώνυμα μείωσε την ανίχνευση από περίπου 92% σε 66%. Με αντικατάσταση του 25%, έπεσε στο 17%. Πρόκειται για αποτελέσματα συγκεκριμένων εταιρικών δοκιμών, όχι για καθολική μέτρηση αξιοπιστίας. OpenAI
Ούτε τα tokens μετατρέπονται σε σταθερό αριθμό λέξεων για κάθε γλώσσα. Συνεπώς, ένα ποσοστό που προκύπτει από αγγλικά αποσπάσματα δεν αρκεί για να περιγράψει την απόδοση σε ελληνικές ειδήσεις, μεταφράσεις ή τεχνικά εγχειρίδια.
Σύμφωνα με το IEEE Spectrum, ανεξάρτητοι ερευνητές που απέκτησαν πρόσβαση δεν είχαν ακόμη ολοκληρώσει αξιολόγηση. Η ανθεκτικότητα σε διαφορετικές γλώσσες, θέματα και μήκη κειμένου παραμένει ουσιαστικό πεδίο ελέγχου. IEEE Spectrum
Γιατί το πρόβλημα δεν περιορίζεται στην OpenAI
Η Google DeepMind έχει περιγράψει ανάλογους περιορισμούς για το SynthID Text. Η τεχνολογία λειτουργεί καλύτερα σε μεγαλύτερες απαντήσεις, όπου το μοντέλο έχει περιθώριο να διατυπώσει το ίδιο νόημα με πολλούς τρόπους. Αντίθετα, μια σύντομη πραγματολογική απάντηση αφήνει λιγότερες επιλογές.
Αν ρωτήσουμε ποια είναι η πρωτεύουσα μιας χώρας, η σωστή απάντηση δεν προσφέρει την ίδια ελευθερία διατύπωσης με ένα δοκίμιο. Οι διαθέσιμες λέξεις περιορίζονται από την ίδια την πληροφορία. Η DeepMind επισημαίνει επίσης δυσκολίες σε μεταφράσεις και εκτεταμένη επανεγγραφή. Google DeepMind
Για μια αίθουσα σύνταξης, αυτό δημιουργεί ένα πρακτικό παράδοξο. Η επιμέλεια μπορεί να βελτιώνει ένα κείμενο, αφαιρώντας επαναλήψεις ή διορθώνοντας ασάφειες, αλλά ταυτόχρονα να δυσκολεύει την αναγνώριση της αρχικής προέλευσής του. Η απώλεια του σήματος δεν σημαίνει απαραίτητα προσπάθεια εξαπάτησης.
Αντίστοιχα, η παρουσία του δεν περιγράφει ολόκληρη τη δημιουργική διαδικασία. Δεν δείχνει ποιος έκανε την έρευνα, ποιος επέλεξε τα στοιχεία ή ποιος ανέλαβε την τελική ευθύνη.
Ένα θετικό αποτέλεσμα δεν είναι ετυμηγορία
Το 1% των ψευδώς θετικών αποτελεσμάτων χρειάζεται προσεκτική ανάγνωση. Δεν σημαίνει ότι κάθε θετική ένδειξη έχει 99% πιθανότητα να είναι σωστή. Η ερμηνεία εξαρτάται και από το πόσα από τα εξεταζόμενα κείμενα περιέχουν πράγματι υδατογράφημα.
Ένα υποθετικό παράδειγμα το κάνει σαφέστερο: αν εξετάζονταν 10.000 κείμενα χωρίς υδατογράφημα και ίσχυε ακριβώς ποσοστό σφάλματος 1%, θα προέκυπταν περίπου 100 λανθασμένες επισημάνσεις. Αυτό δεν είναι πρόβλεψη για το textGrain σε πραγματική χρήση· δείχνει γιατί ακόμη και ένα μικρό ποσοστό αποκτά βάρος σε μεγάλη κλίμακα.
Για έναν εκπαιδευτικό ή εργοδότη, επομένως, η ένδειξη χρειάζεται να συνοδεύεται από άλλα στοιχεία και δυνατότητα εξήγησης. Το ίδιο ισχύει για το αρνητικό αποτέλεσμα: η απουσία σήματος δεν αποτελεί πιστοποιητικό ανθρώπινης συγγραφής.
Και υπάρχει μια ακόμη διάκριση. Η προέλευση δεν ισοδυναμεί με ακρίβεια. Ένα κείμενο μπορεί να έχει αναγνωρίσιμη τεχνητή προέλευση και να περιέχει σωστά στοιχεία — ή να είναι ανθρώπινο και απολύτως παραπλανητικό.
Τι ζητά η Ευρώπη — και τι δεν ζητά
Το άρθρο 50 του AI Act προβλέπει ότι οι πάροχοι συστημάτων που παράγουν συνθετικό περιεχόμενο πρέπει να εξασφαλίζουν μηχανικά αναγνώσιμη σήμανση και δυνατότητα ανίχνευσής του. Οι λύσεις οφείλουν να είναι αποτελεσματικές, διαλειτουργικές, ανθεκτικές και αξιόπιστες, στον βαθμό που αυτό είναι τεχνικά εφικτό.
Ο νόμος δεν κατονομάζει το textGrain ούτε επιβάλλει μία αποκλειστική τεχνολογία. Διαφορετική είναι η υποχρέωση γνωστοποίησης για όσους δημοσιεύουν AI-generated κείμενα ενημέρωσης για θέματα δημόσιου ενδιαφέροντος. Εκεί προβλέπεται εξαίρεση όταν υπάρχει ανθρώπινος έλεγχος ή συντακτική επιμέλεια και φυσικό ή νομικό πρόσωπο αναλαμβάνει τη συντακτική ευθύνη. Άρθρο 50 — Ευρωπαϊκή Επιτροπή
Οι επίσημες διευκρινίσεις τονίζουν ότι ένας επιφανειακός ορθογραφικός ή γραμματικός έλεγχος δεν αρκεί ως ανθρώπινη εποπτεία. Αναφέρουν επίσης περιορισμένη μεταβατική περίοδο έως τις 2 Δεκεμβρίου 2026 για την υποχρέωση σήμανσης συγκεκριμένων συστημάτων που είχαν ήδη διατεθεί πριν από τις 2 Αυγούστου. Άρα, η εφαρμογή δεν περιγράφεται σωστά με ένα απλό «όλα τα κείμενα πρέπει ήδη να έχουν υδατογράφημα». Διευκρινίσεις της Επιτροπής
Το δύσκολο βήμα είναι η σωστή χρήση
Ευρωπαϊκή τεχνική μελέτη για την αναγνώριση συνθετικού κειμένου αντιμετωπίζει την αξιοπιστία ως ευρύτερο ζήτημα: περιλαμβάνει την αντοχή στην επεξεργασία, τη σταθερή συμπεριφορά σε διαφορετικά περιβάλλοντα, την προσβασιμότητα του ελέγχου και τη σωστή ερμηνεία των αποτελεσμάτων. Υπηρεσία Εκδόσεων της ΕΕ
Αυτό είναι και το ουσιαστικό κριτήριο για το textGrain. Ένα χρήσιμο εργαλείο δεν χρειάζεται να υπόσχεται αλάνθαστη ανίχνευση. Χρειάζεται να περιγράφει με σαφήνεια πότε λειτουργεί, πότε αποτυγχάνει και τι δικαιολογείται να συμπεράνει ο χρήστης του.
Το αόρατο σημάδι μπορεί να προσθέσει ένα στοιχείο διαφάνειας. Η εμπιστοσύνη, όμως, θα εξαρτηθεί από ορατές διαδικασίες: ανεξάρτητους ελέγχους, τεκμηρίωση και ανθρώπους που αναλαμβάνουν ευθύνη για όσα δημοσιεύουν.
Πηγές
- IEEE Spectrum — AI Text Watermarking May Not Be Able to Meet the E.U.’s New Rules
- OpenAI — Our approach to EU text provenance rules
- Τεχνική αναφορά — textGrain: Entropy-Calibrated Watermarking for Language Model Text
- Google DeepMind — Watermarking AI-generated text and video with SynthID
- Ευρωπαϊκή Επιτροπή — Άρθρο 50 του AI Act
- Ευρωπαϊκή Επιτροπή — Transparency obligations under Article 50 of the AI Act
- Υπηρεσία Εκδόσεων της ΕΕ — Technical solutions for marking and detecting AI generated text content
