AI slop στην επιστήμη: Όταν μια πειστική εργασία κρύβει ανύπαρκτη έρευνα
Μια επιστημονική εργασία μπορεί να έχει περίληψη, εξισώσεις, διαγράμματα και προσεγμένη βιβλιογραφία, χωρίς να περιγράφει έρευνα που έγινε ποτέ. Αυτό δοκίμασε ο Benjamin Skuse, δημοσιογράφος με διδακτορικό στα εφαρμοσμένα μαθηματικά, χρησιμοποιώντας εργαλεία τεχνητής νοημοσύνης και τη συνεργασία του περιοδικού IEEE Access.
Το πρώτο κείμενο σταμάτησε στους ελέγχους, καθώς περιείχε ανύπαρκτες ή μη επαληθεύσιμες βιβλιογραφικές αναφορές. Ένα δεύτερο, που δημιουργήθηκε από σύστημα αυτοματοποιημένης έρευνας, προκάλεσε διαφορετικές ενστάσεις. Κανένα δεν δημοσιεύτηκε ούτε πέρασε από επιστημονική αξιολόγηση. Το ρεπορτάζ του IEEE Spectrum περιγράφει τη δοκιμή.
Η υπόθεση τροφοδοτεί το ερώτημα που θέτει ο αρχισυντάκτης Harry Goldstein σε πρόσφατο άρθρο γνώμης του: μπορούν οι μηχανισμοί προστασίας της επιστημονικής γνώσης να ακολουθήσουν τον ρυθμό παραγωγής της AI;
Η απάντηση χρειάζεται περισσότερη προσοχή από έναν τίτλο περί «τέλους της επιστήμης». Η ύπαρξη προβληματικών κειμένων είναι τεκμηριωμένη. Το πόσο διαδεδομένα είναι, πόσα εντοπίζονται και πώς επηρεάζουν την κοινωνική εμπιστοσύνη αποτελούν διαφορετικά ερωτήματα.
Τι σημαίνει AI slop στην επιστημονική δημοσίευση
Ο όρος «AI slop» χρησιμοποιείται για περιεχόμενο χαμηλής ποιότητας που παράγεται μαζικά με τεχνητή νοημοσύνη και διακινείται χωρίς επαρκή έλεγχο. Στην επιστήμη μπορεί να περιλαμβάνει επινοημένες παραπομπές, ατεκμηρίωτους ισχυρισμούς ή κείμενα που μιμούνται τη μορφή μιας μελέτης χωρίς να διαθέτουν αντίστοιχη ερευνητική βάση.
Δεν περιγράφει, όμως, κάθε χρήση AI. Η γλωσσική επιμέλεια, η βοήθεια στον προγραμματισμό ή η υποστήριξη μιας ανάλυσης δεν μετατρέπουν αυτομάτως μια εργασία σε απάτη. Σημασία έχουν η ορθότητα, η διαφάνεια και η ευθύνη για το τελικό αποτέλεσμα.
Αυτή η διάκριση αποτυπώνεται στις οδηγίες του IEEE. Η χρήση παραγόμενου περιεχομένου —κειμένου, εικόνων, διαγραμμάτων ή κώδικα— πρέπει να δηλώνεται, με αναφορά στο εργαλείο και στα σχετικά τμήματα της εργασίας. Η απλή γλωσσική και γραμματική βελτίωση αντιμετωπίζεται διαφορετικά, αν και συνιστάται γνωστοποίηση.
Το σωστό ερώτημα επομένως είναι τι έκανε το εργαλείο και ποιος έλεγξε όσα παρήγαγε. Μια ετικέτα «με AI» δεν αρκεί ούτε για απόρριψη ούτε για αποδοχή.
Τι απέδειξε —και τι δεν απέδειξε— το πείραμα
Η δοκιμή του Skuse έγινε κατόπιν συνεννόησης με το IEEE Access. Δεν ήταν μια κρυφή επιχείρηση που κατέληξε στη δημοσίευση πλαστής επιστήμης.
Στη δεύτερη προσπάθεια χρησιμοποιήθηκε το FARS, σύστημα σχεδιασμένο να εκτελεί υπολογιστική έρευνα και να συντάσσει εργασία. Εκεί οι παραπομπές ήταν πραγματικές, αλλά η εκδοτική ομάδα επισήμανε υπερβολική εξάρτηση από προδημοσιεύσεις και προβλήματα σε εικόνες. Οι επιστημονικοί ισχυρισμοί δεν επαληθεύτηκαν ανεξάρτητα. IEEE Spectrum
Μια προδημοσίευση, βέβαια, δεν είναι εξ ορισμού αναξιόπιστη. Είναι εργασία που μπορεί να μην έχει ακόμη αξιολογηθεί από ανεξάρτητους ειδικούς. Η ένσταση ενός περιοδικού για τη βιβλιογραφία δεν αποδεικνύει από μόνη της ότι όλα τα αποτελέσματα είναι ψευδή.
Το πείραμα δείχνει ότι ορισμένοι έλεγχοι λειτούργησαν στις συγκεκριμένες περιπτώσεις. Δεν μετρά το ποσοστό επιτυχίας τους σε χιλιάδες διαφορετικές υποβολές.
Οι ανύπαρκτες παραπομπές έχουν μετρηθεί
Το πρόβλημα της κατασκευασμένης βιβλιογραφίας έχει εξεταστεί και σε επιστημονικές μελέτες. Έρευνα του 2023 στο Scientific Reports αξιολόγησε 636 παραπομπές από 84 κείμενα που παρήγαγαν τα GPT-3.5 και GPT-4 για 42 θέματα.
Στο συγκεκριμένο πείραμα, το 55% των παραπομπών του GPT-3.5 και το 18% εκείνων του GPT-4 ήταν κατασκευασμένες. Οι ερευνητές εντόπισαν επίσης σφάλματα σε αναφορές που αντιστοιχούσαν σε πραγματικές δημοσιεύσεις. Η δημοσιευμένη μελέτη καταγράφει τη μεθοδολογία και τα αποτελέσματα.
Οι αριθμοί αφορούν εκείνα τα μοντέλα και εκείνες τις συνθήκες. Δεν αποτελούν μέτρηση της αξιοπιστίας όλων των σημερινών εργαλείων.
Η πρακτική σημασία του ευρήματος παραμένει σαφής: ένας τίτλος, ένα όνομα συγγραφέα και ένας αριθμός τόμου μπορούν να συνδυαστούν σε κάτι που μοιάζει απολύτως φυσιολογικό, αλλά δεν οδηγεί πουθενά. Η επιστημονική μορφοποίηση δεν εγγυάται πραγματική πηγή.
Και η επαλήθευση έχει δύο στάδια. Πρώτα ελέγχεται αν η πηγή υπάρχει. Έπειτα, αν πράγματι υποστηρίζει τον ισχυρισμό για τον οποίο χρησιμοποιείται.
Πώς ένα προβληματικό κείμενο αποκτά κύρος
Μελέτη του 2024 στο Harvard Kennedy School Misinformation Review εξέτασε ύποπτες εργασίες που εμφανίζονταν στο Google Scholar. Οι ερευνητές εντόπισαν 139 κείμενα με ενδείξεις παραπλανητικής ή αδήλωτης χρήσης γενετικής AI, σε περιοδικά, αποθετήρια και άλλες πηγές.
Η αναζήτηση βασίστηκε σε χαρακτηριστικές φράσεις που αφήνουν ορισμένες απαντήσεις γλωσσικών μοντέλων. Επομένως, δεν ήταν αντιπροσωπευτική απογραφή της επιστημονικής βιβλιογραφίας και δεν επιτρέπει να υπολογιστεί το συνολικό ποσοστό προβληματικών εργασιών. Η μελέτη και οι περιορισμοί της είναι διαθέσιμοι δημόσια.
Αναδεικνύει, ωστόσο, έναν μηχανισμό διάδοσης: αμφίβολα κείμενα μπορούν να εμφανίζονται δίπλα σε ελεγμένη έρευνα. Για έναν μη ειδικό αναγνώστη, η παρουσία σε μια ακαδημαϊκή μηχανή αναζήτησης ενδέχεται να λειτουργήσει ως άτυπη σφραγίδα αξιοπιστίας.
Από εκεί μπορεί να περάσουν σε μια παρουσίαση, ένα άρθρο ή μια νέα βιβλιογραφική ανασκόπηση. Η ανακύκλωση της ίδιας αναφοράς δημιουργεί την εντύπωση πολλών επιβεβαιώσεων, ακόμη κι όταν όλες επιστρέφουν στην ίδια προβληματική αφετηρία.
Γιατί ένας ανιχνευτής AI δεν αρκεί
Τα εργαλεία αναγνώρισης μηχανικά παραγόμενου κειμένου εξετάζουν διαφορετικό πράγμα από την επιστημονική εγκυρότητα. Ακόμη και μια σωστή πρόβλεψη για την προέλευση ενός κειμένου δεν αποδεικνύει αν το πείραμα έγινε ή αν η ανάλυση είναι ορθή.
Υπάρχει επίσης το ζήτημα των λανθασμένων κατηγοριών. Μελέτη του 2023 στο Patterns βρήκε ότι οι ανιχνευτές που εξετάστηκαν ταξινομούσαν συχνά αγγλικά κείμενα μη φυσικών ομιλητών ως παραγόμενα από AI. Η δημοσίευση στο Patterns περιγράφει αυτόν τον κίνδυνο.
Η εικόνα δεν είναι ίδια παντού. Εργασία του 2026 στο EACL Student Research Workshop, με επίκεντρο την τσεχική γλώσσα και διαφορετικούς ανιχνευτές, δεν βρήκε αντίστοιχη συστηματική μεροληψία. Η νεότερη μελέτη δείχνει γιατί χρειάζεται αξιολόγηση ανά γλώσσα, εργαλείο και συνθήκες χρήσης.
Ένα αυτόματο σκορ μπορεί να δώσει αφορμή για διερεύνηση. Δεν πρέπει να αντιμετωπίζεται ως απόδειξη πλαστογραφίας. Αντίστοιχα, το να μη σημάνει συναγερμό δεν αποτελεί πιστοποιητικό ποιότητας.
Η ευθύνη παραμένει στους ανθρώπους
Οι συστάσεις της Διεθνούς Επιτροπής Συντακτών Ιατρικών Περιοδικών, ICMJE, θέτουν μια σαφή αρχή: οι άνθρωποι παραμένουν υπεύθυνοι για την ακρίβεια του περιεχομένου που παράγεται με βοήθεια AI. Τα εργαλεία αυτά δεν πληρούν τις προϋποθέσεις για να αναφέρονται ως συγγραφείς.
Η αρχή έχει πρακτικό βάρος. Ο ερευνητής που υπογράφει πρέπει να μπορεί να εξηγήσει την προέλευση των δεδομένων, τις επιλογές της ανάλυσης και τον έλεγχο των αποτελεσμάτων. Η παραπομπή σε ένα chatbot δεν μεταφέρει αλλού αυτή την ευθύνη.
Για τους εκδότες, η πρόκληση είναι να συνδυάζουν ελέγχους βιβλιογραφίας και εικόνων με επιστημονική κρίση. Για τους αναγνώστες και τους δημοσιογράφους, είναι να ακολουθούν την αλυσίδα των τεκμηρίων: ποια μελέτη υπάρχει, τι ακριβώς εξέτασε και πόσο μακριά επιτρέπουν τα δεδομένα να φτάσει το συμπέρασμα.
Εμπιστοσύνη που μπορεί να ελεγχθεί
Η ανησυχία ότι το AI slop θα διαβρώσει την εμπιστοσύνη στην επιστήμη είναι εύλογη. Οι παραπάνω μελέτες, όμως, δεν μετρούν από μόνες τους πόση κοινωνική εμπιστοσύνη έχει ήδη χαθεί εξαιτίας του.
Αυτό που τεκμηριώνουν είναι συγκεκριμένα προβλήματα στην παραγωγή, στην αναγνώριση και στη διάδοση περιεχομένου. Η αντιμετώπισή τους απαιτεί να γίνει πιο εύκολος ο έλεγχος της έρευνας πίσω από το κείμενο: διαθέσιμα δεδομένα όπου επιτρέπεται, σαφής μεθοδολογία, επαληθεύσιμες πηγές και υπεύθυνοι συγγραφείς.
Όσο φθηνότερη γίνεται η παραγωγή μιας πειστικής εργασίας, τόσο μεγαλύτερη αξία αποκτά η δυνατότητα να εξετάσουμε πώς προέκυψε. Εκεί θα στηριχθεί η εμπιστοσύνη: στην πρόσβαση στα τεκμήρια και στην προθυμία διόρθωσης όταν ο έλεγχος αποκαλύπτει λάθη.
Πηγές
- IEEE Spectrum — Guarding the Gates of Knowledge.
- IEEE Spectrum — I Used AI to Fake a Scientific Paper. Here’s What Happened.
- IEEE — Author Guidelines for Artificial Intelligence (AI)-Generated Text.
- Scientific Reports — Fabrication and errors in the bibliographic citations generated by ChatGPT, 2023.
- HKS Misinformation Review — GPT-fabricated scientific papers on Google Scholar: Key features, spread, and implications for preempting evidence manipulation, 2024.
- Patterns — GPT detectors are biased against non-native English writers, 2023.
- EACL Student Research Workshop — Different Time, Different Language: Revisiting the Bias Against Non-Native Speakers in GPT Detectors, 2026.
- ICMJE — Use of Artificial Intelligence in Publishing.
