Το εσωτερικό του κυκλικού αναγνωστηρίου του Βρετανικού Μουσείου.

Τεχνητή νοημοσύνη: Γιατί μια απάντηση με πηγές μπορεί να είναι λάθος

Η απάντηση εμφανίζεται μέσα σε λίγα δευτερόλεπτα. Έχει καθαρές παραγράφους, συγκεκριμένα στοιχεία και μικρούς αριθμούς που οδηγούν σε πηγές. Πατώντας έναν σύνδεσμο, ανοίγει μια πραγματική επιστημονική εργασία. Μόνο που η εργασία δεν λέει ακριβώς αυτό που της αποδίδει το σύστημα.

Αυτό είναι ένα από τα δυσκολότερα προβλήματα της αναζήτησης με τεχνητή νοημοσύνη. Η επινοημένη βιβλιογραφία μπορεί να εντοπιστεί όταν ο τίτλος ή ο σύνδεσμος δεν υπάρχουν. Η λανθασμένη χρήση μιας υπαρκτής πηγής απαιτεί περισσότερη προσοχή: πρέπει να διαβάσεις το περιεχόμενο και να το συγκρίνεις με τον ισχυρισμό.

Οι σχετικές μελέτες εξετάζουν πλέον και τις δύο περιπτώσεις. Παράλληλα, ερευνητικά συστήματα δείχνουν ότι η στοχευμένη ανάκτηση πληροφοριών μπορεί να βελτιώσει ουσιαστικά τις απαντήσεις. Το ερώτημα για τον αναγνώστη παραμένει πρακτικό: τι ακριβώς πρέπει να ελέγχει πριν εμπιστευτεί μια τεκμηριωμένη, τουλάχιστον στην εμφάνιση, απάντηση;

Η ευχέρεια στη γλώσσα δεν αποτελεί έλεγχο γεγονότων

Ένα μεγάλο γλωσσικό μοντέλο παράγει κείμενο αξιοποιώντας στατιστικά μοτίβα που έμαθε κατά την εκπαίδευσή του. Αυτή η διαδικασία μπορεί να δώσει σωστές πληροφορίες, αλλά μπορεί επίσης να δημιουργήσει ανακριβές περιεχόμενο με απολύτως πειστική διατύπωση.

Το αμερικανικό National Institute of Standards and Technology περιγράφει το φαινόμενο ως «confabulation»: παραγωγή λανθασμένου ή ψευδούς περιεχομένου που παρουσιάζεται με βεβαιότητα. Στο πλαίσιο διαχείρισης κινδύνων για την παραγωγική AI επισημαίνει ότι το πρόβλημα περιλαμβάνει και επινοημένες παραπομπές ή εξηγήσεις που κάνουν μια απάντηση να φαίνεται πιο αξιόπιστη. Πηγή: NIST.

Η μορφοποίηση μπορεί να ενισχύσει αυτή την εντύπωση. Μια πλήρης βιβλιογραφική αναφορά, με συγγραφείς, χρονολογία και επιστημονικό περιοδικό, μοιάζει με αποτέλεσμα έρευνας. Ωστόσο, η γλωσσική ικανότητα να αναπαράγεται αυτή η μορφή δεν αποδεικνύει ότι προηγήθηκε ανάγνωση της συγκεκριμένης εργασίας.

Για τον χρήστη, επομένως, η σιγουριά του ύφους δεν είναι χρήσιμο μέτρο ακρίβειας. Η επαλήθευση χρειάζεται να γίνει έξω από την ίδια την απάντηση.

Τρία διαφορετικά ερωτήματα για κάθε παραπομπή

Ο πρώτος έλεγχος είναι απλός: υπάρχει η πηγή; Ανοίγει ο σύνδεσμος; Αντιστοιχούν ο τίτλος, οι συγγραφείς και η ημερομηνία σε πραγματικό δημοσίευμα;

Ο δεύτερος είναι απαιτητικότερος: στηρίζει η πηγή τον συγκεκριμένο ισχυρισμό; Ένα άρθρο μπορεί να αναφέρεται στο ίδιο θέμα, χωρίς να επιβεβαιώνει το συμπέρασμα που του αποδίδεται.

Ο τρίτος αφορά το εύρος της τεκμηρίωσης. Ακόμη και μια σωστή παραπομπή δεν καλύπτει αυτομάτως ολόκληρη την παράγραφο δίπλα της.

Μια μελέτη στο Nature Communications το 2025 προσέγγισε ακριβώς αυτή τη διαφορά. Οι ερευνητές χώρισαν απαντήσεις σε επιμέρους, επαληθεύσιμους ιατρικούς ισχυρισμούς και εξέτασαν κατά πόσο οι παρατιθέμενες πηγές τούς υποστήριζαν. Η μέθοδος περιλάμβανε αυτοματοποιημένα στάδια και έλεγχο από γιατρούς. Οι συγγραφείς αναγνώρισαν επίσης ότι η αξιολόγηση της υποστήριξης μιας δήλωσης μπορεί να έχει ασάφειες. Πηγή: Nature Communications.

Η χρήσιμη ιδέα είναι η μονάδα ελέγχου: κάθε ουσιαστικός ισχυρισμός ξεχωριστά, όχι απλώς ο αριθμός των συνδέσμων στο τέλος.

Τι έδειξε μια δοκιμή στην ειδησεογραφική αναζήτηση

Τον Μάρτιο του 2025, το Tow Center for Digital Journalism του Columbia δημοσίευσε έρευνα σε οκτώ εργαλεία αναζήτησης με AI. Οι ερευνητές έδωσαν αποσπάσματα ειδησεογραφικών άρθρων και ζήτησαν να εντοπιστούν οι αρχικές δημοσιεύσεις.

Πραγματοποιήθηκαν 1.600 ερωτήματα, με υλικό από 20 εκδότες. Συνολικά, περισσότερες από έξι στις δέκα απαντήσεις περιείχαν λάθη με βάση τα κριτήρια της δοκιμής, που αφορούσαν το σωστό άρθρο, τον εκδότη και τον σύνδεσμο. Καταγράφηκαν επίσης επινοημένες διευθύνσεις και παραπομπές σε αναδημοσιεύσεις. Πηγή: Tow Center / Columbia Journalism Review.

Το ποσοστό χρειάζεται το πλαίσιό του. Δεν σημαίνει ότι «το 60% όσων λέει η τεχνητή νοημοσύνη είναι λάθος». Η δοκιμή αφορούσε συγκεκριμένη εργασία, συγκεκριμένα εργαλεία και τις εκδόσεις τους εκείνη την περίοδο. Οι ίδιοι οι ερευνητές επισημαίνουν ότι ο σχεδιασμός δεν αναπαριστά αναγκαστικά τη συνηθισμένη χρήση.

Το εύρημα δείχνει ότι η πρόσβαση στην αναζήτηση δεν εξασφαλίζει από μόνη της σωστή απόδοση της πληροφορίας στην αρχική πηγή. Δεν αποτελεί σημερινή κατάταξη των υπηρεσιών.

Πώς η αναζήτηση μπορεί να βελτιώσει την απάντηση

Μια βασική τεχνική αντιμετώπισης είναι το Retrieval-Augmented Generation, γνωστό ως RAG: παραγωγή απαντήσεων με υποστήριξη από ανακτημένες πληροφορίες.

Σε μια τέτοια διαδικασία, το σύστημα αναζητά σχετικά έγγραφα ή αποσπάσματα και τα χρησιμοποιεί ως υλικό για τη σύνθεση της απάντησης. Δεν στηρίζεται αποκλειστικά στις πληροφορίες που έχουν ενσωματωθεί στις παραμέτρους του μοντέλου κατά την εκπαίδευση.

Η εργασία των Patrick Lewis και συνεργατών, που παρουσιάστηκε στο NeurIPS το 2020, περιέγραψε αυτή τη σύνδεση ανάμεσα σε μηχανισμό ανάκτησης και μοντέλο παραγωγής κειμένου, καταγράφοντας βελτιώσεις σε εργασίες που απαιτούσαν εξωτερική γνώση. Πηγή: NeurIPS.

Η προσέγγιση δημιουργεί μια πιο ελέγξιμη διαδρομή από το έγγραφο προς την απάντηση. Η ποιότητα, όμως, εξαρτάται από περισσότερα από ένα βήματα: ποια έγγραφα εντοπίστηκαν, ποια αποσπάσματα επιλέχθηκαν και πώς αποδόθηκαν στο τελικό κείμενο.

Έτσι, ένας κατάλογος αξιόπιστων εγγράφων αποτελεί καλή αφετηρία. Για να προκύψει αξιόπιστη σύνθεση, πρέπει να διατηρηθούν και οι περιορισμοί που περιγράφουν τα ίδια τα έγγραφα.

Το OpenScholar δείχνει μια πιο στοχευμένη προσέγγιση

Στις 4 Φεβρουαρίου 2026, δημοσιεύτηκε στο Nature η μελέτη για το OpenScholar, ένα εξειδικευμένο σύστημα σύνθεσης επιστημονικής βιβλιογραφίας.

Στη μελέτη, το σύστημα αξιοποιούσε μια συλλογή 45 εκατομμυρίων εργασιών ανοικτής πρόσβασης. Η αξιολόγηση περιλάμβανε ερωτήματα από την πληροφορική, τη φυσική, τις νευροεπιστήμες και τη βιοϊατρική.

Οι ερευνητές ανέφεραν καλύτερες επιδόσεις του OpenScholar-8B στην ορθότητα απαντήσεων έναντι των συγκεκριμένων συστημάτων σύγκρισης σε απαιτητική εργασία σύνθεσης πολλών δημοσιεύσεων. Το σύστημα συνδύαζε ανάκτηση σχετικών αποσπασμάτων, εξειδικευμένη εκπαίδευση και διαδικασία επανεξέτασης της απάντησης. Πηγή: Nature — OpenScholar.

Πρόκειται για αξιολογημένη επιστημονική δημοσίευση, αλλά η δοκιμή του προτεινόμενου συστήματος πραγματοποιήθηκε από την ερευνητική ομάδα που το ανέπτυξε. Τα αποτελέσματα αφορούν τα συγκεκριμένα δεδομένα και κριτήρια αξιολόγησης. Δεν αποδεικνύουν καθολική υπεροχή απέναντι σε κάθε σημερινό μοντέλο.

Δείχνουν, ωστόσο, ότι ο σχεδιασμός της διαδικασίας αναζήτησης και τεκμηρίωσης μπορεί να επηρεάζει ουσιαστικά την ποιότητα. Η αύξηση του μεγέθους ενός μοντέλου δεν είναι η μόνη διαθέσιμη κατεύθυνση βελτίωσης.

Πώς γίνεται ένας ουσιαστικός έλεγχος

Για μια εργασία, ένα δημοσίευμα ή μια επαγγελματική αναφορά, ο έλεγχος μπορεί να ξεκινήσει από τους ισχυρισμούς που στηρίζουν το βασικό συμπέρασμα.

Ανοίγουμε την αρχική πηγή και αναζητούμε το σχετικό σημείο. Ελέγχουμε αν ο αριθμός αφορά το ίδιο δείγμα, την ίδια περίοδο και τις ίδιες συνθήκες. Αν η απάντηση μιλά για επιτυχημένη τεχνολογία, διακρίνουμε αν η πηγή περιγράφει εργαστηριακό πείραμα, πιλοτική εφαρμογή ή κανονική λειτουργία.

Ας υποθέσουμε ότι μια εργασία αναφέρει βελτίωση σε ένα συγκεκριμένο σύνολο δοκιμών. Η διατύπωση «το σύστημα αποδίδει καλύτερα σε κάθε χρήση» υπερβαίνει αυτό το εύρημα, ακόμη κι αν ο σύνδεσμος είναι σωστός. Πρόκειται για υποθετικό παράδειγμα του είδους της σύγκρισης που χρειάζεται.

Βοηθά επίσης να ζητάμε από το εργαλείο να ξεχωρίζει τα καταγεγραμμένα ευρήματα από τη δική του σύνθεση. Αυτή η οδηγία κάνει τον έλεγχο ευκολότερο, χωρίς να τον αντικαθιστά.

Η αξία βρίσκεται στον χρόνο που κερδίζουμε μετά τον έλεγχο

Ένας φοιτητής μπορεί να χρησιμοποιήσει την AI για μια πρώτη χαρτογράφηση της βιβλιογραφίας. Ένας δημοσιογράφος για να εντοπίσει διαφορετικές προσεγγίσεις. Μια επιχείρηση για να οργανώσει πληροφορίες διάσπαρτες σε πολλά έγγραφα.

Σε αυτές τις χρήσεις, έχει σημασία πόσο χρόνο απαιτεί η επαλήθευση. Αν κάθε πρόταση χρειάζεται ανακατασκευή από την αρχή, η γρήγορη παραγωγή κειμένου προσφέρει μικρότερο όφελος από όσο φαίνεται.

Η καλύτερη απάντηση αφήνει σαφή διαδρομή προς τα στοιχεία της: συγκεκριμένη πηγή, σχετικό απόσπασμα και διατύπωση ανάλογη με τη βεβαιότητα των ευρημάτων. Οι παραπομπές αποκτούν αξία όταν επιτρέπουν στον αναγνώστη να ελέγξει αυτή τη διαδρομή. Εκεί κρίνεται αν η τεχνητή νοημοσύνη διευκολύνει πραγματικά την έρευνα.

Πηγές

ΣΧΕΤΙΚΑ ΑΡΘΡΑ