RAG: Πώς η τεχνητή νοημοσύνη απαντά από τα αρχεία μας και πού κάνει λάθη
«Ποια διαδικασία ακολουθούμε όταν ένας πελάτης ζητά αντικατάσταση προϊόντος;» Σε μια επιχείρηση, η απάντηση μπορεί να βρίσκεται σε ένα εγχειρίδιο, σε μια νεότερη εγκύκλιο ή σε κάποιο αρχείο που γνωρίζουν μόνο οι παλαιότεροι εργαζόμενοι. Ένα chatbot γενικής χρήσης δεν γνωρίζει αυτομάτως ποιο από αυτά ισχύει.
Αν, όμως, μπορεί να αναζητήσει τα σχετικά έγγραφα πριν απαντήσει, γίνεται πολύ πιο χρήσιμο. Αυτή είναι η βασική ιδέα του RAG, από το Retrieval-Augmented Generation: παραγωγή απαντήσεων με υποστήριξη από πληροφορίες που ανακτώνται από εξωτερικές πηγές.
Η τεχνική συνδέει ένα γλωσσικό μοντέλο με αρχεία, βάσεις γνώσης ή άλλες συλλογές δεδομένων. Δεν εγγυάται ότι κάθε απάντηση θα είναι σωστή. Αλλάζει, όμως, τον τρόπο με τον οποίο το σύστημα αποκτά το υλικό πάνω στο οποίο θα βασιστεί. Πηγή: AWS, εισαγωγή στο RAG.
Το μοντέλο αναζητά πριν συντάξει
Ένα γλωσσικό μοντέλο έχει αποκτήσει ικανότητες και πληροφορίες κατά την εκπαίδευσή του. Αυτό δεν σημαίνει ότι διαθέτει πρόσβαση στο σημερινό εγχειρίδιο μιας εταιρείας ή στην τελευταία έκδοση ενός εσωτερικού κανονισμού.
Με το RAG, η εφαρμογή αναζητά σχετικά αποσπάσματα και τα δίνει στο μοντέλο μαζί με την ερώτηση. Το μοντέλο καλείται στη συνέχεια να συνθέσει την απάντηση χρησιμοποιώντας αυτό το πρόσθετο υλικό.
Το πλεονέκτημα είναι ότι μπορούν να προστεθούν ή να ενημερωθούν πηγές χωρίς να απαιτείται κάθε φορά νέα εκπαίδευση του ίδιου του γλωσσικού μοντέλου. Η ενημέρωση, βέβαια, πρέπει να φτάσει και στο σύστημα αναζήτησης· η απλή αλλαγή ενός αρχείου κάπου στον οργανισμό δεν εξασφαλίζει ότι ο βοηθός βλέπει ήδη τη νέα έκδοση. Πηγή: AWS.
Στο παράδειγμα της αντικατάστασης προϊόντος, η διαφορά είναι ουσιαστική. Ο βοηθός μπορεί να βασιστεί στην πραγματική διαδικασία της επιχείρησης, αντί να περιγράψει μια γενική πρακτική που ακούγεται λογική αλλά δεν εφαρμόζεται εκεί.
Πώς βρίσκει το σωστό σημείο σε χιλιάδες σελίδες
Πριν αρχίσουν οι ερωτήσεις, τα αρχεία συνήθως περνούν από προετοιμασία. Εξάγεται το κείμενό τους, χωρίζεται σε μικρότερα αποσπάσματα και αποθηκεύεται σε μορφή που επιτρέπει την αναζήτηση.
Μια συνηθισμένη μέθοδος χρησιμοποιεί embeddings: αριθμητικές αναπαραστάσεις του περιεχομένου, οι οποίες βοηθούν το σύστημα να εντοπίζει νοηματικές ομοιότητες. Έτσι, μια ερώτηση για «αλλαγή χαλασμένου προϊόντος» μπορεί να συνδεθεί με ενότητα που αναφέρεται σε «αντικατάσταση ελαττωματικού είδους», ακόμη κι αν οι λέξεις διαφέρουν.
Παράλληλα, αποθηκεύονται στοιχεία προέλευσης, όπως ο τίτλος του εγγράφου και η θέση του αποσπάσματος. Αυτά επιτρέπουν στην εφαρμογή να εμφανίζει παραπομπές, ώστε ο αναγνώστης να ελέγχει την πηγή. Πηγή: Microsoft Learn, βασική λειτουργία του RAG.
Η σημασιολογική αναζήτηση δεν καλύπτει όλες τις ανάγκες. Για έναν ακριβή κωδικό ανταλλακτικού ή ένα συγκεκριμένο μήνυμα σφάλματος, η αντιστοίχιση λέξεων και χαρακτήρων μπορεί να είναι καθοριστική. Γι’ αυτό χρησιμοποιούνται και υβριδικές προσεγγίσεις, που συνδυάζουν αναζήτηση νοήματος με αναζήτηση συγκεκριμένων όρων. Πηγή: Anthropic, Contextual Retrieval.
Όταν το απόσπασμα χάνει τα συμφραζόμενά του
Ο τεμαχισμός των εγγράφων διευκολύνει την αναζήτηση, αλλά μπορεί να δημιουργήσει ένα λιγότερο προφανές πρόβλημα: να αποσυνδέσει μια πληροφορία από όσα χρειάζονται για να ερμηνευτεί σωστά.
Ας υποθέσουμε ότι μια παράγραφος γράφει «η προθεσμία παρατείνεται κατά δέκα ημέρες». Χωρίς τον τίτλο, την προηγούμενη παράγραφο ή την ημερομηνία, δεν γνωρίζουμε ποια προθεσμία αφορά και σε ποιες περιπτώσεις εφαρμόζεται. Το απόσπασμα είναι αυθεντικό, αλλά ανεπαρκές.
Η Anthropic έχει περιγράψει μια προσέγγιση που προσθέτει σύντομες πληροφορίες συμφραζομένων σε κάθε τμήμα πριν από την ευρετηρίασή του. Ο στόχος είναι να διατηρείται η σύνδεση του αποσπάσματος με το ευρύτερο έγγραφο. Πρόκειται για συγκεκριμένη τεχνική βελτίωσης της ανάκτησης, όχι για καθολική εγγύηση ακρίβειας. Πηγή: Contextual Retrieval.
Το παράδειγμα δείχνει γιατί η προετοιμασία των δεδομένων έχει τόσο βάρος. Ένα ισχυρό μοντέλο δεν μπορεί να αποκαταστήσει με βεβαιότητα πληροφορίες που απουσιάζουν από το υλικό που του δόθηκε.
Οι παραπομπές δεν αποτελούν πιστοποιητικό αλήθειας
Μια απάντηση με συνδέσμους φαίνεται πιο αξιόπιστη. Για να είναι πράγματι τεκμηριωμένη, όμως, η πηγή πρέπει να υποστηρίζει τον συγκεκριμένο ισχυρισμό.
Υπάρχουν διαφορετικοί τρόποι αποτυχίας. Η αναζήτηση μπορεί να φέρει παλιό έγγραφο. Μπορεί να παραλείψει μια εξαίρεση. Ή το μοντέλο να διαβάσει σωστό υλικό, αλλά να συνδυάσει δύο ασύνδετες πληροφορίες και να διατυπώσει συμπέρασμα που δεν προκύπτει από καμία.
Το NIST περιγράφει την παραγωγή ψευδούς ή λανθασμένου περιεχομένου με πειστικό τρόπο ως έναν από τους κινδύνους της παραγωγικής τεχνητής νοημοσύνης. Η πρόσβαση σε εξωτερικές πηγές δεν μετατρέπει τη σύνθεση κειμένου σε αυτόματο έλεγχο αλήθειας. Πηγή: NIST, Generative Artificial Intelligence Profile.
Γι’ αυτό, μια χρήσιμη παραπομπή πρέπει να οδηγεί όσο γίνεται πιο κοντά στο σχετικό σημείο. Ο χρήστης χρειάζεται να μπορεί να δει τι γράφει το πρωτότυπο, πότε εκδόθηκε και αν αφορά ακριβώς τη δική του περίπτωση.
Ποια αρχεία επιτρέπεται να διαβάζει ο βοηθός
Η σύνδεση με εταιρικά δεδομένα δημιουργεί και ζήτημα πρόσβασης. Το ότι ένας βοηθός μπορεί να αναζητήσει ένα αρχείο δεν σημαίνει ότι κάθε χρήστης του δικαιούται να λάβει το περιεχόμενό του.
Αν, για παράδειγμα, μια κοινή βάση περιλαμβάνει οδηγίες προσωπικού και εμπιστευτικές αξιολογήσεις εργαζομένων, τα όρια πρόσβασης πρέπει να διατηρούνται και κατά την αναζήτηση. Διαφορετικά, το chatbot μπορεί να γίνει ένας ευκολότερος δρόμος προς πληροφορίες που ήταν προηγουμένως περιορισμένες.
Το OWASP καταγράφει την ανεπαρκή διαχείριση δικαιωμάτων και τις διαρροές μεταξύ χρηστών ως κινδύνους των συστημάτων που χρησιμοποιούν διανυσματικές αναπαραστάσεις και ανάκτηση δεδομένων. Επισημαίνει επίσης τον κίνδυνο αλλοίωσης των πηγών, ώστε το περιεχόμενό τους να επηρεάζει κακόβουλα τις απαντήσεις. Πηγή: OWASP, Vector and Embedding Weaknesses.
Η ασφάλεια, επομένως, αφορά ολόκληρη τη διαδρομή: ποιος προσθέτει αρχεία, ποιος τα αλλάζει, ποιος επιτρέπεται να τα ανακτήσει και τι τελικά εμφανίζεται στην απάντηση.
Πώς ξεχωρίζει μια καλή εφαρμογή από μια εντυπωσιακή επίδειξη
Μια επίδειξη με πέντε εύκολες ερωτήσεις μπορεί να δείξει ότι το σύστημα λειτουργεί. Δεν αποδεικνύει ότι λειτουργεί αξιόπιστα στις συνθήκες της καθημερινής χρήσης.
Η Microsoft προτείνει η ανάπτυξη μιας εφαρμογής RAG να περιλαμβάνει αντιπροσωπευτικά έγγραφα και ερωτήματα δοκιμής, μαζί με ερωτήσεις των οποίων οι απαντήσεις δεν περιέχονται στις διαθέσιμες πηγές. Πηγή: οδηγός σχεδιασμού και αξιολόγησης RAG.
Αυτή η τελευταία κατηγορία είναι ιδιαίτερα αποκαλυπτική. Αν το αρχείο δεν αναφέρει τη διάρκεια μιας εγγύησης, ο βοηθός πρέπει να αναγνωρίσει το κενό. Μια καλοδιατυπωμένη εικασία μπορεί να είναι χειρότερη από μια καθαρή δήλωση ότι δεν βρέθηκε η πληροφορία.
Αξίζει επίσης να εξετάζονται χωριστά δύο στάδια: αν ανακτήθηκε το σωστό υλικό και αν η τελική απάντηση το απέδωσε σωστά. Όταν αυτά συγχέονται, είναι δύσκολο να εντοπιστεί η αιτία ενός λάθους.
Για ελληνόγλωσσα αρχεία, χρήσιμες δοκιμές είναι οι διαφορετικές διατυπώσεις, οι συντομογραφίες, οι πίνακες και τα σαρωμένα έγγραφα. Η δοκιμή πρέπει να μοιάζει με τα πραγματικά αρχεία και τις πραγματικές απορίες των χρηστών.
Η αξία βρίσκεται στην ελεγχόμενη πρόσβαση στη γνώση
Το RAG έχει σαφή χρησιμότητα όταν η πληροφορία υπάρχει, αλλά είναι διάσπαρτη και δύσκολη στην αναζήτηση. Μπορεί να περιορίσει τον χρόνο που απαιτείται για να εντοπιστεί μια διαδικασία και να βοηθήσει τον χρήστη να καταλάβει ένα μεγάλο κείμενο.
Η επιτυχία του, όμως, εξαρτάται και από αποφάσεις που προηγούνται της τεχνητής νοημοσύνης: ποια έκδοση είναι έγκυρη, ποιος συντηρεί το αρχείο και πώς αντιμετωπίζονται οι αντιφάσεις.
Ένας οργανισμός που δεν γνωρίζει ποιο έγγραφο ισχύει δύσκολα θα λύσει το πρόβλημα απλώς προσθέτοντας ένα chatbot. Ο πιο χρήσιμος βοηθός είναι εκείνος που εντοπίζει την κατάλληλη πληροφορία, δείχνει από πού προέρχεται και αναγνωρίζει πότε τα διαθέσιμα στοιχεία δεν αρκούν. Αυτή η δυνατότητα ελέγχου είναι που μετατρέπει μια εύχρηστη συνομιλία σε εργαλείο εργασίας.
Πηγές
- AWS — What is RAG? Εισαγωγή στην παραγωγή απαντήσεων με ανάκτηση πληροφοριών.
- Microsoft Learn — Retrieval-augmented generation provides LLM knowledge. Προετοιμασία δεδομένων, embeddings και παραπομπές.
- Anthropic — Contextual Retrieval, 19 Σεπτεμβρίου 2024. Συμφραζόμενα και υβριδική αναζήτηση.
- NIST — Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. Το πλαίσιο κινδύνων της παραγωγικής AI.
- OWASP — LLM08:2025 Vector and Embedding Weaknesses. Δικαιώματα πρόσβασης, διαρροές και αλλοίωση πηγών.
- Microsoft Azure Architecture Center — Design and develop a RAG solution. Σχεδιασμός και αξιολόγηση εφαρμογών RAG.
