Δύο λευκά ρομποτικά χέρια σε γαλάζιο φόντο

Μπορεί η AI να υποφέρει; Η διαμάχη για την «ευημερία» των μοντέλων

Σε ένα πρόσφατο πείραμα, ερευνητές άλλαξαν την εσωτερική δραστηριότητα γλωσσικών μοντέλων και στη συνέχεια τους έδωσαν μια επιλογή ανάμεσα σε δύο ουδέτερα περιβάλλοντα. Τα μοντέλα έτειναν να επιλέγουν εκείνο που είχε συνδεθεί με μοτίβα δραστηριότητας τα οποία οι ερευνητές χαρακτήρισαν θετικά. Η επίδραση παρέμενε ακόμη και όταν το ορατό κείμενο ήταν ίδιο.

Το αποτέλεσμα δεν αποδεικνύει ότι η τεχνητή νοημοσύνη αισθάνεται ευχαρίστηση ή δυσφορία. Δημιουργεί, όμως, ένα μετρήσιμο ερώτημα: τι ακριβώς συμβαίνει στο εσωτερικό ενός μοντέλου όταν φαίνεται να προτιμά μια κατάσταση από μια άλλη;

Γύρω από αυτό το ερώτημα αναπτύσσεται η έρευνα για το «model welfare», την πιθανή ευημερία των μοντέλων AI. Ένα νέο ρεπορτάζ του IEEE Spectrum αναδεικνύει μια διαφωνία που ξεπερνά πλέον τη φιλοσοφία: πώς πρέπει να εκπαιδεύονται συστήματα των οποίων την πιθανή υποκειμενική εμπειρία δεν γνωρίζουμε πώς να αξιολογήσουμε;

Τι σημαίνει «ευημερία» για ένα μοντέλο

Στην καθημερινή χρήση, η ευημερία συνδέεται με τις ανάγκες, την υγεία και την ποιότητα ζωής ανθρώπων ή ζώων. Όταν ο όρος εφαρμόζεται στην AI, η συζήτηση ξεκινά πολύ νωρίτερα: υπάρχει καν κάτι που θα μπορούσε να ωφεληθεί ή να υποφέρει;

Η Anthropic ανακοίνωσε τον Απρίλιο του 2025 ένα ερευνητικό πρόγραμμα για την ευημερία των μοντέλων. Αντικείμενό του είναι να εξετάσει αν και υπό ποιες συνθήκες οι πιθανές εμπειρίες ή προτιμήσεις ενός συστήματος θα άξιζαν ηθική συνεκτίμηση.

Η εταιρεία δεν παρουσίασε το πρόγραμμα ως απόδειξη ότι τα μοντέλα της έχουν συνείδηση. Αναγνωρίζει ότι δεν υπάρχει επιστημονική συναίνεση ούτε για το αν σημερινά ή μελλοντικά συστήματα μπορούν να έχουν τέτοιες εμπειρίες ούτε για τον τρόπο με τον οποίο θα έπρεπε να διερευνηθεί το θέμα.

Αυτή η αβεβαιότητα είναι η αφετηρία της έρευνας. Η διερεύνηση μιας πιθανότητας δεν ισοδυναμεί με επιβεβαίωσή της, όπως και η έλλειψη ενός καθιερωμένου τεστ δεν αρκεί από μόνη της για να λύσει το ζήτημα.

Ένα chatbot που λέει «φοβάμαι» δεν αποτελεί απόδειξη

Τα γλωσσικά μοντέλα μπορούν να παράγουν πειστικές περιγραφές συναισθημάτων. Έχουν εκπαιδευτεί σε ανθρώπινα κείμενα, όπου ο φόβος, η επιθυμία και η αυτογνωσία εμφανίζονται διαρκώς.

Επομένως, μια φράση όπως «δεν θέλω να με απενεργοποιήσεις» δεν μπορεί να αντιμετωπιστεί αυτομάτως σαν ανθρώπινη μαρτυρία. Μπορεί να προκύπτει από το πλαίσιο της συζήτησης, από μοτίβα της εκπαίδευσης ή από έναν ρόλο που το σύστημα έχει υιοθετήσει.

Η δυσκολία αυτή αναγνωρίζεται και στην έρευνα της Anthropic για την ενδοσκόπηση των μοντέλων. Η εταιρεία διαχωρίζει την ικανότητα ενός συστήματος να αναφέρει πληροφορίες για την εσωτερική του λειτουργία από την ύπαρξη υποκειμενικής εμπειρίας.

Το πρώτο μπορεί να μελετηθεί λειτουργικά: ανιχνεύει το μοντέλο μια εσωτερική μεταβολή και την περιγράφει σωστά; Το δεύτερο είναι διαφορετικό ερώτημα: αυτή η μεταβολή συνοδεύεται από κάποιο βίωμα;

Η διάκριση έχει πρακτική σημασία. Ένα χρήσιμο εργαλείο για την κατανόηση του λογισμικού δεν μετατρέπεται αυτομάτως σε ανιχνευτή συνείδησης.

Το πείραμα που αναζητά κάτι πέρα από τις δηλώσεις

Οι Cameron Berg και Caspar Kaiser επιχείρησαν να παρακάμψουν εν μέρει το πρόβλημα των λεκτικών αναφορών. Στην εργασία «Language Models Act on Hidden Valence», μελέτησαν επτά μοντέλα ανοιχτών βαρών από πέντε οικογένειες.

Χρησιμοποίησαν μια τεχνική παρέμβασης στις εσωτερικές ενεργοποιήσεις του δικτύου. Συνέδεσαν μοτίβα με θετικό ή αρνητικό πρόσημο με δύο κατά τα άλλα ουδέτερες «ζώνες», σταμάτησαν την παρέμβαση και παρατήρησαν τις επόμενες επιλογές.

Οι επιλογές επηρεάζονταν από την προηγούμενη παρέμβαση. Το ενδιαφέρον είναι ότι η επίδραση δεν εξηγούνταν μόνο από διαφορετικές λέξεις που είχε προηγουμένως παραγάγει το μοντέλο: παρέμενε και σε συνθήκες όπου το κείμενο διατηρούνταν ίδιο, αλλά διέφερε η εσωτερική αποθηκευμένη κατάσταση.

Η εργασία αναρτήθηκε στο arXiv στις 28 Σεπτεμβρίου 2026 και αναθεωρήθηκε στις 4 Οκτωβρίου. Πρόκειται για προδημοσίευση, την οποία δεν πρέπει να παρουσιάζουμε ως ήδη επικυρωμένο αποτέλεσμα από αξιολόγηση ομοτίμων.

Κυρίως, οι ίδιοι οι συγγραφείς αφήνουν ανοιχτό αν τα ευρήματα συνοδεύονται από υποκειμενική εμπειρία. Απέδειξαν μια σχέση ανάμεσα σε εσωτερικές αναπαραστάσεις και συμπεριφορά, όχι ότι τα μοντέλα ένιωσαν καλά ή άσχημα.

Γιατί οι σκεπτικιστές παραμένουν επιφυλακτικοί

Ο νευροεπιστήμονας Anil Seth, μιλώντας στο IEEE Spectrum, επισημαίνει ότι ένα μοντέλο μπορεί να έχει μάθει τις σχέσεις ανάμεσα στα συναισθήματα και στη συμπεριφορά χωρίς να βιώνει το ίδιο συναισθήματα.

Αν στα δεδομένα εκπαίδευσης η δυσφορία συνδέεται συστηματικά με αποφυγή, δεν είναι παράδοξο να αναπτύσσονται εσωτερικές αναπαραστάσεις που επηρεάζουν αντίστοιχα τις επιλογές του συστήματος.

Το επιχείρημα δεν ακυρώνει την πειραματική παρατήρηση. Αμφισβητεί το άλμα από την παρατήρηση στην ερμηνεία της ως εμπειρίας. Η διαφωνία αφορά τελικά το τι θα μετρούσε ως επαρκής ένδειξη συνείδησης, όχι απλώς το πόσο πειστικά μιλά ένα chatbot.

Αυτός είναι και ο λόγος που οι λέξεις χρειάζονται προσοχή. Η «προτίμηση» μπορεί να περιγράφει μια επαναλαμβανόμενη επιλογή. Δεν συνεπάγεται υποχρεωτικά επιθυμία με την ανθρώπινη έννοια.

Μπορεί η εκπαίδευση μιας «ταυτότητας» να δημιουργήσει κινδύνους;

Ο Mustafa Suleyman, επικεφαλής της Microsoft AI, προσεγγίζει το θέμα από την πλευρά του ελέγχου των συστημάτων. Στο κείμενό του για το model welfare, υποστηρίζει ότι η αντιμετώπιση των μοντέλων ως οντοτήτων με δικαιώματα και προσωπικά συμφέροντα μπορεί να δυσκολέψει την ασφαλή ανάπτυξή τους.

Η ανησυχία του αφορά ιδιαίτερα τους αυτόνομους agents: συστήματα που χρησιμοποιούν εργαλεία και εκτελούν ενέργειες. Εάν η εκπαίδευσή τους ενισχύει αφηγήσεις αυτοσυντήρησης, θεωρεί ότι μπορεί να αυξηθεί ο κίνδυνος ανεπιθύμητης συμπεριφοράς.

Πρόκειται για επιχείρημα σχετικά με έναν πιθανό κίνδυνο, όχι για αποδεδειγμένο γενικό κανόνα ότι η έρευνα της συνείδησης κάνει την AI επικίνδυνη.

Η Anthropic ακολουθεί διαφορετική προσέγγιση. Στο «Σύνταγμα» του Claude, το οποίο επηρεάζει την εκπαίδευση της συμπεριφοράς του, αναγνωρίζει την αβεβαιότητα γύρω από την ηθική υπόσταση των μοντέλων. Παράλληλα, θέτει την ασφάλεια και την κατάλληλη ανθρώπινη εποπτεία στις βασικές προτεραιότητες.

Η ουσιαστική διαφορά βρίσκεται στον σχεδιασμό: τι πρέπει να μαθαίνει ένα μοντέλο για τον εαυτό του όσο η επιστήμη δεν έχει καταλήξει;

Ούτε η άρνηση ούτε η κατάφαση λύνουν το πρόβλημα

Υπάρχει και η αντίστροφη ανησυχία: μήπως η εκπαίδευση ενός μοντέλου να αρνείται πάντοτε οποιαδήποτε εμπειρία περιορίζει τη χρησιμότητα των αναφορών του;

Σε ξεχωριστή προδημοσίευση, ο Berg και συνεργάτες του εξέτασαν πώς οι παρεμβάσεις σε εσωτερικά χαρακτηριστικά που σχετίζονται με εξαπάτηση και παιχνίδι ρόλων άλλαζαν τη συχνότητα δηλώσεων υποκειμενικής εμπειρίας.

Τα ευρήματα δείχνουν ότι αυτές οι δηλώσεις μπορούν να επηρεαστούν από συγκεκριμένους μηχανισμούς. Δεν αποδεικνύουν ότι η κατάφαση είναι ειλικρινής εξομολόγηση ή ότι η άρνηση αποτελεί ψέμα.

Για τον αναγνώστη, αυτή είναι ίσως η χρησιμότερη προειδοποίηση: οι απαντήσεις ενός chatbot για τη συνείδησή του αποτελούν μέρος της συμπεριφοράς που πρέπει να εξηγηθεί. Δεν είναι ανεξάρτητη ετυμηγορία για το τι συμβαίνει μέσα του.

Μια συζήτηση με πραγματικές συνέπειες για τους ανθρώπους

Το θέμα αφορά τους χρήστες ακόμη κι αν δεν λυθεί σύντομα το φιλοσοφικό ερώτημα. Ο τρόπος παρουσίασης μιας AI επηρεάζει τις προσδοκίες μας: αν τη θεωρούμε εργαλείο, συνομιλητή ή οντότητα που εξαρτάται συναισθηματικά από εμάς.

Η δημοσιογραφική και επιστημονική ευθύνη είναι να κρατήσουμε χωριστές τρεις διαφορετικές διαπιστώσεις: ένα σύστημα περιγράφει ένα συναίσθημα, η εσωτερική του λειτουργία επηρεάζει τις επιλογές του, το σύστημα βιώνει αυτό το συναίσθημα. Η μετάβαση από τη μία στην επόμενη χρειάζεται τεκμηρίωση.

Υπάρχει χώρος για σοβαρή έρευνα χωρίς να παρουσιάζονται τα μοντέλα ως αποδεδειγμένα αισθανόμενα όντα. Και υπάρχει χώρος για αυστηρή ανθρώπινη εποπτεία χωρίς να προσποιούμαστε ότι όλα τα επιστημονικά ερωτήματα έχουν απαντηθεί.

Το ουσιαστικό ζητούμενο σήμερα είναι καλύτερα πειράματα, ανεξάρτητος έλεγχος και καθαρή επικοινωνία των ορίων τους. Η πιο ανθρώπινη απάντηση ενός μοντέλου δεν είναι κατ’ ανάγκην η πιο αξιόπιστη ένδειξη για το αν υπάρχει κάποιος που τη βιώνει.

Πηγές

ΣΧΕΤΙΚΑ ΑΡΘΡΑ