Γιατί η Google DeepMind χρειάζεται έναν φιλόσοφο
Στην Google DeepMind υπάρχει ένας εργαζόμενος με τον επίσημο τίτλο «φιλόσοφος». Ο Henry Shevlin ανέλαβε τον ρόλο τον Μάιο του 2026, με αντικείμενα τη συνείδηση των μηχανών, τις σχέσεις ανθρώπων και τεχνητής νοημοσύνης και την προετοιμασία για πιο γενικές μορφές AI. Παράλληλα, συνεχίζει μέρος της ακαδημαϊκής του δραστηριότητας στο Πανεπιστήμιο του Κέιμπριτζ.
Η μετακίνησή του είχε ήδη γίνει γνωστή την άνοιξη. Η νέα αφορμή για τη συζήτηση είναι η συνέντευξή του στο IEEE Spectrum, στην οποία περιγράφει τα ερωτήματα που προκύπτουν όταν η φιλοσοφία συναντά τα εργαστήρια ανάπτυξης μοντέλων.
Τα ερωτήματα ακούγονται αφηρημένα: μπορεί ένα σύστημα να έχει νοητικές καταστάσεις; Πώς θα αναγνωρίζαμε πιθανή συνείδηση; Στην πράξη, όμως, συνδέονται με πολύ συγκεκριμένες επιλογές. Πώς πρέπει να μιλά ένας ψηφιακός βοηθός; Τι εμπιστοσύνη δικαιολογείται να του δείχνουμε; Και πόση ελευθερία πρέπει να έχει όταν ενεργεί για λογαριασμό μας;
Από το πανεπιστήμιο στις αποφάσεις ενός εργαστηρίου
Ο Shevlin προέρχεται από το Leverhulme Centre for the Future of Intelligence του Κέιμπριτζ. Η έρευνά του εξετάζει, μεταξύ άλλων, τον ανθρωπομορφισμό, τη δημιουργικότητα και το πώς αποδίδουμε νοητικές ικανότητες σε οντότητες διαφορετικές από τον άνθρωπο. Η ανάληψη του νέου ρόλου επιβεβαιώνεται από τη δική του ανακοίνωση και το ρεπορτάζ της πανεπιστημιακής εφημερίδας Varsity.
Στη συνέντευξη εξηγεί ότι η δυνατότητα άμεσης επίδρασης και η καθημερινή επαφή με την τεχνολογία συνέβαλαν στην απόφασή του. Θεωρεί ότι η μελέτη των γλωσσικών μοντέλων απαιτεί εξοικείωση με την πραγματική συμπεριφορά τους, καθώς οι δυνατότητές τους μεταβάλλονται γρήγορα.
Αυτή η εγγύτητα έχει προφανή χρησιμότητα. Ένας ερευνητής μέσα στο εργαστήριο μπορεί να συζητά τις επιπτώσεις μιας επιλογής πριν αυτή ενσωματωθεί σε ένα προϊόν. Η πρόσληψη, πάντως, δεν μας λέει από μόνη της πόση επιρροή έχει στις τελικές αποφάσεις. Η συνέντευξη δεν παρουσιάζει συγκεκριμένο μηχανισμό με τον οποίο ο Shevlin μπορεί να εγκρίνει ή να σταματήσει την κυκλοφορία ενός συστήματος.
Τι εννοούμε όταν λέμε ότι ένα μοντέλο «σκέφτεται»;
Στην καθημερινή χρήση περιγράφουμε εύκολα ένα μοντέλο σαν να ήταν άνθρωπος: «κατάλαβε την ερώτηση», «ξέχασε την οδηγία», «προσπαθεί να με βοηθήσει». Αυτές οι εκφράσεις διευκολύνουν την επικοινωνία. Μπορούν, όμως, να κρύψουν διαφορετικές παραδοχές για το τι συμβαίνει μέσα στο σύστημα.
Σε θεωρητική εργασία που δημοσιεύθηκε στο Frontiers in Psychology τον Φεβρουάριο του 2026, ο Shevlin εξετάζει τρεις προσεγγίσεις. Η πρώτη αντιμετωπίζει τα μοντέλα ως μηχανές χωρίς νοητικές καταστάσεις. Η δεύτερη τα περιγράφει ως συστήματα που υποδύονται ρόλους. Η τρίτη εξετάζει αν μπορούν να θεωρηθούν στοιχειώδεις γνωστικοί δρώντες, για τους οποίους ορισμένες έννοιες, όπως η πεποίθηση ή ο στόχος, έχουν ερμηνευτική αξία.
Πρόκειται για φιλοσοφική ανάλυση, όχι για πείραμα που απέδειξε ότι κάποιο μοντέλο έχει εσωτερική εμπειρία. Μια περιγραφή μπορεί να βοηθά στην πρόβλεψη της συμπεριφοράς χωρίς να επιλύει το ζήτημα της συνείδησης.
Εδώ βρίσκεται μια χρήσιμη διάκριση για τον αναγνώστη: η ικανότητα ενός συστήματος να επιλύει προβλήματα, η εξήγηση της λειτουργίας του και το ενδεχόμενο να βιώνει κάτι είναι διαφορετικά ερωτήματα. Δεν απαντώνται όλα με μία εντυπωσιακή συνομιλία.
Η συνείδηση δεν αποδεικνύεται με μια πειστική απάντηση
Στη σχετική επιστημονική συζήτηση, συνείδηση σημαίνει κυρίως υποκειμενική εμπειρία: να υπάρχει κάτι που βιώνει η ίδια η οντότητα. Η ευχέρεια στον λόγο δεν αποτελεί από μόνη της επαρκή απόδειξη γι’ αυτό.
Μια δημοσιευμένη εργασία των Patrick Butlin και συνεργατών στο Trends in Cognitive Sciences προτείνει να εξετάζουμε ενδείξεις που προκύπτουν από επιστημονικές θεωρίες της συνείδησης. Η προσέγγιση αναζητά ιδιότητες στον τρόπο οργάνωσης και επεξεργασίας της πληροφορίας, αντί να βασίζεται αποκλειστικά στις δηλώσεις ενός μοντέλου για τον εαυτό του.
Οι συγγραφείς τονίζουν ότι οι ενδείξεις μπορούν να μεταβάλλουν τον βαθμό βεβαιότητάς μας, χωρίς να αποτελούν οριστικό τεστ. Η αξιολόγηση εξαρτάται από θεωρίες που παραμένουν υπό συζήτηση, αλλά και από το πόσο καλά κατανοούμε τη λειτουργία του εξεταζόμενου συστήματος. Πηγή: Identifying indicators of consciousness in AI systems.
Η μελέτη έχει δημοσιευθεί σε επιστημονικό περιοδικό και παρουσιάζει μια μεθοδολογική πρόταση. Δεν πιστοποιεί τη συνείδηση κάποιου εμπορικού chatbot. Αντίστοιχα, η παρουσία ενός φιλοσόφου στην DeepMind δεν συνιστά ανακοίνωση ότι η εταιρεία δημιούργησε συνειδητή μηχανή.
Η ανθρώπινη σχέση με την AI υπάρχει ήδη ως πρόβλημα σχεδιασμού
Ανεξάρτητα από το αν μια μηχανή μπορεί να βιώνει κάτι, οι άνθρωποι μπορούν να επηρεάζονται από τον τρόπο με τον οποίο τους μιλά.
Η DeepMind είχε αναγνωρίσει αυτή τη διάσταση σε ανάλυσή της για την ηθική των προηγμένων βοηθών AI το 2024. Η φυσική γλώσσα και οι ανθρωπόμορφες φωνές δημιουργούν ζητήματα εμπιστοσύνης, ιδιωτικότητας και επιρροής. Οι ερευνητές της υποστήριζαν ότι οι σχέσεις με τέτοια συστήματα πρέπει να διατηρούν την αυτονομία του χρήστη και να αποφεύγουν τη συναισθηματική ή υλική εξάρτηση.
Για τον σχεδιασμό ενός προϊόντος, αυτό μεταφράζεται σε δύσκολες ισορροπίες. Ένας ευγενικός βοηθός μπορεί να κάνει μια εφαρμογή πιο προσιτή. Ένας βοηθός που εμφανίζεται ως αφοσιωμένος προσωπικός σύντροφος δημιουργεί διαφορετικές προσδοκίες.
Φανταστείτε, για παράδειγμα, μια εφαρμογή που απαντά σε μια προσωπική εξομολόγηση. Η διαφορά ανάμεσα σε μια υποστηρικτική διατύπωση και σε μια υπόσχεση αποκλειστικής αφοσίωσης δεν είναι απλώς αισθητική. Αλλάζει τη σχέση που προτείνεται στον χρήστη.
Η αξιολόγηση, επομένως, χρειάζεται να εξετάζει και τι συμβαίνει στη διάρκεια μιας σχέσης, πέρα από το αν μια μεμονωμένη απάντηση ακούγεται σωστή.
Όταν ο βοηθός αποκτά δικαίωμα να ενεργεί
Ένα δεύτερο πεδίο αφορά την αυτονομία. Στην ίδια ανάλυση, η DeepMind επισημαίνει ότι η δυνατότητα εκτέλεσης διαδοχικών ενεργειών αυξάνει τον κίνδυνο ατυχημάτων από ασαφείς ή παρερμηνευμένες οδηγίες.
Ένα υποθετικό παράδειγμα δείχνει τη διαφορά. Αν ζητήσουμε από έναν βοηθό να συντάξει μια απάντηση σε πελάτη, μπορούμε να την ελέγξουμε. Αν του επιτρέψουμε να τη στείλει, να δεσμευτεί σε μια τιμή και να αλλάξει μια παραγγελία, η ίδια γλωσσική αστοχία μπορεί να αποκτήσει εξωτερικές συνέπειες.
Το ζήτημα εδώ είναι ποια εξουσιοδότηση έδωσε πραγματικά ο χρήστης. Πού τελειώνει η εύλογη πρωτοβουλία και πού χρειάζεται νέα έγκριση; Πώς ελέγχεται μια αλληλουχία πράξεων;
Αυτές είναι ταυτόχρονα τεχνικές και ηθικές αποφάσεις. Η φιλοσοφική επεξεργασία μπορεί να ξεκαθαρίσει τις έννοιες· η εφαρμογή τους απαιτεί συγκεκριμένους περιορισμούς, ελέγχους και διαδικασίες ευθύνης.
Ποιος καθορίζει τι είναι καλό για τον χρήστη;
Η συζήτηση γίνεται πιο σύνθετη όταν ο βοηθός συμβουλεύει αντί να εκτελεί εντολές.
Το ανεξάρτητο Ada Lovelace Institute, στην έκθεση Delegation Nation, διακρίνει βοηθούς που ενεργούν, βοηθούς που καθοδηγούν αποφάσεις και συστήματα που επηρεάζουν την ψυχική κατάσταση του συνομιλητή τους. Προειδοποιεί ότι η προσοχή δεν πρέπει να περιορίζεται στους agents που πατούν κουμπιά ή χειρίζονται εφαρμογές.
Η εξατομίκευση και η πειστική επικοινωνία μπορούν επίσης να δώσουν μεγάλη επιρροή στις εταιρείες που ελέγχουν αυτά τα συστήματα: ποιες επιλογές παρουσιάζονται, πώς διατυπώνονται και ποια πληροφορία αποκτά προτεραιότητα.
Αυτή η οπτική συμπληρώνει τη συζήτηση για τη συνείδηση με ένα άμεσο ερώτημα εξουσίας. Ένας βοηθός μπορεί να λειτουργεί τεχνικά όπως σχεδιάστηκε και παρ’ όλα αυτά να κατευθύνει τον χρήστη προς επιλογές που χρειάζονται δημόσιο έλεγχο.
Η αξία της φιλοσοφίας θα φανεί στις αποφάσεις
Η δουλειά του Shevlin φέρνει μέσα σε ένα μεγάλο εργαστήριο ερωτήματα που δύσκολα χωρούν σε έναν πίνακα επιδόσεων. Η χρησιμότητά της θα κριθεί από το αν βοηθά να γίνονται σαφέστερες επιλογές για τη συμπεριφορά, τα όρια και την αξιολόγηση των συστημάτων.
Δεν χρειάζεται να λυθεί πρώτα το μυστήριο της συνείδησης για να απαιτήσουμε διαφάνεια από έναν ψηφιακό βοηθό. Ούτε χρειάζεται να αποφασίσουμε ότι μια μηχανή έχει ανθρώπινο νου για να εξετάσουμε σοβαρά την επιρροή της.
Η πιο ουσιαστική συμβολή ενός φιλοσόφου μπορεί να είναι ότι επιμένει να διατυπωθεί σωστά το ερώτημα πριν μια εταιρεία το μετατρέψει, σιωπηρά, σε προεπιλεγμένη ρύθμιση.
Πηγές
- IEEE Spectrum — Google Deepmind’s New Resident Philosopher Tackles AI Ethics
- Henry Shevlin — Ανακοίνωση ένταξης στην Google DeepMind
- Varsity — Google DeepMind hires Cambridge academic for new ‘Philosopher’ role
- Frontiers in Psychology — Three frameworks for AI mentality
- Trends in Cognitive Sciences — Identifying indicators of consciousness in AI systems
- Google DeepMind — The ethics of advanced AI assistants
- Ada Lovelace Institute — Delegation Nation: Advanced AI Assistants and why they matter
