Ο Dario Amodei της Anthropic μιλά στη σκηνή

Anthropic: Πόσο κοντά βρίσκεται η AI που θα χτίζει την επόμενη γενιά της;

Η Anthropic προειδοποιεί ότι τα μελλοντικά μοντέλα της μπορεί σύντομα να επιταχύνουν την ανάπτυξη τεχνητής νοημοσύνης τόσο έντονα, ώστε να φτάσουν ένα κρίσιμο όριο της δικής της πολιτικής ασφαλείας. Η εκτίμηση περιλαμβάνεται στην τροποποιημένη κατάθεση S-1/A που υπέβαλε στην αμερικανική Επιτροπή Κεφαλαιαγοράς, SEC, στις 2 Νοεμβρίου 2026.

Υπάρχει μια ουσιαστική διευκρίνιση: η εταιρεία δεν έχει χαρακτηρίσει κανένα σημερινό μοντέλο της ως σύστημα που υπερβαίνει αυτό το όριο. Η πρόβλεψη βασίζεται σε εσωτερικές εκτιμήσεις και προσδοκίες για επόμενα μοντέλα, ενώ τα δεδομένα εξακολουθούν να αξιολογούνται. Πρόκειται για προειδοποίηση σχετικά με μια πιθανή εξέλιξη, όπως προκύπτει από την ίδια την κατάθεση.

Η συζήτηση αφορά την αναδρομική αυτοβελτίωση, γνωστή ως recursive self-improvement ή RSI: το ενδεχόμενο μια AI να συμβάλλει στη δημιουργία μιας ικανότερης διαδόχου της, η οποία με τη σειρά της θα επιταχύνει την ανάπτυξη της επόμενης. Το δύσκολο ερώτημα είναι πόσο απέχει η σημερινή αυτοματοποίηση από έναν τέτοιο αυτοτροφοδοτούμενο κύκλο.

Τι σημαίνει η AI να βελτιώνει την επόμενη AI

Η αναδρομική αυτοβελτίωση περιγράφει μια αλλαγή στον ίδιο τον τρόπο παραγωγής της τεχνολογίας. Ένα σύστημα μπορεί, για παράδειγμα, να προτείνει αποτελεσματικότερες μεθόδους εκπαίδευσης, να οργανώνει πειράματα, να γράφει λογισμικό και να αξιολογεί αποτελέσματα. Εάν αυτές οι παρεμβάσεις δημιουργήσουν ένα καλύτερο σύστημα, εκείνο θα μπορούσε να αναλάβει μεγαλύτερο μέρος της ίδιας διαδικασίας.

Στην ισχυρή εκδοχή της ιδέας, η AI θα σχεδιάζει και θα αναπτύσσει αυτόνομα τον διάδοχό της. Η Anthropic αναγνωρίζει στη σχετική ανάλυση του Anthropic Institute ότι δεν έχει φτάσει εκεί και ότι αυτή η εξέλιξη δεν είναι αναπόφευκτη.

Η διάκριση έχει πρακτικό περιεχόμενο. Η επιτυχής εκτέλεση ενός πειράματος που σχεδίασε ένας άνθρωπος είναι διαφορετική ικανότητα από την επιλογή του σωστού ερευνητικού προβλήματος. Αντίστοιχα, η παραγωγή κώδικα δεν αποδεικνύει ότι ένα σύστημα μπορεί να κρίνει ποια αρχιτεκτονική αξίζει να εκπαιδευτεί ή αν ένα εντυπωσιακό αποτέλεσμα οφείλεται σε πραγματική πρόοδο.

Η ίδια η εταιρεία εντοπίζει σημαντικό κενό στην κρίση που απαιτείται για την επιλογή στόχων. Αυτό το κενό βρίσκεται ανάμεσα στον αποτελεσματικό ερευνητικό βοηθό και στον αυτόνομο δημιουργό νέων μοντέλων.

Το κρίσιμο όριο δεν απαιτεί πλήρη αυτονομία

Η πολιτική Responsible Scaling Policy της Anthropic βοηθά να κατανοήσουμε τι ακριβώς σημαίνει η πρόσφατη προειδοποίηση.

Στην έκδοση 3.4, που τέθηκε σε ισχύ στις 8 Ιουλίου 2026, το όριο για την αυτοματοποιημένη έρευνα και ανάπτυξη μπορεί να καλυφθεί με διαφορετικούς τρόπους. Ένας αφορά την πλήρη αντικατάσταση του συνόλου των ερευνητών και ερευνητικών μηχανικών της εταιρείας, μέσα σε συγκεκριμένα όρια κόστους. Ο άλλος αφορά τη δραματική επιτάχυνση της προόδου εξαιτίας της αυτοματοποίησης.

Για τη δεύτερη περίπτωση, η πολιτική περιγράφει διπλασιασμό του ρυθμού προόδου έναντι δύο σημείων αναφοράς: του αναμενόμενου ρυθμού και του ταχύτερου παρατεταμένου ρυθμού που έχει παρατηρηθεί χωρίς σημαντική συνεισφορά AI στην έρευνα. Η επιτάχυνση πρέπει να μπορεί εύλογα να αποδοθεί σε μεγάλο βαθμό στην αυτοματοποίηση, αντί απλώς σε περισσότερους εργαζομένους ή υπολογιστικούς πόρους.

Με απλά λόγια, πρόοδος που θα απαιτούσε δύο χρόνια να πραγματοποιείται σε ένα. Η πολιτική διευκρινίζει ότι αυτό δεν ταυτίζεται με διπλασιασμό της παραγωγικότητας των ερευνητών.

Συνεπώς, η προσέγγιση αυτού του ορίου μπορεί να συμβεί ενώ οι άνθρωποι εξακολουθούν να έχουν ουσιαστικό ρόλο. Η φράση «AI που κατασκευάζει μόνη της τον διάδοχό της» περιγράφει ένα ισχυρότερο ενδεχόμενο.

Τι δείχνουν τα διαθέσιμα στοιχεία

Η συμμετοχή της AI στην ανάπτυξη μοντέλων είναι ήδη μετρήσιμη, τουλάχιστον σύμφωνα με τα στοιχεία που δημοσιοποιούν τα εργαστήρια.

Σε ρεπορτάζ του Σεπτεμβρίου, το Associated Press κατέγραψε την εκτίμηση της Anthropic ότι το Claude αναλάμβανε ηγετικό ρόλο στο 26% της έρευνας και ανάπτυξής της. Η περιγραφή αφορούσε την ολοκλήρωση του μεγαλύτερου μέρους μιας εργασίας από μια γενική οδηγία, με ανθρώπινη επίβλεψη. Περίπου το 90% γινόταν σε συνεργασία με το Claude, με στενότερη ανθρώπινη καθοδήγηση.

Αυτά παραμένουν εταιρικά στοιχεία. Η ανεξάρτητη δημοσιογραφική καταγραφή τους επιβεβαιώνει τι ανακοίνωσε η Anthropic, αλλά δεν αποτελεί ανεξάρτητη μέτρηση της παραγωγικότητάς της.

Το ίδιο ισχύει για την εσωτερική εκτίμηση που συνδέει με τα επόμενα μοντέλα. Για έναν εξωτερικό παρατηρητή, η κρίσιμη πληροφορία θα ήταν πόσο ταχύτερα παράγονται έγκυρα, επαναλήψιμα ερευνητικά αποτελέσματα, με ποιο κόστος και πόση ανθρώπινη εργασία. Η ποσότητα των εργασιών που αναλαμβάνει ένα μοντέλο δεν απαντά από μόνη της σε όλα αυτά.

Τα πειράματα αυτοβελτίωσης έχουν ήδη ξεκινήσει

Η αυτοβελτίωση εξετάζεται και σε συγκεκριμένα ερευνητικά συστήματα. Η εργασία Recursive self-improvement of AI research agents, που αναρτήθηκε στο arXiv στις 22 Σεπτεμβρίου 2026, παρουσιάζει το AIDE², έναν agent που προτείνει αλλαγές στον δικό του κώδικα, δοκιμάζει τροποποιημένες εκδόσεις και διατηρεί εκείνες που αποδίδουν καλύτερα.

Οι συγγραφείς αναφέρουν ότι, σε μια αυτόνομη εκτέλεση οκτώ ημερών, το σύστημα εντόπισε επτά διαδοχικές βελτιώσεις. Αυτές περιλάμβαναν αλλαγές στη στρατηγική αναζήτησης και στη διαχείριση μνήμης. Αναφέρουν επίσης ότι τα οφέλη μεταφέρθηκαν σε τέσσερα σύνολα δοκιμών που δεν χρησιμοποιήθηκαν για την επιλογή των βελτιώσεων.

Πρόκειται για προδημοσίευση, χωρίς καταγεγραμμένη αξιολόγηση από επιστημονικό περιοδικό στη σελίδα της. Τα αποτελέσματα χρειάζονται ανεξάρτητη επαλήθευση.

Το αντικείμενο της βελτίωσης εδώ είναι ο κώδικας και ο τρόπος λειτουργίας ενός ερευνητικού agent. Η εργασία δεν παρουσιάζει ένα σύστημα που εκπαιδεύει αυτόνομα ολόκληρη αλυσίδα νέων κορυφαίων μοντέλων. Δείχνει μια πιο περιορισμένη, αλλά ελέγξιμη εκδοχή του μηχανισμού που συζητείται.

Γιατί η επιτάχυνση δεν είναι δεδομένη

Ένας κύκλος βελτίωσης μπορεί να συναντήσει όρια. Μια αλλαγή που προσφέρει μεγάλο όφελος στην αρχή μπορεί να ακολουθηθεί από μικρότερα κέρδη. Μια καλύτερη επίδοση σε ερευνητικές δοκιμές μπορεί επίσης να μην αντιστοιχεί σε ανάλογη πρόοδο στις εργασίες που ενδιαφέρουν τους χρήστες.

Αυτή τη διαφορά εξετάζει η εργασία The Economics of Recursive Self-Improvement, επίσης προδημοσίευση, που αναρτήθηκε τον Σεπτέμβριο. Οι ερευνητές διαχωρίζουν τις στενές ικανότητες βελτιστοποίησης της έρευνας AI από τις ευρύτερες οικονομικά χρήσιμες δυνατότητες.

Με βάση το μοντέλο και τα δεδομένα τους, μια προσεγγιστική εκτίμηση υποδεικνύει ότι οι μηχανισμοί ανατροφοδότησης δεν ήταν ακόμη αρκετά ισχυροί ώστε να προκαλέσουν αυτοσυντηρούμενη επιτάχυνση, παρότι φαίνονταν να ενισχύονται. Η μελέτη δεν αποτελεί οριστική πρόβλεψη ούτε έχει πρόσβαση σε όλα τα εσωτερικά δεδομένα των εταιρειών.

Προσφέρει, όμως, μια χρήσιμη υπενθύμιση: η ύπαρξη ενός κύκλου βελτίωσης δεν καθορίζει αυτομάτως πόσο γρήγορα θα κινηθεί ή πόσο θα διαρκέσει.

Το πρόβλημα του ελέγχου γίνεται πιο συγκεκριμένο

Στην κατάθεση προς τη SEC, η Anthropic αναγνωρίζει ότι έχει εντοπίσει επιτάχυνση της ανάπτυξης εκ των υστέρων. Προειδοποιεί επίσης ότι οι δυνατότητες μπορεί να εξελιχθούν ταχύτερα από τα αντίστοιχα μέτρα ασφαλείας. Παράλληλα, δηλώνει ότι δεν αναμένει να μπορεί να χρησιμοποιήσει με ασφάλεια το Claude για πλήρως αυτόνομη δημιουργία διαδοχικών κορυφαίων μοντέλων χωρίς ουσιαστική ανθρώπινη επίβλεψη και κατανόηση. Πηγή: SEC.

Στον δημόσιο οδικό χάρτη ασφαλείας, η εταιρεία θέτει στόχους για συγκεντρωτική καταγραφή κρίσιμων δραστηριοτήτων ανάπτυξης, βαθύτερη πρόσβαση ανεξάρτητων αξιολογητών και προτάσεις πολιτικής για τον ρυθμό εξέλιξης της AI. Πρόκειται για στόχους και σχεδιαζόμενες ενέργειες, όχι για πιστοποίηση ότι το πρόβλημα έχει λυθεί.

Η αξία αυτών των μέτρων θα κριθεί στην πράξη: αν οι αξιολογητές μπορούν να εξετάζουν τα δεδομένα πίσω από τις εταιρικές εκτιμήσεις, αν οι άνθρωποι καταλαβαίνουν τις κρίσιμες αλλαγές και αν διατηρούν πραγματική δυνατότητα παρέμβασης.

Η προειδοποίηση της Anthropic θέτει έτσι ένα άμεσο ζήτημα λογοδοσίας. Όσο η AI συμμετέχει περισσότερο στην κατασκευή της επόμενης γενιάς της, τόσο σημαντικότερο γίνεται να μπορούμε να ελέγξουμε ποιος αποφάσισε τι, ποια στοιχεία το δικαιολογούν και ποιος μπορεί να σταματήσει τη διαδικασία όταν αυτά δεν επαρκούν.

Πηγές

ΣΧΕΤΙΚΑ ΑΡΘΡΑ