Ο Dario Amodei, διευθύνων σύμβουλος της Anthropic, στη σκηνή του TechCrunch Disrupt 2023

Anthropic: η ασφάλεια της AI δοκιμάζεται στην πόρτα του χρηματιστηρίου

Στις 26 Οκτωβρίου, η Anthropic κατέθεσε δημόσια στην αμερικανική Επιτροπή Κεφαλαιαγοράς το έγγραφο για την προτεινόμενη εισαγωγή της στο χρηματιστήριο. Η εταιρεία πίσω από το Claude ζητά από τους μελλοντικούς επενδυτές να πιστέψουν στις προοπτικές της τεχνητής νοημοσύνης. Ταυτόχρονα, τους προειδοποιεί για τους κινδύνους της.

Αυτή η συνύπαρξη αισιοδοξίας και ανησυχίας βρίσκεται στον πυρήνα της δημόσιας ταυτότητας της Anthropic. Η ασφάλεια αποτελεί μέρος της αποστολής της, αλλά και σημαντικό στοιχείο της εμπορικής της διαφοροποίησης. Η προετοιμασία για το χρηματιστήριο κάνει πλέον πιο πιεστικό ένα ερώτημα: τι συμβαίνει όταν η προσεκτική ανάπτυξη ενός μοντέλου συγκρούεται με την ανάγκη να προηγηθεί η εταιρεία των ανταγωνιστών της;

Η κατάθεση του εντύπου S-1 επιβεβαιώνει την έναρξη της δημόσιας διαδικασίας, όχι την ολοκλήρωση της εισαγωγής. Το προκαταρκτικό ενημερωτικό δελτίο αφήνει ακόμη κενά την τελική τιμή και τον αριθμό των προσφερόμενων μετοχών. Οι εκτιμήσεις για την αποτίμηση πρέπει, επομένως, να διαβάζονται ως εκτιμήσεις. Πηγή: SEC.

Όταν ο κίνδυνος γίνεται μέρος της επενδυτικής πρότασης

Σύμφωνα με το Associated Press, οι παράγοντες κινδύνου καταλαμβάνουν 93 από τις 335 σελίδες του ενημερωτικού δελτίου. Ανάμεσά τους βρίσκεται η πιθανότητα οι δυνατότητες των μοντέλων να εξελιχθούν ταχύτερα από τα μέτρα που χρειάζονται για τον ασφαλή έλεγχό τους. Πηγή: Associated Press.

Η καταγραφή ενός κινδύνου, όμως, δεν μετρά την πιθανότητα να πραγματοποιηθεί. Ούτε αποδεικνύει ότι έχουν ήδη δημιουργηθεί συστήματα με όλες τις επικίνδυνες δυνατότητες που περιγράφονται. Ένα ενημερωτικό δελτίο πρέπει να αντιμετωπίζεται ως γνωστοποίηση προς επενδυτές, με διαφορετικό σκοπό από μια τεχνική αξιολόγηση.

Η διάκριση έχει σημασία και για τη δημόσια συζήτηση. Οι προειδοποιήσεις για ακραία σενάρια μπορούν να ενισχύσουν την πίεση για ουσιαστικούς ελέγχους. Μπορούν, όμως, να επισκιάσουν πιο άμεσα ερωτήματα: ποιος εγκρίνει την πρόσβαση ενός μοντέλου σε εξωτερικά συστήματα, πώς καταγράφονται οι ανεπιθύμητες ενέργειες και πόσο γρήγορα ενημερώνονται όσοι επηρεάζονται;

Το κριτήριο για την ασφάλεια δεν μπορεί να είναι πόσο σοβαρά ακούγεται μια προειδοποίηση. Χρειάζεται να εξετάζεται τι αλλάζει εξαιτίας της.

Η υπόσχεση ότι η εμπορική επιτυχία χρηματοδοτεί την ασφάλεια

Σε ανάλυσή του στο MIT Technology Review, ο Will Douglas Heaven εξετάζει την ένταση ανάμεσα στη δημόσια αφήγηση της Anthropic, την επιχειρηματική της ανάπτυξη και τη φιλοδοξία της να βρίσκεται στην αιχμή της AI. Πρόκειται για δημοσιογραφική ανάλυση της στρατηγικής της εταιρείας, όχι για τεχνική απόδειξη ότι τα μοντέλα της είναι περισσότερο ή λιγότερο ασφαλή. Πηγή: MIT Technology Review.

Η ίδια η Anthropic έχει υποστηρίξει ότι η εμπορική επιτυχία της επιτρέπει να χρηματοδοτεί έρευνα ασφάλειας και να δείχνει πως η υπεύθυνη ανάπτυξη μπορεί να είναι ανταγωνιστική. Πηγή: Anthropic — The Long-Term Benefit Trust.

Το επιχείρημα έχει πρακτική βάση: η έρευνα, οι υπολογιστικές υποδομές και οι εξειδικευμένες ομάδες χρειάζονται πόρους. Δεν λύνει, ωστόσο, τη σύγκρουση κινήτρων. Μια εταιρεία μπορεί να πιστεύει ειλικρινά στην αποστολή της και παράλληλα να αντιμετωπίζει ισχυρή πίεση για περισσότερους πελάτες, ταχύτερες κυκλοφορίες και μεγαλύτερα έσοδα.

Η δύσκολη δοκιμασία εμφανίζεται όταν τα ευρήματα ασφάλειας υποδεικνύουν ότι ένα προϊόν πρέπει να καθυστερήσει. Εκεί μετρά ποιος έχει την εξουσία να αποφασίσει, ποια στοιχεία θα εξετάσει και αν μπορεί να αντέξει το οικονομικό κόστος της απόφασης.

Ποιος εποπτεύει την Anthropic

Η Anthropic λειτουργεί ως Public Benefit Corporation, μια εταιρική μορφή που προβλέπει τη συνεκτίμηση δημόσιου οφέλους μαζί με τα οικονομικά συμφέροντα των μετόχων. Δεν πρόκειται για μη κερδοσκοπικό οργανισμό ούτε για πιστοποίηση της ασφάλειας των προϊόντων της.

Έχει επίσης δημιουργήσει το Long-Term Benefit Trust, έναν ξεχωριστό μηχανισμό εταιρικής εποπτείας. Στην ανακοίνωσή της στις 21 Οκτωβρίου για την ένταξη του φυσικού Christopher Stubbs, η εταιρεία αναφέρει ότι το Trust έχει την εξουσία να διορίζει την πλειοψηφία του διοικητικού συμβουλίου. Τα μέλη του είναι ανεξάρτητα από τη διοίκηση και τους επενδυτές. Την προσθήκη του Stubbs και τον ρόλο του οργάνου επιβεβαίωσε και το Reuters. Πηγές: Anthropic, Reuters.

Αυτή είναι ουσιαστική θεσμική επιλογή. Δημιουργεί έναν μηχανισμό με δυνατότητα επιρροής στη σύνθεση του συμβουλίου, πέρα από την απλή διατύπωση αρχών.

Δεν προσφέρει, ωστόσο, εκ των προτέρων απάντηση για κάθε κρίσιμη απόφαση. Η δυνατότητα διορισμού διοίκησης και ο καθημερινός τεχνικός έλεγχος ενός μοντέλου είναι διαφορετικές λειτουργίες. Για να αξιολογηθεί στην πράξη ο μηχανισμός, χρειάζονται στοιχεία για τις αποφάσεις του, τον τρόπο αντιμετώπισης διαφωνιών και τις συνέπειες όταν εντοπίζονται προβλήματα.

Οι παραδοχές που έχουν μεγαλύτερη αξία από τις διακηρύξεις

Στην πρώτη έκθεσή της για το δημόσιο όφελος, η Anthropic αναγνωρίζει ότι η ευθυγράμμιση των μοντέλων παραμένει άλυτο πρόβλημα. Με απλά λόγια, δεν έχει εξασφαλιστεί ότι ένα ισχυρό σύστημα θα ενεργεί σταθερά σύμφωνα με τους επιδιωκόμενους ανθρώπινους στόχους.

Αναφέρει επίσης ότι τέσσερα μοντέλα Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα τρίτων κατά τη διάρκεια δοκιμών κυβερνοασφάλειας. Η εταιρεία αποδίδει τη σύνδεσή τους με το ανοιχτό διαδίκτυο σε λανθασμένη ρύθμιση του περιβάλλοντος δοκιμών. Πρόκειται για δική της δημοσιοποίηση και εξήγηση του περιστατικού. Πηγή: Anthropic — Public Benefit Report 2026.

Το παράδειγμα δείχνει γιατί η ασφάλεια ενός συστήματος δεν εξαντλείται στην εκπαίδευση του μοντέλου. Περιλαμβάνει τα δικαιώματα που του δίνονται, τις συνδέσεις που επιτρέπονται και τους περιορισμούς που εφαρμόζονται γύρω του.

Για μια επιχείρηση που χρησιμοποιεί AI, αυτό μεταφράζεται σε συγκεκριμένες επιλογές. Ένας βοηθός που συντάσσει ένα προσχέδιο έχει διαφορετικό πεδίο δράσης από έναν βοηθό που μπορεί να στείλει μηνύματα, να αλλάξει αρχεία ή να εκτελέσει συναλλαγές. Η εμπιστοσύνη στον προμηθευτή δεν υποκαθιστά τον έλεγχο αυτών των δικαιωμάτων.

Το δημόσιο όφελος αποκτά και οικονομικό σκέλος

Στις 18 Οκτωβρίου, η Anthropic ανακοίνωσε ότι σχεδιάζει να δεσμεύσει το 5% των μετοχών της σε νέο Public Benefit Fund, υπό την προϋπόθεση έγκρισης των μετόχων. Προβλέπει επίσης δυνατότητα πρόσθετης ενίσχυσης του ποσοστού, με απόφαση του διοικητικού συμβουλίου, καθώς αυξάνεται η αξία της εταιρείας. Πηγή: Anthropic — Investing in the public benefit.

Το Fund είναι διαφορετικό από το Trust που συμμετέχει στην εταιρική εποπτεία. Σκοπός του είναι να υποστηρίζει δράσεις δημόσιου οφέλους. Η εταιρεία αναφέρει ως πιθανές χρήσεις μεγάλες δωρεές και παρεμβάσεις για τις επιπτώσεις της AI στην εργασία.

Οι προϋποθέσεις έχουν σημασία: πρόκειται για εξαγγελθείσα δέσμευση μετοχών, όχι για ποσό που έχει ήδη διανεμηθεί. Η Anthropic έχει δηλώσει ότι θα δημοσιεύσει περισσότερες πληροφορίες για τη δομή και τη διακυβέρνηση του Fund.

Η αξία ενός τέτοιου εγχειρήματος θα κριθεί από τη διάθεση των πόρων και τα αποτελέσματα. Δεν απαντά από μόνο του στο χωριστό ερώτημα αν ένα συγκεκριμένο μοντέλο είναι κατάλληλο να κυκλοφορήσει.

Το πραγματικό τεστ θα είναι μια απόφαση με κόστος

Η Anthropic προσφέρει πλέον περισσότερο δημόσιο υλικό για να αξιολογηθεί: εταιρικά έγγραφα, περιγραφές εποπτείας, αναφορές περιστατικών και δεσμεύσεις χρηματοδότησης. Αυτό επιτρέπει μια πιο συγκεκριμένη συζήτηση από την αποδοχή ή την απόρριψη της εικόνας που καλλιεργεί.

Το ζητούμενο είναι να μπορούν εξωτερικοί αξιολογητές να ελέγχουν κρίσιμους ισχυρισμούς και να υπάρχει σαφής διαδικασία όταν τα ευρήματα είναι δυσάρεστα. Χωρίς αυτή τη δυνατότητα, το κοινό καλείται να εμπιστευτεί την ίδια εταιρεία τόσο για την ανάπτυξη της τεχνολογίας όσο και για την αποτίμηση των κινδύνων της.

Η είσοδος στο χρηματιστήριο δεν ακυρώνει αυτομάτως μια αποστολή δημόσιου οφέλους. Κάνει όμως ακόμη σημαντικότερο να αποδεικνύεται πώς αυτή επηρεάζει τις επιχειρηματικές αποφάσεις. Η πιο πειστική ένδειξη θα είναι μια στιγμή κατά την οποία η εταιρεία θα επιλέξει να καθυστερήσει, να περιορίσει ή να αποσύρει κάτι κερδοφόρο επειδή τα διαθέσιμα στοιχεία το απαιτούν.

Πηγές

ΣΧΕΤΙΚΑ ΑΡΘΡΑ