Σειρές διακομιστών σε κέντρο δεδομένων

Mistral Large 4: Η ευρωπαϊκή AI επιστρέφει στη μάχη των μεγάλων μοντέλων

Η Mistral έβαλε ξανά στο τραπέζι το ερώτημα αν μια ευρωπαϊκή εταιρεία μπορεί να ανταγωνιστεί τα ισχυρότερα μοντέλα τεχνητής νοημοσύνης. Στις 6 Οκτωβρίου παρουσίασε το Mistral Large 4, διαθέσιμο αρχικά σε δημόσια δοκιμαστική έκδοση, με τη δημοσίευση των βαρών του να προγραμματίζεται μέχρι το τέλος του μήνα.

Το νέο μοντέλο συνδυάζει επεξεργασία κειμένου και εικόνας και απευθύνεται ιδιαίτερα σε προγραμματισμό και σύνθετες επαγγελματικές εργασίες. Η εταιρεία το παρουσιάζει ως το ισχυρότερο μοντέλο της μέχρι σήμερα. Η ανακοίνωση, όμως, είναι η αρχή της αξιολόγησής του: οι επιδόσεις που προβάλλονται χρειάζονται έλεγχο έξω από τις δοκιμές του κατασκευαστή. Επίσημη ανακοίνωση Mistral.

Διαθέσιμο για δοκιμή, με τα βάρη να ακολουθούν

Το Mistral Large 4 εμφανίζεται στην επίσημη τεκμηρίωση ως Public Preview, με αναγνωριστικό mistral-large-4. Η πρόσβαση μέσω API επιτρέπει σε προγραμματιστές να το ενσωματώσουν σε εφαρμογές και να εξετάσουν τη συμπεριφορά του πριν από την προγραμματισμένη διάθεση των βαρών. Το αρχείο ενημερώσεων της Mistral επιβεβαιώνει ότι αυτά δεν έχουν ακόμη κυκλοφορήσει.

Τη διαθεσιμότητα επιβεβαιώνει και η Vercel, η οποία ανακοίνωσε την προσθήκη του μοντέλου στο AI Gateway. Μέσω της υπηρεσίας της μπορεί να χρησιμοποιηθεί χωρίς ξεχωριστό λογαριασμό Mistral, με χρέωση μέσω της υποδομής της Vercel. Ανακοίνωση Vercel.

Αυτή η διάκριση έχει πρακτική σημασία. Η δυνατότητα αποστολής αιτημάτων σε μια διαδικτυακή υπηρεσία δεν ταυτίζεται με τη δυνατότητα εγκατάστασης του μοντέλου σε ιδιόκτητους διακομιστές. Για το δεύτερο χρειάζονται τα αρχεία του, οι όροι χρήσης και κατάλληλη υποδομή.

Περίπου ένα τρισεκατομμύριο παράμετροι — αλλά όχι όλες ενεργές

Το Large 4 χρησιμοποιεί αρχιτεκτονική Mixture-of-Experts, ή MoE. Σε τέτοια μοντέλα, διαφορετικά υποδίκτυα αναλαμβάνουν τμήματα της επεξεργασίας, αντί να ενεργοποιείται ολόκληρο το σύστημα για κάθε token, δηλαδή κάθε μικρή μονάδα κειμένου.

Ένας μηχανισμός δρομολόγησης επιλέγει ποια υποδίκτυα θα συμμετάσχουν. Οι «ειδικοί» της ονομασίας δεν είναι απαραίτητα χωριστοί ειδήμονες στα μαθηματικά, στη νομική ή στον προγραμματισμό. Πρόκειται για υπολογιστικά τμήματα του δικτύου, των οποίων η λειτουργία διαμορφώνεται κατά την εκπαίδευση. Hugging Face — Mixture of Experts.

Στα δημοσιευμένα στοιχεία υπάρχει πάντως μια ασυμφωνία. Η ανακοίνωση αναφέρει περίπου ένα τρισεκατομμύριο συνολικές παραμέτρους και 49 δισεκατομμύρια ενεργές. Η τεχνική καρτέλα αναγράφει 1,05 τρισεκατομμύρια συνολικές και 52 δισεκατομμύρια ενεργές. Δεν προκύπτει από τις δύο σελίδες σαφής εξήγηση της διαφοράς. Τεχνική καρτέλα Mistral Large 4.

Η βασική εικόνα παραμένει ίδια: ένα πολύ μεγάλο μοντέλο που χρησιμοποιεί μέρος των παραμέτρων του σε κάθε βήμα. Αυτό περιορίζει τους υπολογισμούς σε σχέση με την πλήρη ενεργοποίηση ενός αντίστοιχου μεγέθους μοντέλου, χωρίς να εξαφανίζει τις απαιτήσεις μνήμης και διακίνησης δεδομένων. Η αρχιτεκτονική MoE δεν μετατρέπει αυτομάτως ένα τόσο μεγάλο σύστημα σε εφαρμογή για κοινό φορητό υπολογιστή.

Μεγαλύτερο περιθώριο για έγγραφα, εικόνες και εργαλεία

Η τεκμηρίωση δίνει παράθυρο συμφραζομένων ενός εκατομμυρίου tokens. Πρόκειται για το υλικό που μπορεί να χωρέσει στο πλαίσιο επεξεργασίας του μοντέλου, μαζί με τις οδηγίες και το σχετικό περιεχόμενο.

Η καρτέλα αναφέρει επίσης υποστήριξη δομημένων απαντήσεων, κλήσης συναρτήσεων, ερωταπαντήσεων πάνω σε έγγραφα και ενσωμάτωσης σε συστήματα agents. Mistral Docs.

Για μια επιχείρηση, οι δυνατότητες αυτές μπορούν να αξιοποιηθούν σε εφαρμογές που συνδυάζουν αναφορές, πίνακες και εικόνες ή συνδέουν το μοντέλο με εσωτερικά εργαλεία. Ένα υποθετικό παράδειγμα είναι η εξέταση τεχνικού φακέλου, όπου η απάντηση πρέπει να αντλεί στοιχεία τόσο από το κείμενο όσο και από ένα διάγραμμα.

Το μεγάλο παράθυρο εισόδου, ωστόσο, δεν αποτελεί εγγύηση ότι κάθε πληροφορία θα ανακτηθεί σωστά. Μια χρήσιμη δοκιμή πρέπει να εξετάζει αν το σύστημα εντοπίζει μια κρίσιμη λεπτομέρεια, διακρίνει αντικρουόμενα στοιχεία και παραπέμπει στο σωστό σημείο του εγγράφου. Το πόσο υλικό δέχεται είναι διαφορετικό ερώτημα από το πόσο αξιόπιστα το αξιοποιεί.

Οι ισχυρισμοί επιδόσεων χρειάζονται ανεξάρτητο έλεγχο

Η Mistral προβάλλει επιδόσεις σε προγραμματισμό, κυβερνοασφάλεια, χρηματοοικονομικές και νομικές εργασίες. Παρουσιάζει επίσης δυνατότητες οπτικού εντοπισμού, δηλαδή σύνδεσης μιας περιγραφής με συγκεκριμένα στοιχεία μέσα σε μια εικόνα. Αυτά αποτελούν αποτελέσματα και αξιολογήσεις που δημοσιοποιεί η ίδια η εταιρεία. Mistral.

Η Le Monde, στο ρεπορτάζ της για την παρουσίαση, επισημαίνει ότι οι επιδόσεις απομένει να επιβεβαιωθούν στις ανεξάρτητες κατατάξεις. Τοποθετεί την κυκλοφορία στο πλαίσιο της προσπάθειας της γαλλικής εταιρείας να μειώσει την απόσταση από τους ισχυρότερους ανταγωνιστές της. Le Monde.

Για τον τελικό χρήστη, μια συνολική βαθμολογία έχει περιορισμένη αξία χωρίς αντιπροσωπευτικές δοκιμές. Ένα μοντέλο μπορεί να γράφει αποτελεσματικά κώδικα, αλλά να απαιτεί περισσότερες διορθώσεις σε ελληνικά έγγραφα ή εξειδικευμένη ορολογία.

Ειδικά για εφαρμογές στην Ελλάδα, χρειάζεται έλεγχος σε πραγματικό ελληνόγλωσσο υλικό. Η γενική πολυγλωσσική ικανότητα δεν αρκεί για να αποδειχθεί ότι το σύστημα κατανοεί σωστά μια διοικητική διατύπωση, μια τεχνική συντομογραφία ή μια αμφίσημη οδηγία.

Ανοιχτά βάρη και ευρωπαϊκή υποδομή

Η Mistral δηλώνει ότι το Large 4 εκπαιδεύτηκε σε 3.800 NVIDIA Grace Blackwell GPUs, σε δικά της ευρωπαϊκά κέντρα δεδομένων, τα οποία χρησιμοποιούνται και για τη δημόσια δοκιμαστική έκδοση. Συνδέει αυτή την επιλογή με μεγαλύτερο έλεγχο της υποδομής και με τη στρατηγική της για ευρωπαϊκή τεχνολογική αυτονομία. Επίσημη ανακοίνωση.

Η μελλοντική πρόσβαση στα βάρη μπορεί να δώσει στους οργανισμούς περισσότερες επιλογές εγκατάστασης και προσαρμογής. Δεν αρκεί, όμως, για να χαρακτηριστεί ένα σύστημα πλήρως ανοικτού κώδικα.

Ο ορισμός της Open Source Initiative περιλαμβάνει, πέρα από τις παραμέτρους, κατάλληλα δικαιώματα χρήσης και πρόσβαση σε κώδικα και πληροφορίες για τα δεδομένα που επιτρέπουν ουσιαστική μελέτη και τροποποίηση. Το «open-weight» περιγράφει επομένως κάτι πιο συγκεκριμένο από το «open-source AI». Open Source Initiative.

Για έναν οργανισμό, το ουσιαστικό ερώτημα είναι ποιον έλεγχο αποκτά στην πράξη: αν μπορεί να μεταφέρει την εφαρμογή του, να προσαρμόσει το μοντέλο και να συνεχίσει να το χρησιμοποιεί με αποδεκτό κόστος. Αυτά θα αξιολογηθούν πληρέστερα όταν δημοσιευτεί το σχετικό πακέτο.

Τι κοστίζει και πώς θα κριθεί στην πράξη

Κατά τον έλεγχο της 7ης Οκτωβρίου, οι δημοσιευμένες τιμές προσφοράς είναι 0,68 δολάρια ανά εκατομμύριο tokens εισόδου και 2,09 δολάρια ανά εκατομμύριο tokens εξόδου. Ο κανονικός τιμοκατάλογος αναγράφει αντίστοιχα 1,36 και 4,18 δολάρια, με έκπτωση έναρξης 50% για δύο εβδομάδες. Τιμές μοντέλου, όροι προσφοράς.

Τα tokens δεν αντιστοιχούν ένα προς ένα σε λέξεις. Ούτε η τιμή τους αρκεί για τον υπολογισμό του κόστους μιας εργασίας. Ένας agent μπορεί να κάνει πολλές διαδοχικές κλήσεις, να επανεξετάζει υλικό και να χρειάζεται ανθρώπινη διόρθωση.

Έτσι, η πιο χρήσιμη σύγκριση είναι το κόστος ανά σωστά ολοκληρωμένη εργασία, μαζί με τον χρόνο απόκρισης και την ανάγκη επίβλεψης. Μια φθηνότερη κλήση δεν συνεπάγεται πάντα φθηνότερη διαδικασία.

Το Mistral Large 4 προσθέτει μια σημαντική ευρωπαϊκή υποψηφιότητα στην αγορά των μεγάλων μοντέλων. Η επόμενη κρίσιμη στιγμή θα είναι η δημοσίευση των βαρών και οι δοκιμές τρίτων: εκεί θα φανεί πόσο από το υποσχόμενο πλεονέκτημα μεταφέρεται σε πραγματικές εφαρμογές και πόσο εύκολα μπορούν να το αξιοποιήσουν όσοι βρίσκονται έξω από το εργαστήριο του κατασκευαστή.

Πηγές

ΣΧΕΤΙΚΑ ΑΡΘΡΑ