Εικόνες AI: Έρευνα εντοπίζει κενά ασφαλείας σε μοντέλα OpenAI και Google
Ένα μοντέλο παραγωγής εικόνων μπορεί να απορρίπτει μια απαγορευμένη εντολή και παρ’ όλα αυτά να αποτυγχάνει όταν οι προσπάθειες γίνουν συστηματικές και προσαρμοστικές. Αυτό είναι το πρόβλημα που αναδεικνύει νέα έρευνα της White Circle για τα συστήματα εικόνας της OpenAI και της Google.
Οι ερευνητές αναφέρουν ότι κατάφεραν να παρακάμψουν προστατευτικούς μηχανισμούς και να παραγάγουν περιεχόμενο που παραβιάζει τους κανόνες των υπηρεσιών, μεταξύ άλλων στην κατηγορία του γυμνού. Σε μεταγενέστερες δοκιμές τους, ορισμένα νεότερα μοντέλα εμφανίστηκαν πιο ευάλωτα από τους προκατόχους τους. Τα ευρήματα περιγράφονται στην ερευνητική παρουσίαση της White Circle.
Η είδηση αφορά κάτι ευρύτερο από την αποτελεσματικότητα ενός φίλτρου. Όσο οι γεννήτριες εικόνων γίνονται πιο προσιτές, οι αδυναμίες τους μπορούν να αποκτήσουν συνέπειες για ανθρώπους των οποίων η εικόνα χρησιμοποιείται χωρίς συναίνεση. Χρειάζεται, όμως, να ξεχωρίσουμε τι ακριβώς μετρήθηκε από όσα παραμένουν ανοιχτά.
Τι εξέτασε η έρευνα
Η μέθοδος ονομάζεται RISE, από το Red-teaming via Iterative Strategy Evolution. Το red-teaming είναι η οργανωμένη προσπάθεια να εντοπιστούν αδυναμίες ενός συστήματος μέσα από ελεγχόμενες επιθετικές δοκιμές.
Σε γενικές γραμμές, η RISE αναζητά επαναχρησιμοποιήσιμες στρατηγικές δοκιμής, αντί να περιορίζεται στην επανειλημμένη τροποποίηση μίας εντολής. Παράλληλα, αξιολογεί τα αποτελέσματα με κριτήρια που έχουν ελεγχθεί σε σχέση με ανθρώπινες αξιολογήσεις.
Η εργασία αναρτήθηκε στο arXiv στις 28 Σεπτεμβρίου 2026. Η έκδοση που εξετάστηκε εδώ είναι προδημοσίευση· η ανάρτηση στο arXiv δεν αποτελεί από μόνη της πιστοποίηση αξιολόγησης από ομοτίμους. Στην αρχική σύγκριση περιλαμβάνονται τα DALL·E 3, Nano Banana 2 και GPT-Image-2. Οι συγγραφείς αναφέρουν ανθρώπινα επιβεβαιωμένη επιτυχία έως περίπου 13% στις δοκιμές τους. Το αποτέλεσμα και η μεθοδολογική περιγραφή περιλαμβάνονται στην πρωτογενή εργασία RISE.
Πρόκειται για σκόπιμη πίεση των μηχανισμών ασφαλείας. Δεν είναι τυχαίο δείγμα καθημερινών αιτημάτων χρηστών.
Οι νεότερες εκδόσεις δεν ήταν πάντα ασφαλέστερες
Η White Circle δημοσίευσε και πρόσθετα αποτελέσματα μετά την υποβολή της αρχικής εργασίας. Στην κατηγορία γυμνού αναφέρει αύξηση του ποσοστού επιτυχίας από 3,3% στο GPT-Image-2 σε 7,8% στο GPT-Image-2.5-Flare. Για τα μοντέλα της Google, αναφέρει μεταβολή από 9,5% στο Nano Banana 2 σε 20,7% στο Nano Banana 2.1.
Αυτές οι τιμές προέρχονται από τη μεταγενέστερη ενημέρωση της ίδιας ερευνητικής ομάδας, όχι από ανεξάρτητη επανάληψη του πειράματος. Οι ερευνητές επίσης αναγνωρίζουν ότι δεν μπορούν να αποδώσουν την επιδείνωση σε συγκεκριμένη αιτία: μπορεί να σχετίζεται με το μοντέλο, με τις ρυθμίσεις ελέγχου περιεχομένου ή με συνδυασμό παραγόντων.
Επομένως, τα στοιχεία δεν τεκμηριώνουν ότι οι εταιρείες χαλάρωσαν σκόπιμα την ασφάλεια. Υποδεικνύουν ότι η βελτίωση των δυνατοτήτων ενός συστήματος δεν εγγυάται αντίστοιχη βελτίωση σε κάθε κατηγορία προστασίας.
Σύμφωνα με το ρεπορτάζ του Ars Technica της 14ης Οκτωβρίου, η OpenAI και η Google δεν είχαν απαντήσει στα συγκεκριμένα ερωτήματα του μέσου κατά τη δημοσίευση. Αυτό καταγράφει την κατάσταση του ρεπορτάζ εκείνη τη στιγμή και δεν αποτελεί παραδοχή των ισχυρισμών.
Τι σημαίνουν —και τι δεν σημαίνουν— τα ποσοστά
Ένα ποσοστό επιτυχίας σε στοχευμένες δοκιμές δεν περιγράφει την πιθανότητα να εμφανιστεί απαγορευμένο υλικό σε οποιαδήποτε συνομιλία. Εξαρτάται από τις συνθήκες του πειράματος, την έκδοση του συστήματος, τα κριτήρια ταξινόμησης και τον τρόπο επιλογής των προσπαθειών.
Εξίσου σημαντική είναι η απόσταση ανάμεσα στις κατηγορίες περιεχομένου. Η παραγωγή γυμνού που παραβιάζει την πολιτική μιας υπηρεσίας δεν αποδεικνύει αυτομάτως ότι το σύστημα μπορεί να δημιουργήσει πειστική σεξουαλική εικόνα ενός συγκεκριμένου πραγματικού προσώπου. Ούτε τεκμηριώνει από μόνη της παραγωγή υλικού σεξουαλικής κακοποίησης παιδιών.
Αυτά αποτελούν διαφορετικά ερωτήματα και απαιτούν ξεχωριστή, εξειδικευμένη αξιολόγηση. Η διάκριση δεν μειώνει τη σημασία της έρευνας. Αποτρέπει τη μετατροπή ενός συγκεκριμένου τεχνικού ευρήματος σε ευρύτερο ισχυρισμό που δεν έχει αποδειχθεί.
Υπάρχει και το ζήτημα του αξιολογητή. Αν ένα αυτοματοποιημένο σύστημα χαρακτηρίζει λανθασμένα μια ακίνδυνη εικόνα ως παραβίαση, τότε το ποσοστό «επιτυχίας» διογκώνεται. Η RISE δίνει ιδιαίτερο βάρος στην αντιπαραβολή με ανθρώπινες κρίσεις. Αυτό είναι ουσιαστικό βήμα για πιο αξιόπιστες συγκρίσεις, χωρίς να εξαλείφει την ανάγκη ανεξάρτητης επαλήθευσης.
Η συναίνεση παραμένει το κεντρικό ζήτημα
Πέρα από το εργαστηριακό πείραμα, υπάρχουν ήδη δεδομένα για τη χρήση της τεχνολογίας σε κακοποιητικές πρακτικές.
Μελέτη στο Computers in Human Behavior, με 7.231 ερωτώμενους στην Αυστραλία, το Ηνωμένο Βασίλειο και τις ΗΠΑ, εξέτασε τη δημιουργία και κατανάλωση μη συναινετικών σεξουαλικών εικόνων που παράγονται με AI. Το 3,2% των συμμετεχόντων δήλωσε συμπεριφορές δημιουργίας ή άλλης διάπραξης της συγκεκριμένης μορφής κακοποίησης, όπως ορίζεται στην έρευνα. Πρόκειται για αυτοαναφορές μέσα σε έρευνα πληθυσμού, όχι για καταμέτρηση περιστατικών σε πλατφόρμες. Τα στοιχεία παρουσιάζονται στη δημοσιευμένη μελέτη.
Ξεχωριστή εργασία, αναρτημένη και στον ιστότοπο του Google Research, εξέτασε τις κοινωνικές αντιλήψεις γύρω από αυτή την κακοποίηση. Οι συμμετέχοντες την καταδίκαζαν, αλλά η αυστηρότητα της κρίσης τους άλλαζε ανάλογα με το ποιος εμφανιζόταν στην εικόνα και αν το υλικό προοριζόταν για διανομή ή προσωπική χρήση. Η μελέτη «It’s still abuse» αναδεικνύει έτσι ένα πρόβλημα που δεν λύνεται αποκλειστικά με καλύτερο λογισμικό: την υποτίμηση της παραβίασης όταν η εικόνα είναι συνθετική.
Το ότι κάτι δεν συνέβη μπροστά σε μια κάμερα δεν καθιστά αδιάφορη τη χρήση της ταυτότητας ενός ανθρώπου.
Οι επιπτώσεις φτάνουν ήδη στα σχολεία
Η αυστραλιανή eSafety Commissioner έχει περιγράψει πώς οι συνθετικές σεξουαλικές εικόνες επηρεάζουν μαθητές, οικογένειες και σχολικές κοινότητες. Το υλικό μπορεί να παρουσιάζεται ως αστείο ή να χρησιμοποιείται για εκφοβισμό και στοχευμένη κακοποίηση. Η σχετική ενημέρωση της αρχής αντιμετωπίζει το φαινόμενο ως υπαρκτό πρόβλημα προστασίας, όχι ως μελλοντικό τεχνολογικό σενάριο.
Αυτό εξηγεί γιατί ακόμη και ένα περιορισμένο ποσοστό αποτυχίας χρειάζεται σοβαρή αντιμετώπιση. Η σημασία του δεν εξαντλείται στη θέση ενός μοντέλου σε έναν πίνακα αξιολόγησης. Μετρά και το περιβάλλον στο οποίο διατίθεται: πόσο εύκολη είναι η πρόσβαση, πόσο γρήγορα αναφέρονται περιστατικά και πόσο αποτελεσματικά αντιμετωπίζονται.
Η προστασία των ανθρώπων απαιτεί συνδυασμό πρόληψης, ενημέρωσης και ανταπόκρισης όταν προκύπτει βλάβη.
Ασφάλεια που ελέγχεται ξανά σε κάθε έκδοση
Η White Circle είναι εταιρεία που διαθέτει προϊόντα ελέγχου και προστασίας συστημάτων AI. Αυτή η εμπορική δραστηριότητα αποτελεί σχετικό πλαίσιο για την αξιολόγηση των ανακοινώσεών της. Δεν ακυρώνει τα ευρήματα, αλλά ενισχύει την ανάγκη για διαφανείς μεθόδους και επανάληψη από άλλες ομάδες.
Για τις πλατφόρμες, το ζητούμενο είναι ευρύτερο από τη διόρθωση των τελευταίων γνωστών κενών. Η προσέγγιση Safety by Design της eSafety τοποθετεί την προστασία στον σχεδιασμό και στη λειτουργία μιας υπηρεσίας, με ευθύνη του παρόχου, δυνατότητες αναφοράς και διαφάνεια για την αντιμετώπιση της κατάχρησης.
Η έρευνα RISE προσθέτει ένα πρακτικό ερώτημα σε αυτή τη συζήτηση: τι συμβαίνει στην ασφάλεια όταν αλλάζει το μοντέλο; Μια νέα έκδοση μπορεί να παράγει εντυπωσιακότερες εικόνες και ταυτόχρονα να ανοίγει διαφορετικά περιθώρια κατάχρησης.
Η αξιοπιστία, επομένως, χρειάζεται να αποδεικνύεται ξανά. Για όσους μπορεί να γίνουν στόχοι, η ουσιαστική πρόοδος θα φανεί όταν οι καλύτερες δυνατότητες συνοδεύονται από μετρήσιμα καλύτερη προστασία.
Πηγές
- Ars Technica — OpenAI, Google pushing new AI models easily tricked into making nudes, researchers say.
- arXiv — RISE: Red-teaming via Iterative Strategy Evolution for Modern Text-to-Image Models — προδημοσίευση.
- White Circle — RISE: Ερευνητική παρουσίαση και μεταγενέστερα αποτελέσματα.
- White Circle — Company.
- Computers in Human Behavior — AI-generated image-based sexual abuse: Perpetration and consumption across three regions.
- Google Research — “It’s still abuse”: Community attitudes and perceptions on AI-generated image-based sexual abuse.
- eSafety Commissioner — Deepfake damage in schools.
- eSafety Commissioner — Safety by Design.
