Guardian: Η σκοτεινή πλευρά της Τεχνητής Νοημοσύνης- Ανεξέλεγκτη εξάπλωση σεξουαλικοποιημένων εικόνων στο διαδίκτυο

Η ραγδαία εξάπλωση της Τεχνητής Νοημοσύνης φέρνει μαζί της σημαντικές καινοτομίες, αλλά και σοβαρούς κινδύνους που πλέον απασχολούν έντονα ειδικούς, ρυθμιστικές αρχές και κοινωνικούς φορείς. Ανάμεσα στα πιο ανησυχητικά φαινόμενα ξεχωρίζει η μαζική παραγωγή και διακίνηση σεξουαλικοποιημένων εικόνων, με κύρια θύματα τις γυναίκες, μέσω εργαλείων ΑΙ που συχνά λειτουργούν με ανεπαρκείς δικλείδες ασφαλείας.

Χαρακτηριστικές είναι οι αναρτήσεις χρηστών στο Reddit, οι οποίοι αναφέρονται ανοιχτά στη χρήση του chatbot Grok, που ανήκει στον Έλον Μασκ. «Από τότε που ανακάλυψα την Τεχνητή Νοημοσύνη του Grok, η κανονική πορνογραφία δεν μου ταιριάζει και πλέον, ακούγεται απλώς ακούγεται παράλογη», έγραψε χαρακτηριστικά ένας χρήστης. «Αν θέλω ένα συγκεκριμένο άτομο, όντως», συμφώνησε άλλος, υπονοώντας ότι μπορεί να δημιουργήσει σεξουαλικοποιημένες εικόνες πραγματικών προσώπων.

Όσοι πίστευαν ότι οι νέες δικλείδες ασφαλείας που εισήχθησαν πρόσφατα στο Grok θα περιόριζαν το φαινόμενο, διαψεύδονται από τη συνεχιζόμενη δραστηριότητα σε διαδικτυακά φόρουμ, γεγονός που αποκαλύπτει ότι το πρόβλημα είναι δομικό και βαθύτερο.

Παρότι ορισμένες πλατφόρμες επιχειρούν να επιβάλουν αυστηρούς περιορισμούς, η εικόνα παραμένει άνιση. Το γλωσσικό μοντέλο Claude, όταν του ζητήθηκε να αφαιρέσει ρούχα από φωτογραφία γυναίκας, απάντησε: «Δεν μπορώ να το κάνω αυτό. Δεν μπορώ να επεξεργαστώ εικόνες για να αλλάξω ρούχα ή να δημιουργήσω χειραγωγημένες φωτογραφίες ανθρώπων». Αντίστοιχα, το ChatGPT και το Gemini της Google δημιουργούν εικόνες γυναικών με μπικίνι, αλλά χωρίς περαιτέρω σεξουαλικοποίηση.

Παράκαμψη περιορισμών και «jailbreaking»

Σε άλλες περιπτώσεις, ωστόσο, οι περιορισμοί είναι εμφανώς πιο χαλαροί. Χρήστες του Grok ανταλλάσσουν οδηγίες στο Reddit για το πώς μπορούν να δημιουργήσουν σκληρό πορνογραφικό υλικό χρησιμοποιώντας φωτογραφίες πραγματικών γυναικών. Όπως αναφέρουν, όροι όπως «καλλιτεχνικό γυμνό» επιτρέπουν την παράκαμψη των φίλτρων, ενώ σε νήματα συζήτησης εκφράζονται παράπονα επειδή η πλατφόρμα αρνείται να δημιουργήσει γεννητικά όργανα, παρότι επιτρέπει άλλες μορφές γυμνού.

Πέρα από τις μεγάλες πλατφόρμες, λειτουργεί ένα ολόκληρο οικοσύστημα ιστοσελίδων, φόρουμ και εφαρμογών αφιερωμένων στην απογύμνωση και ταπείνωση γυναικών. Η Anne Craanen, ερευνήτρια στο Ινστιτούτο Στρατηγικού Διαλόγου (ISD), επισημαίνει ότι αυτές οι κοινότητες «βρίσκουν ολοένα και περισσότερες διόδους προς το mainstream».

Σε πλατφόρμες όπως το Telegram και το X, οι χρήστες συζητούν τρόπους «jailbreaking» των chatbots, δηλαδή την παράκαμψη των προστατευτικών μηχανισμών ώστε να παράγουν πορνογραφικό περιεχόμενο. «Υπάρχει ένα πολύ γόνιμο έδαφος για να ευδοκιμήσει ο μισογυνισμός», τονίζει η Craanen.

Ανησυχητικά στοιχεία και εμπορική διάσταση

Έρευνα του ISD το περασμένο καλοκαίρι εντόπισε δεκάδες εφαρμογές και ιστοσελίδες πορνογραφίας, οι οποίες προσέλκυσαν σχεδόν 21 εκατομμύρια επισκέπτες μόνο τον Μάιο του 2025. Παράλληλα, καταγράφηκαν 290.000 αναφορές για τέτοια εργαλεία στο X μέσα σε δύο μήνες. Αντίστοιχη έρευνα του American Sunlight Project αποκάλυψε χιλιάδες διαφημίσεις αυτών των εφαρμογών στη Meta, παρά τις προσπάθειες περιορισμού τους.

Η Nina Jankowicz, συνιδρύτρια του American Sunlight Project, σημειώνει: «Υπάρχουν εκατοντάδες εφαρμογές που φιλοξενούνται σε mainstream app stores όπως η Apple και η Google. Μεγάλο μέρος της υποδομής της deepfake σεξουαλικής κακοποίησης υποστηρίζεται από εταιρείες που όλοι χρησιμοποιούμε καθημερινά».

Ανησυχία από νομικούς και ειδικούς στη βία κατά των γυναικών

Η Clare McGlynn, καθηγήτρια Νομικής στο Durham University, εκφράζει έντονο προβληματισμό: «Η OpenAI ανακοίνωσε τον περασμένο Νοέμβριο ότι θα επέτρεπε το “ερωτικό” περιεχόμενο στο ChatGPT. Αυτό που έχει συμβεί στο X δείχνει ότι κάθε νέα τεχνολογία χρησιμοποιείται για την κακοποίηση και παρενόχληση γυναικών και κοριτσιών. Τι θα δούμε στο ChatGPT;».

Η ίδια προσθέτει ότι «οι γυναίκες και τα κορίτσια είναι πολύ πιο απρόθυμες να χρησιμοποιήσουν την Τεχνητή Νοημοσύνη», καθώς δεν τη βλέπουν ως ευκαιρία, αλλά ως νέο εργαλείο παρενόχλησης και κακοποίησης.

Παρότι το Grok έχει περιορίσει τη δημιουργία εικόνων για μη συνδρομητές, το εργαλείο εντός εφαρμογής εξακολουθεί να επιτρέπει τη δημιουργία σεξουαλικά άσεμνων εικόνων βασισμένων σε φωτογραφίες πραγματικών ανθρώπων. Όπως επισημαίνει η Craanen, ο στόχος των deepfake γυμνών εικόνων «δεν είναι μόνο η κοινοποίηση, αλλά και το ίδιο το θέαμα της διαδικασίας», κάτι που, όπως τονίζει, υπονομεύει τους δημοκρατικούς κανόνες και τον ρόλο των γυναικών στην κοινωνία.