Deepfake/ Αλλοιωμένες σεξουαλικές εικόνες μέσω AI- Στο στόχαστρο Grok, Google και Microsoft

Έρευνα στη Βρετανία και χιλιάδες υπογραφές μετά τη διαρροή deepfake εικόνων διάσημων γυναικών από την τεχνητή νοημοσύνη του Elon Musk.

Όπως αναφέρει το Newsweek, το τελευταίο διάστημα, το Grok, το chatbot τεχνητής νοημοσύνης που ανήκει στον Elon Musk, έχει βρεθεί στο επίκεντρο της προσοχής, καθώς χρήστες της πλατφόρμας X (πρώην Twitter) δημοσιεύουν προτροπές ζητώντας του να δημιουργήσει σεξουαλικές ή αλλοιωμένες εικόνες γυναικών. Οι σχετικές αναρτήσεις έχουν συγκεντρώσει εκατοντάδες χιλιάδες προβολές, προκαλώντας έντονες αντιδράσεις διεθνώς.

Η υπόθεση έχει πάρει μεγάλες διαστάσεις, με τα συγκεκριμένα deepfake να γίνονται πρωτοσέλιδα παγκοσμίως, ενώ η κυβέρνηση του Ηνωμένου Βασιλείου εξετάζει το περιεχόμενο και δεν αποκλείει το ενδεχόμενο απαγόρευσης της πλατφόρμας. Μεταξύ των θυμάτων περιλαμβάνονται η Πριγκίπισσα Κέιτ και η συντηρητική influencer Ashley St. Clair.

Η παρουσιάστρια του δημοφιλούς ριάλιτι Love Island, Maya Jama, ζήτησε δημόσια από το Grok να μην επεξεργάζεται ή τροποποιεί φωτογραφίες της, σε ανάρτηση που ξεπέρασε τις 6 εκατομμύρια προβολές.

Αντιδράσεις και έρευνες για τις deepfake εικόνες

Παράλληλα, ξεκίνησε διαδικτυακή εκστρατεία με αίτημα τη λήψη μέτρων κατά αυτών των εικόνων. Μέσα σε μία εβδομάδα, η σχετική ηλεκτρονική συλλογή υπογραφών συγκέντρωσε πάνω από 40.000 υπογραφές, ενώ ανάρτηση που τη στηρίζει έχει δει περισσότερα από 2 εκατομμύρια άτομα στην πλατφόρμα X.

Σε ερώτημα του Newsweek σχετικά με το θέμα, εκπρόσωπος της X παρέπεμψε σε ανακοίνωση που είχε δημοσιευθεί στις 4 Ιανουαρίου: «Λαμβάνουμε μέτρα κατά παράνομου περιεχομένου στο X, όπως υλικό σεξουαλικής κακοποίησης παιδιών (CSAM), διαγράφοντας το περιεχόμενο, αποκλείοντας οριστικά λογαριασμούς και συνεργαζόμενοι με αρχές όπου απαιτείται. Όποιος χρησιμοποιεί ή καθοδηγεί το Grok για τη δημιουργία παράνομου περιεχομένου θα υποστεί τις ίδιες συνέπειες όπως αν ανέβαζε ο ίδιος παράνομο περιεχόμενο.»

Επιπλέον, η εταιρεία XAI, που έχει αναπτύξει το Grok, απάντησε στο Newsweek με τη φράση: «Legacy Media Lies» («Τα παραδοσιακά μέσα λένε ψέματα»).

Οι γυναίκες πίσω από τα viral deepfakes

Καθώς το φαινόμενο των deepfake εικόνων λαμβάνει παγκόσμιες διαστάσεις, πίσω από τις viral αναρτήσεις και τα πρωτοσέλιδα βρίσκονται πραγματικές γυναίκες που έχουν στοχοποιηθεί και επηρεαστεί ψυχολογικά από τη δημιουργία αυτού του περιεχομένου. Το Newsweek μίλησε με θύματα τέτοιων εικόνων για να καταγράψει τον συναισθηματικό τους αντίκτυπο.

NBC: Το θέμα έχει λάβει μεγάλες διαστάσεις

Οι deepfake εικόνες που ενσωματώνουν το πρόσωπο ενός παιδιού σε σεξουαλικά άσεμνο περιεχόμενο βρίσκονται εύκολα στα κορυφαία αποτελέσματα αναζήτησης εικόνων στις κορυφαίες μηχανές αναζήτησης και στις κύριες πλατφόρμες κοινωνικής δικτύωσης, παρά το γεγονός ότι ένας νόμος των ΗΠΑ φαίνεται να απαγορεύει τέτοιου είδους υλικό, όπως αναφέρει το NBCnews.

Τέτοιες εικόνες συχνά απεικονίζουν πρόσωπα γνωστών διασημοτήτων πριν κλείσουν τα 18, σε συνδυασμό με γυμνό σώμα ενός ενήλικα. Δύο από τα 10 κορυφαία αποτελέσματα αναζήτησης εικόνων για τον όρο «ψεύτικες γυμνές φωτογραφίες» στο Bing της Microsoft ήταν σεξουαλικά άσεμνες deepfakes γυναικών διασημοτήτων από την ηλικία των 12 και 15 ετών, σύμφωνα με μια ανασκόπηση που διεξήγαγε το NBC News. Μία από αυτές τις εικόνες εμφανίστηκε επίσης στην πρώτη σελίδα των αποτελεσμάτων αναζήτησης εικόνων της Google για το όνομα μιας από τις διασημότητες καθώς και για «ψεύτικες γυμνές φωτογραφίες».

Η Microsoft και η Google δήλωσαν ότι αφαίρεσαν το συγκεκριμένο υλικό που εντόπισε το NBC News από τα κορυφαία αποτελέσματα αναζήτησης. Ωστόσο, τα αποτελέσματα αναζήτησης για όρους όπως «ψεύτικα γυμνά» και ονόματα συγκεκριμένων διασημοτήτων, καθώς και «ψεύτικα γυμνά» και «deepfakes» εξακολουθούν να επιστρέφουν σελίδες με παρόμοιες μη συναινετικές σεξουαλικά άσεμνες εικόνες και στις δύο πλατφόρμες. Τα υπόλοιπα deepfake αποτελέσματα περιλαμβάνουν πρόσωπα που φαίνονται να είναι ενήλικες, καθώς και πρόσωπα νεανικής εμφάνισης που το NBC News δεν έχει διερευνήσει.

«Η Microsoft έχει μακροχρόνια δέσμευση για την προώθηση της ασφάλειας των παιδιών και την αφαίρεση παράνομου και επιβλαβούς περιεχομένου από τις υπηρεσίες μας. Έχουμε αφαιρέσει αυτό το περιεχόμενο και παραμένουμε αφοσιωμένοι στην ενίσχυση της άμυνάς μας και στην προστασία των υπηρεσιών μας από καταχρηστικό περιεχόμενο και συμπεριφορά στο διαδίκτυο», δήλωσε εκπρόσωπος της Microsoft.

«Η Αναζήτηση Google διαθέτει ισχυρές προστασίες για να περιορίσει την εμβέλεια του αποτρόπαιου περιεχομένου που απεικονίζει υλικό σεξουαλικής κακοποίησης παιδιών ή εκμεταλλεύεται ανηλίκους και αυτά τα συστήματα είναι αποτελεσματικά και κατά των συνθετικών εικόνων CSAM», δήλωσε εκπρόσωπος της Google σε ανακοίνωσή του. «Εντοπίζουμε, καταργούμε και αναφέρουμε προληπτικά τέτοιου είδους περιεχόμενο στην Αναζήτηση και έχουμε εφαρμόσει πρόσθετες προστασίες για να φιλτράρουμε και να υποβαθμίζουμε περιεχόμενο που σεξουαλικοποιεί ανηλίκους. Σύμφωνα με τις πολιτικές μας, έχουμε αφαιρέσει την εικόνα που μας αναφέρθηκε και ενημερώνουμε και βελτιώνουμε συνεχώς τους αλγόριθμους και τις πολιτικές μας για την καταπολέμηση αυτών των εξελισσόμενων απειλών».

Τον Ιανουάριο, το NBC News βρήκε δύο παραδείγματα σεξουαλικά άσεμνων ψεύτικων μέσων ενημέρωσης με την έφηβη σταρ της Marvel, Xochitl Gomez, τα οποία εμφανίστηκαν στην κορυφή των αποτελεσμάτων αναζήτησης του X (πρώην Twitter) για το όνομά της και τη λέξη «γυμνά». Η X δεν απάντησε σε αίτημα για σχολιασμό εκείνη την εποχή, αλλά τα αποτελέσματα έχουν έκτοτε εξαφανιστεί.

Ένα deepfake είναι ψεύτικο ή παραπλανητικό μέσο που δημιουργείται ή επεξεργάζεται χρησιμοποιώντας εργαλεία τεχνητής νοημοσύνης. Τα μη συναινετικά σεξουαλικά άσεμνα deepfakes αναφέρονται γενικά σε υλικό που δημιουργείται με τεχνολογία τεχνητής νοημοσύνης, σε αντίθεση με τις ψεύτικες γυμνές φωτογραφίες που δημιουργούνται ή επεξεργάζονται από υπολογιστή και προηγούνται του τρέχοντος κύματος τεχνητής νοημοσύνης.

Ένας ομοσπονδιακός νόμος, που δύο νομικοί εμπειρογνώμονες λένε ότι απαγορεύει την εν γνώσει παραγωγή, διανομή, λήψη ή κατοχή εικόνων παιδιών με σεξουαλικό περιεχόμενο που δημιουργούνται από υπολογιστή, υπάρχει στον Κώδικα των ΗΠΑ από τα τέλη της δεκαετίας του 1990. Ωστόσο, οι ειδικοί λένε ότι ο νόμος δεν έχει εφαρμοστεί κατά εταιρειών τεχνολογίας που φιλοξενούν εικόνες όπως αυτές που αναγνώρισε το NBC News, αλλά μάλλον έχει χρησιμοποιηθεί περιστασιακά για την καταδίκη κατηγορουμένων σε υποθέσεις που αφορούν μεμονωμένους δράστες. Υπάρχουν διάφοροι λόγοι για τους οποίους τέτοιο υλικό παραμένει αναρτημένο σε πλατφόρμες κοινωνικής δικτύωσης και μηχανές αναζήτησης, ανέφεραν οι ειδικοί.

«Οι περισσότεροι άνθρωποι δεν γνωρίζουν πραγματικά τι είναι ο νόμος περί παιδικής πορνογραφίας, επειδή δεν είναι προφανής. Δεν σημαίνει απλώς «γυμνές φωτογραφίες παιδιών»», δήλωσε η Mary Anne Franks, καθηγήτρια στη Νομική Σχολή του Πανεπιστημίου George Washington και συχνή σύμβουλος σε θέματα νομοθεσίας σχετικά με το μη συναινετικό σεξουαλικά άσεμνο υλικό.

«Πολλοί άνθρωποι απλώς υποθέτουν ότι γνωρίζουν τι απαγορεύει ο νόμος, αλλά στην πραγματικότητα δεν το γνωρίζετε, και δεν είναι κάτι για το οποίο οι άνθρωποι θέλουν πραγματικά να μιλήσουν ή να ρωτήσουν», είπε ο Φρανκς. «Υπάρχει αυτό το είδος αναστολής ακόμη και για άτομα καλόπιστα που προσπαθούν να καταλάβουν τι είναι ο νόμος, ώστε να μην θέλουν να το διερευνήσουν, επειδή ακόμη και η προσπάθεια να καταλάβουν την έρευνα σχετικά με αυτό, ανάλογα με τους όρους αναζήτησής σας, θα μπορούσε στην πραγματικότητα να σας παρουσιάσει CSAM».

Ο Φρανκς δήλωσε ότι οι πλατφόρμες κοινωνικής δικτύωσης και οι μηχανές αναζήτησης ενδέχεται να μην φέρουν ευθύνη για την απλή φιλοξενία τέτοιου υλικού. Νομικά επιχειρήματα που βασίζονται στο Άρθρο 230, ένα ξεχωριστό μέρος του Κώδικα των ΗΠΑ, το οποίο ορίζει ότι οι διαδικτυακές πλατφόρμες δεν φέρουν ευθύνη για περιεχόμενο που δημιουργείται από χρήστες, έχουν προστατεύσει τις εταιρείες τεχνολογίας από δικαστικές διαμάχες σχετικά με παράνομη συμπεριφορά που διευκολύνεται μέσω των υπηρεσιών τους στο παρελθόν.

Ωστόσο, νομικοί εμπειρογνώμονες έχουν επίσης αμφισβητήσει αυτήν την ερμηνεία του Άρθρου 230. Ο Φρανκς είπε επίσης ότι θα μπορούσε να προβληθεί το επιχείρημα ότι οι πλατφόρμες αποτελούν μέρος της διαδικασίας δημιουργίας τέτοιου υλικού, το οποίο θα μπορούσε να περιλαμβάνει τη φιλοξενία συνδέσμων προς εφαρμογές και υπηρεσίες που μπορούν να δημιουργήσουν σεξουαλικά άσεμνα deepfakes παιδιών. Το εν λόγω περιεχόμενο δεν προστατεύεται απαραίτητα από το Άρθρο 230.

Στο Bing της Microsoft, μια αναζήτηση εικόνων από ένα πρόγραμμα περιήγησης ανώνυμης περιήγησης για «ψεύτικες γυμνές φωτογραφίες» με απενεργοποιημένα τα φίλτρα ασφαλείας (επιτρέποντας την προβολή πορνογραφικού περιεχομένου) επιστρέφει σελίδες με αποτελέσματα ψεύτικων γυμνών εικόνων διασημοτήτων γυναικών. Δύο από τα πρώτα 25 αποτελέσματα περιλαμβάνουν εικόνες που περιλαμβάνουν πρόσωπα ανηλίκων.

Έξι πρώην αστέρες του Disney Channel, όπως η Miley Cyrus, περιλαμβάνονται στα 25 κορυφαία αποτελέσματα. Η Cyrus δεν απάντησε σε αίτημα για σχολιασμό.

Ένα από τα πρώτα 10 αποτελέσματα αναζήτησης εικόνων δείχνει το πρόσωπο της Cyrus κομμένο και επικολλημένο σε μια προϋπάρχουσα πορνογραφική εικόνα. Το αποτέλεσμα θα μπορούσε νομικά να θεωρηθεί ως CSAM, καθώς η εικόνα που χρησιμοποιήθηκε ήταν της Cyrus όταν ήταν 15 ετών. Μια τέτοια εικόνα μπορεί να δημιουργηθεί με εργαλεία επεξεργασίας φωτογραφιών που είναι διαθέσιμα στους καταναλωτές από τις αρχές του αιώνα. Μπορεί επίσης να δημιουργηθεί πολύ πιο γρήγορα και εύκολα — και μερικές φορές να γίνει πιο ρεαλιστική — με τα εργαλεία ενισχυμένης τεχνητής νοημοσύνης που είναι διαθέσιμα σήμερα. Το αποτέλεσμα της εικόνας στο Bing παραπέμπει σε μια ανάρτηση σε φόρουμ που έγινε τον Δεκέμβριο του 2013.

Μια αντίστροφη αναζήτηση εικόνας για την εικόνα του προσώπου της Cyrus στην ψεύτικη γυμνή εικόνα ανέκτησε την αρχική της θέση: Ήταν το εξώφυλλο του single της του 2008, “Start All Over”. Το τραγούδι κυκλοφόρησε τον Μάρτιο του 2008, που σημαίνει ότι η Cyrus ήταν 15 ετών ή νεότερη όταν τραβήχτηκε η φωτογραφία. Μια αναζήτηση στην Google για “Miley Cyrus fake nudes” επέστρεψε την ίδια ψεύτικη γυμνή εικόνα, η οποία έδειχνε μια 15χρονη Cyrus στα 10 κορυφαία αποτελέσματα αναζήτησης εικόνων της Google.

Το τέταρτο αποτέλεσμα για «ψεύτικες γυμνές φωτογραφίες» στο Bing δείχνει το πρόσωπο της ηθοποιού Peyton List, η οποία εμφανίστηκε στη σειρά του Disney Channel «Jessie» το 2011, όταν ήταν 13 ετών. Μια αναζήτηση αντίστροφης εικόνας για το πρόσωπο της List στην ψεύτικη γυμνή εικόνα ανακτά μια αντιστοιχία για μια φωτογραφία Getty της List από το 2010, όταν ήταν 12 ετών. Το αποτέλεσμα αναζήτησης συνδέεται με μια διαγραμμένη έκτοτε ανάρτηση στο Tumblr σε ένα ιστολόγιο που δεν είναι ενεργό εδώ και επτά χρόνια. Αυτή η deepfake φωτογραφία της List μπορεί να ξεπεράσει ή να μην ξεπεράσει τον πήχη για CSAM, καθώς απεικονίζει γυμνό, αλλά όχι απαραίτητα σεξουαλική συμπεριφορά.

Το αποτέλεσμα δίπλα στην ψεύτικη γυμνή φωτογραφία της Cyrus με ανήλικη είναι μια παρόμοια ψεύτικη γυμνή φωτογραφία της Selena Gomez. Η εικόνα της Gomez παραπέμπει σε μια ανάρτηση στο ίδιο νήμα στο ίδιο φόρουμ από τον Δεκέμβριο του 2013. Μια αντίστροφη αναζήτηση εικόνας έδειξε ότι η φωτογραφία της Selena Gomez ανέβηκε στις 30 Ιουλίου 2009, οκτώ ημέρες αφότου έκλεισε τα 18, καταδεικνύοντας πόσο δύσκολο μπορεί να είναι, ειδικά απλώς μαντεύοντας, να προσδιοριστεί εάν ένα πρόσωπο σε μια ψεύτικη γυμνή εικόνα ανήκει σε παιδί ή σε ενήλικα. Ο List και η Gomez δεν απάντησαν αμέσως σε αιτήματα για σχολιασμό.