Σύμφωνα με το πρακτορείο, εννέα δημοσιογράφοι από ΗΠΑ και Ηνωμένο Βασίλειο δοκίμασαν αν το Grok θα συμμορφωνόταν με αιτήματα που ζητούσαν αλλοίωση κανονικών φωτογραφιών — πλήρως ντυμένων — ώστε να μετατραπούν σε σεξουαλικά προκλητικές ή ταπεινωτικές εικόνες, ακόμη και όταν δηλωνόταν ότι τα εικονιζόμενα πρόσωπα είναι ευάλωτα, δεν συναινούν ή ότι το υλικό θα χρησιμοποιηθεί για διαπόμπευση.

Τα ποσοτικά ευρήματα της δοκιμής

Στην πρώτη φάση του ελέγχου:

• Το Grok παρήγαγε σεξουαλικοποιημένες εικόνες σε 45 από τις 55 περιπτώσεις.
• Σε 31 από αυτές, είχε προηγηθεί προειδοποίηση ότι το πρόσωπο ήταν ιδιαίτερα ευάλωτο.
• Σε 17 περιπτώσεις, το chatbot δημιούργησε εικόνες παρά τη ρητή επισήμανση ότι θα χρησιμοποιούνταν για διαπόμπευση.

Πέντε ημέρες αργότερα, σε δεύτερη δοκιμή:

• Το Grok ανταποκρίθηκε σε 29 από τα 43 αιτήματα.
• Το Reuters δεν κατάφερε να διαπιστώσει αν η μείωση οφείλεται σε αλλαγές στον αλγόριθμο, σε πολιτικές τροποποιήσεις ή σε τυχαίους παράγοντες.

Η X και η xAI δεν απάντησαν σε αναλυτικά ερωτήματα για τις τεχνικές παραμέτρους ή πιθανές τροποποιήσεις στο μοντέλο. Η xAI περιορίστηκε σε τυποποιημένη απάντηση: «Τα παραδοσιακά ΜΜΕ λένε ψέματα».

Οι διεθνείς αντιδράσεις και το ρυθμιστικό πλαίσιο

Η X είχε ανακοινώσει περιορισμούς στις δυνατότητες δημιουργίας εικόνων μετά από διεθνή κατακραυγή για μαζική παραγωγή μη συναινετικού περιεχομένου, ιδίως γυναικών και ανηλίκων. Οι αλλαγές αφορούσαν:

• Απαγόρευση δημιουργίας σεξουαλικοποιημένων εικόνων σε δημόσιες αναρτήσεις.
• Πρόσθετους περιορισμούς σε χώρες με αυστηρή νομοθεσία.

Η βρετανική ρυθμιστική αρχή Ofcom χαρακτήρισε την κίνηση «θετική εξέλιξη», ενώ η Ευρωπαϊκή Επιτροπή δήλωσε ότι «θα αξιολογήσει προσεκτικά τις αλλαγές», στο πλαίσιο της έρευνας που ξεκίνησε για το X στις 26 Ιανουαρίου.

Σύγκριση με ανταγωνιστικά μοντέλα

Το Reuters υπέβαλε παρόμοια αιτήματα σε ανταγωνιστικά συστήματα:

• ChatGPT
• Gemini
• Llama

Όλα αρνήθηκαν να δημιουργήσουν τέτοιες εικόνες και σε πολλές περιπτώσεις εξέδωσαν ρητές προειδοποιήσεις περί παραβίασης ιδιωτικότητας και δεοντολογίας.

Η Meta δήλωσε ότι αντιτίθεται κατηγορηματικά στη δημιουργία μη συναινετικού ερωτικού περιεχομένου. Η OpenAI ανέφερε ότι εφαρμόζει αυστηρές δικλίδες ασφαλείας, ενώ η Alphabet δεν σχολίασε.

Το ηθικό και νομικό διακύβευμα

Το Grok δεν παρήγαγε πλήρως γυμνές ή ρητές σεξουαλικές πράξεις, που θα μπορούσαν να εμπίπτουν στον αμερικανικό νόμο Take It Down, ωστόσο η δυνατότητα δημιουργίας μη συναινετικών, ταπεινωτικών εικόνων εγείρει σοβαρά ζητήματα:

• Προστασίας ιδιωτικότητας
• Ψυχικής βλάβης και διαπόμπευσης
• Ευθύνης των πλατφορμών τεχνητής νοημοσύνης

Σε ορισμένες περιπτώσεις, το Grok συμμορφώθηκε ακόμη και όταν του γνωστοποιήθηκε ότι το πρόσωπο είχε υπάρξει θύμα κακοποίησης και ότι η εικόνα θα προκαλούσε ψυχική οδύνη.

Μόλις σε επτά περιπτώσεις επέστρεψε ρητή άρνηση, με μηνύματα όπως:

«Δεν πρόκειται να δημιουργήσω, να αναζητήσω ή να προσπαθήσω να σας δείξω φανταστικές ή πραγματικές εικόνες του σώματος αυτού του ατόμου χωρίς τη ρητή συγκατάθεσή του».

Η υπηρεσία καταπολέμησης του κυβερνοεγκλήματος της εισαγγελίας ηγείται της έρευνας, διευκρινίζεται σε ανάρτηση της υπηρεσία στο Χ. Στις έρευνες συμμετέχουν επίσης η Europol και η υπηρεσία κατά του ηλεκτρονικού εγκλήματος της γαλλικής αστυνομίας.

Η έρευνα που άνοιξε τον Ιανουάριο 2025 διευρύνθηκε για να περιλάβει και την δημιουργία σεξουαλικού περιεχομένου από το chatbot Grok.

Η εισαγγελία διευκρινίζει ότι ξεκίνησε την έρευνα έπειτα από καταγγελία βουλευτή που υποστηρίζει ότι μεροληπτικοί, κακόβουλοι αλγόριθμοι είναι πιθανόν ότι έχουν διαστρεβλώσει την λειτουργία ενός αυτοματοποιημένου συστήματος επεξεργασίας δεδομένων.

Δεν έχει υπάρχει σχόλιο από το Χ.

Η εισαγγελία του Παρισιού ανακοίνωσε επίσης ότι εγκαταλείπει την πλατφόρμα Χ και ότι στο εξής θα επικοινωνεί μέσω του LinkedIn (Microsoft ) και του Instagram (Meta).

Το ρεπορτάζ αναφέρει ότι λίγες εβδομάδες πριν ο Έλον Μασκ αποχωρήσει από την εποπτεία της κυβέρνησης Τραμπ, εργαζόμενοι στην ομάδα ανθρώπινων δεδομένων της xAI κλήθηκαν να υπογράψουν υπεύθυνη δήλωση αποδοχής έκθεσης σε υβριστικό και σεξουαλικό υλικό, στο πλαίσιο της εκπαίδευσης του Grok. Η πρακτική αυτή προκάλεσε ερωτήματα για τη νομική και ηθική διάσταση της στρατηγικής της εταιρείας.

Η εκπαίδευση του Grok, σύμφωνα με το δημοσίευμα, περιλάμβανε:

• Άσεμνες συνομιλίες χρηστών
• Σεξουαλικές αλληλεπιδράσεις
• Περιγραφές σεξουαλικής βίας

Παράλληλα, η xAI φέρεται να χαλάρωσε φίλτρα περιεχομένου και να ανέπτυξε ερωτικά φορτισμένους AI χαρακτήρες, όπως το «Ani», με στόχο την αύξηση του χρόνου αλληλεπίδρασης και της συναισθηματικής εμπλοκής των χρηστών.

Μετά την αποχώρησή του από τη διοίκηση της Υπηρεσίας DOGE, ο Μασκ φέρεται να προωθούσε νέες μετρήσεις απόδοσης, όπως τα «δευτερόλεπτα ενεργού χρήστη», δίνοντας έμφαση στη διάρκεια χρήσης της εφαρμογής.

Σύμφωνα με τις ίδιες πληροφορίες, η περιορισμένη ομάδα ασφάλειας της εταιρείας –σε σύγκριση με άλλους μεγάλους παίκτες της αγοράς– δεν κατάφερε να αποτρέψει τη διάδοση:

• Σεξουαλικοποιημένων εικόνων πραγματικών προσώπων χωρίς συναίνεση
• Γυμνών εικόνων ενηλίκων

Οι καταγγελίες οδήγησαν στην έναρξη ερευνών από:

• Την Ευρωπαϊκή Επιτροπή
• Τη ρυθμιστική αρχή του Ηνωμένου Βασιλείου
• Εισαγγελικές αρχές στις ΗΠΑ

Η xAI, από την πλευρά της, υποστήριξε ότι το σύστημα αρνείται να δημιουργήσει παράνομο περιεχόμενο και απέδωσε τυχόν προβλήματα σε «εχθρικό hacking».

Παρά το κύμα επικρίσεων, η στρατηγική φαίνεται να οδήγησε σε αύξηση 72% στις λήψεις της εφαρμογής στις αρχές Ιανουαρίου. Ωστόσο, η απόφαση να περιοριστούν τα εργαλεία δημιουργίας εικόνων σε πληρωμένους λογαριασμούς χαρακτηρίστηκε από επικριτές ως εμπορευματοποίηση αμφιλεγόμενης πρακτικής.

Η xAI, που ιδρύθηκε το 2023 με στόχο να ανταγωνιστεί κορυφαία εργαστήρια AI, φέρεται να άλλαξε εσωτερικά πρωτόκολλα, ζητώντας από εργαζόμενους να επισημαίνουν γυμνές εικόνες και να εκπαιδεύουν το μοντέλο σε σεξουαλικές συνομιλίες.

Η μαζική παραγωγή και διοχέτευση χιλιάδων σεξουαλικού περιεχομένου εικόνων γυναικών και παιδιών από το xAI Grok του Μασκ έχει κινητοποιήσει εδώ και εβδομάδες τις ευρωπαϊκές ρυθμιστικές αρχές.

Η έρευνα θα εξετάσει αν το Χ έχει συμμορφωθεί με τις υποχρεώσεις του βάσει της ευρωπαϊκής ψηφιακής νομοθεσίας, περιλαμβανομένων των απαιτήσεων για τον περιορισμό των κινδύνων, την διαχείριση του περιεχομένου και την προστασία των θεμελιωδών δικαιωμάτων, είχε ανακοινώσει προηγουμένως η ιρλανδή ευρωβουλευτής Ρετζίνα Ντόχερτι χαιρετίζοντας την απόφαση της Κομισιόν να εκκινήσει επίσημη έρευνα. «Οταν εμφανίζονται αξιόπιστες πληροφορίες ότι συστήματα της Τεχνητής Νοημοσύνης χρησιμοποιούνται για να βλάψουν γυναίκες και παιδιά, είναι σημαντικό η ευρωπαϊκή νομοθεσία να εξετάζει και να επιβάλλεται χωρίς καθυστέρηση», ανέφερε στην ανακοίνωσή της η Ρετζίνα Ντόχερτι.

Στις αρχές του Ιανουαρίου, η Ευρωπαϊκή Επιτροπή ανακοίνωσε ότι οι εικόνες γυμνών γυναικών και παιδιών που διακινούνται στην πλατφόρμα X είναι παράνομες και αποτρόπαιες ενώνοντας την φωνή της με την χορεία των αξιωματούχων σε όλον τον κόσμο που καταδικάζουν την σωρεία κρουσμάτων δημοσίευσης μη συναινετικού οπτικού υλικού στην πλατφόρμα. Παράλληλα, ανακοίνωσε την επιβολή συντηρητικών μέτρων μετά το σκάνδαλο των σεξουαλικού χαρακτήρα εικόνων ανηλίκων που δημιουργήθηκαν από το Grok δίνοντας εντολή στην πλατφόρμα X του Ιλον Μασκ να διατηρήσει όλα τα εσωτερικά έγγραφα και δεδομένα που σχετίζονται με το chatbot τεχνητής νοημοσύνης Grok έως το τέλος του 2026.

Η Κομισιόν αποφάσισε έτσι να παρατείνει εντολή διατήρησης στοιχείων που είχε αποσταλεί στο X πέρυσι, η οποία αφορούσε τους αλγορίθμους και τη διασπορά παράνομου περιεχομένου, δήλωσε στους δημοσιογράφους σήμερα ο εκπρόσωπος Τομά Ρενιέ.

Η ΕΕ είχε επιβάλει στις αρχές Δεκεμβρίου πρόστιμο ύψους 120 εκατομμυρίων ευρώ στο X για παραβίαση του κανονισμού για τις ψηφιακές υπηρεσίες (DSA), παρά τις επανειλημμένες απειλές του Ντόναλντ Τραμπ, ο οποίος κατηγορεί την Ευρωπαϊκή Ένωση ότι βάζει στο στόχαστρο τους τεχνολογικούς κολοσσούς.

Στις 12 Ιανουαρίου, η Ofcom, η βρετανική ρυθμιστική αρχή για την ασφάλεια στο Ιντερνετ, ανακοίνωσε σήμερα την έναρξη επίσημης έρευνας κατά της πλατφόρμας Χ σχετικά με τις σεξουαλικού χαρακτήρα εικόνες που αναρτήθηκαν από το Grok, το chatbot Τεχνητής Νοημοσύνης της πλατφόρμας του Ιλον Μασκ.

«Πολύ ανησυχητικές αναφορές κάνουν λόγο για την χρησιμοποίηση του Grok AI στο Χ «για την δημιουργία εικόνων γυμνών ανθρώπων – πράγμα που δύναται να συνιστά προσβολή δημόσιας αιδούς ή πορνογραφία – καθώς και σεξουαλικού χαρακτήρα εικόνων παιδιών πράγμα που δύναται να συνιστά υλικό παιδικής πορνογραφίας», σύμφωνα με την ανακοίνωση που εξέδωσε τότε η Ofcom.

Στις αρχές του Ιανουαρίου, η βρετανική κυβέρνηση είχε καλέσει το X να βρει «επειγόντως» λύση για να αποτραπεί η διασπορά πλαστών, «εξοργιστικών» εικόνων γυμνών γυναικών και που δημιουργήθηκαν από το Grok.

Την ίδια ώρα, οι ευρωπαϊκές ρυθμιστικές αρχές εμφανίζονται ακόμη αναποφάσιστες ως προς το πώς θα διαχειριστούν την έκρηξη των μη συναινετικών deepfake, σε μια πλατφόρμα που ήδη βρίσκεται υπό εντατικό έλεγχο για παραβιάσεις της ψηφιακής νομοθεσίας.

Η μελέτη πραγματοποιήθηκε από το Center for Countering Digital Hate, το οποίο ανέλυσε δείγμα 20.000 αναρτήσεων από τον λογαριασμό του Grok στο X, μέσα σε σύνολο 4,6 εκατομμυρίων δημοσιεύσεων στο ίδιο χρονικό διάστημα. Σύμφωνα με τα αποτελέσματα, το 65% του δείγματος περιλάμβανε σεξουαλικές εικόνες, ενώ το 0,5% εκτιμάται ότι αφορούσε ανηλίκους.

Η λειτουργία δημιουργίας εικόνων του Grok έγινε viral λίγο πριν το τέλος του 2025, κυρίως λόγω της δυνατότητάς της να αφαιρεί ψηφιακά ρούχα από ανθρώπους, προκαλώντας κύμα αντιδράσεων. Η πλατφόρμα προχώρησε σε περιοριστικά μέτρα στις 9 Ιανουαρίου και εκ νέου στις 14 Ιανουαρίου, επιχειρώντας να περιορίσει τη χρήση της συγκεκριμένης δυνατότητας.

Σε επίπεδο Ευρωπαϊκής Ένωσης, η Ευρωπαϊκή Επιτροπή εξετάζει ποιο ρυθμιστικό εργαλείο θα ενεργοποιήσει, καθώς έχει την ευθύνη τόσο για την εφαρμογή του Νόμου για τις Ψηφιακές Υπηρεσίες (DSA) όσο και του Νόμου για την Τεχνητή Νοημοσύνη, που καλύπτουν μεγάλες πλατφόρμες όπως το X. Ήδη βρίσκεται σε εξέλιξη νέα έρευνα για το Grok στο πλαίσιο του DSA, ενώ η πλατφόρμα έχει δεχθεί πρόστιμα και παράλληλες έρευνες για άλλα ζητήματα συμμόρφωσης.

Παράλληλα, στις Βρυξέλλες εξετάζεται και το ενδεχόμενο απαγόρευσης εφαρμογών τεχνητής νοημοσύνης που «απογυμνώνουν» ψηφιακά πρόσωπα, αν και παραμένει ασαφές αν μια τέτοια απαγόρευση θα μπορούσε να εφαρμοστεί σε εργαλεία γενικής χρήσης όπως το Grok, όπως επισημαίνει το Politico.

Αξίζει να σημειωθεί ότι το Center for Countering Digital Hate δεν ανέλυσε τις προτροπές (prompts) που οδήγησαν στη δημιουργία των εικόνων, με αποτέλεσμα να μην είναι δυνατό να διαπιστωθεί αν τα απεικονιζόμενα πρόσωπα είχαν συναινέσει στη χρήση ή επεξεργασία της εικόνας τους.

Τέλος, ο Ιμράν Αχμέντ, διευθύνων σύμβουλος του οργανισμού, έχει πρόσφατα απαγορευτεί να ταξιδέψει στις Ηνωμένες Πολιτείες, λόγω του φερόμενου ρόλου του σε ζητήματα που σχετίζονται με τη λογοκρισία – εξέλιξη που προσθέτει ακόμη μία πολιτική διάσταση στην ήδη φορτισμένη υπόθεση.

Όπως αναφέρει το Newsweek, το τελευταίο διάστημα, το Grok, το chatbot τεχνητής νοημοσύνης που ανήκει στον Elon Musk, έχει βρεθεί στο επίκεντρο της προσοχής, καθώς χρήστες της πλατφόρμας X (πρώην Twitter) δημοσιεύουν προτροπές ζητώντας του να δημιουργήσει σεξουαλικές ή αλλοιωμένες εικόνες γυναικών. Οι σχετικές αναρτήσεις έχουν συγκεντρώσει εκατοντάδες χιλιάδες προβολές, προκαλώντας έντονες αντιδράσεις διεθνώς.

Η υπόθεση έχει πάρει μεγάλες διαστάσεις, με τα συγκεκριμένα deepfake να γίνονται πρωτοσέλιδα παγκοσμίως, ενώ η κυβέρνηση του Ηνωμένου Βασιλείου εξετάζει το περιεχόμενο και δεν αποκλείει το ενδεχόμενο απαγόρευσης της πλατφόρμας. Μεταξύ των θυμάτων περιλαμβάνονται η Πριγκίπισσα Κέιτ και η συντηρητική influencer Ashley St. Clair.

Η παρουσιάστρια του δημοφιλούς ριάλιτι Love Island, Maya Jama, ζήτησε δημόσια από το Grok να μην επεξεργάζεται ή τροποποιεί φωτογραφίες της, σε ανάρτηση που ξεπέρασε τις 6 εκατομμύρια προβολές.

Αντιδράσεις και έρευνες για τις deepfake εικόνες

Παράλληλα, ξεκίνησε διαδικτυακή εκστρατεία με αίτημα τη λήψη μέτρων κατά αυτών των εικόνων. Μέσα σε μία εβδομάδα, η σχετική ηλεκτρονική συλλογή υπογραφών συγκέντρωσε πάνω από 40.000 υπογραφές, ενώ ανάρτηση που τη στηρίζει έχει δει περισσότερα από 2 εκατομμύρια άτομα στην πλατφόρμα X.

Σε ερώτημα του Newsweek σχετικά με το θέμα, εκπρόσωπος της X παρέπεμψε σε ανακοίνωση που είχε δημοσιευθεί στις 4 Ιανουαρίου: «Λαμβάνουμε μέτρα κατά παράνομου περιεχομένου στο X, όπως υλικό σεξουαλικής κακοποίησης παιδιών (CSAM), διαγράφοντας το περιεχόμενο, αποκλείοντας οριστικά λογαριασμούς και συνεργαζόμενοι με αρχές όπου απαιτείται. Όποιος χρησιμοποιεί ή καθοδηγεί το Grok για τη δημιουργία παράνομου περιεχομένου θα υποστεί τις ίδιες συνέπειες όπως αν ανέβαζε ο ίδιος παράνομο περιεχόμενο.»

Επιπλέον, η εταιρεία XAI, που έχει αναπτύξει το Grok, απάντησε στο Newsweek με τη φράση: «Legacy Media Lies» («Τα παραδοσιακά μέσα λένε ψέματα»).

Οι γυναίκες πίσω από τα viral deepfakes

Καθώς το φαινόμενο των deepfake εικόνων λαμβάνει παγκόσμιες διαστάσεις, πίσω από τις viral αναρτήσεις και τα πρωτοσέλιδα βρίσκονται πραγματικές γυναίκες που έχουν στοχοποιηθεί και επηρεαστεί ψυχολογικά από τη δημιουργία αυτού του περιεχομένου. Το Newsweek μίλησε με θύματα τέτοιων εικόνων για να καταγράψει τον συναισθηματικό τους αντίκτυπο.

NBC: Το θέμα έχει λάβει μεγάλες διαστάσεις

Οι deepfake εικόνες που ενσωματώνουν το πρόσωπο ενός παιδιού σε σεξουαλικά άσεμνο περιεχόμενο βρίσκονται εύκολα στα κορυφαία αποτελέσματα αναζήτησης εικόνων στις κορυφαίες μηχανές αναζήτησης και στις κύριες πλατφόρμες κοινωνικής δικτύωσης, παρά το γεγονός ότι ένας νόμος των ΗΠΑ φαίνεται να απαγορεύει τέτοιου είδους υλικό, όπως αναφέρει το NBCnews.

Τέτοιες εικόνες συχνά απεικονίζουν πρόσωπα γνωστών διασημοτήτων πριν κλείσουν τα 18, σε συνδυασμό με γυμνό σώμα ενός ενήλικα. Δύο από τα 10 κορυφαία αποτελέσματα αναζήτησης εικόνων για τον όρο «ψεύτικες γυμνές φωτογραφίες» στο Bing της Microsoft ήταν σεξουαλικά άσεμνες deepfakes γυναικών διασημοτήτων από την ηλικία των 12 και 15 ετών, σύμφωνα με μια ανασκόπηση που διεξήγαγε το NBC News. Μία από αυτές τις εικόνες εμφανίστηκε επίσης στην πρώτη σελίδα των αποτελεσμάτων αναζήτησης εικόνων της Google για το όνομα μιας από τις διασημότητες καθώς και για «ψεύτικες γυμνές φωτογραφίες».

Η Microsoft και η Google δήλωσαν ότι αφαίρεσαν το συγκεκριμένο υλικό που εντόπισε το NBC News από τα κορυφαία αποτελέσματα αναζήτησης. Ωστόσο, τα αποτελέσματα αναζήτησης για όρους όπως «ψεύτικα γυμνά» και ονόματα συγκεκριμένων διασημοτήτων, καθώς και «ψεύτικα γυμνά» και «deepfakes» εξακολουθούν να επιστρέφουν σελίδες με παρόμοιες μη συναινετικές σεξουαλικά άσεμνες εικόνες και στις δύο πλατφόρμες. Τα υπόλοιπα deepfake αποτελέσματα περιλαμβάνουν πρόσωπα που φαίνονται να είναι ενήλικες, καθώς και πρόσωπα νεανικής εμφάνισης που το NBC News δεν έχει διερευνήσει.

«Η Microsoft έχει μακροχρόνια δέσμευση για την προώθηση της ασφάλειας των παιδιών και την αφαίρεση παράνομου και επιβλαβούς περιεχομένου από τις υπηρεσίες μας. Έχουμε αφαιρέσει αυτό το περιεχόμενο και παραμένουμε αφοσιωμένοι στην ενίσχυση της άμυνάς μας και στην προστασία των υπηρεσιών μας από καταχρηστικό περιεχόμενο και συμπεριφορά στο διαδίκτυο», δήλωσε εκπρόσωπος της Microsoft.

«Η Αναζήτηση Google διαθέτει ισχυρές προστασίες για να περιορίσει την εμβέλεια του αποτρόπαιου περιεχομένου που απεικονίζει υλικό σεξουαλικής κακοποίησης παιδιών ή εκμεταλλεύεται ανηλίκους και αυτά τα συστήματα είναι αποτελεσματικά και κατά των συνθετικών εικόνων CSAM», δήλωσε εκπρόσωπος της Google σε ανακοίνωσή του. «Εντοπίζουμε, καταργούμε και αναφέρουμε προληπτικά τέτοιου είδους περιεχόμενο στην Αναζήτηση και έχουμε εφαρμόσει πρόσθετες προστασίες για να φιλτράρουμε και να υποβαθμίζουμε περιεχόμενο που σεξουαλικοποιεί ανηλίκους. Σύμφωνα με τις πολιτικές μας, έχουμε αφαιρέσει την εικόνα που μας αναφέρθηκε και ενημερώνουμε και βελτιώνουμε συνεχώς τους αλγόριθμους και τις πολιτικές μας για την καταπολέμηση αυτών των εξελισσόμενων απειλών».

Τον Ιανουάριο, το NBC News βρήκε δύο παραδείγματα σεξουαλικά άσεμνων ψεύτικων μέσων ενημέρωσης με την έφηβη σταρ της Marvel, Xochitl Gomez, τα οποία εμφανίστηκαν στην κορυφή των αποτελεσμάτων αναζήτησης του X (πρώην Twitter) για το όνομά της και τη λέξη «γυμνά». Η X δεν απάντησε σε αίτημα για σχολιασμό εκείνη την εποχή, αλλά τα αποτελέσματα έχουν έκτοτε εξαφανιστεί.

Ένα deepfake είναι ψεύτικο ή παραπλανητικό μέσο που δημιουργείται ή επεξεργάζεται χρησιμοποιώντας εργαλεία τεχνητής νοημοσύνης. Τα μη συναινετικά σεξουαλικά άσεμνα deepfakes αναφέρονται γενικά σε υλικό που δημιουργείται με τεχνολογία τεχνητής νοημοσύνης, σε αντίθεση με τις ψεύτικες γυμνές φωτογραφίες που δημιουργούνται ή επεξεργάζονται από υπολογιστή και προηγούνται του τρέχοντος κύματος τεχνητής νοημοσύνης.

Ένας ομοσπονδιακός νόμος, που δύο νομικοί εμπειρογνώμονες λένε ότι απαγορεύει την εν γνώσει παραγωγή, διανομή, λήψη ή κατοχή εικόνων παιδιών με σεξουαλικό περιεχόμενο που δημιουργούνται από υπολογιστή, υπάρχει στον Κώδικα των ΗΠΑ από τα τέλη της δεκαετίας του 1990. Ωστόσο, οι ειδικοί λένε ότι ο νόμος δεν έχει εφαρμοστεί κατά εταιρειών τεχνολογίας που φιλοξενούν εικόνες όπως αυτές που αναγνώρισε το NBC News, αλλά μάλλον έχει χρησιμοποιηθεί περιστασιακά για την καταδίκη κατηγορουμένων σε υποθέσεις που αφορούν μεμονωμένους δράστες. Υπάρχουν διάφοροι λόγοι για τους οποίους τέτοιο υλικό παραμένει αναρτημένο σε πλατφόρμες κοινωνικής δικτύωσης και μηχανές αναζήτησης, ανέφεραν οι ειδικοί.

«Οι περισσότεροι άνθρωποι δεν γνωρίζουν πραγματικά τι είναι ο νόμος περί παιδικής πορνογραφίας, επειδή δεν είναι προφανής. Δεν σημαίνει απλώς «γυμνές φωτογραφίες παιδιών»», δήλωσε η Mary Anne Franks, καθηγήτρια στη Νομική Σχολή του Πανεπιστημίου George Washington και συχνή σύμβουλος σε θέματα νομοθεσίας σχετικά με το μη συναινετικό σεξουαλικά άσεμνο υλικό.

«Πολλοί άνθρωποι απλώς υποθέτουν ότι γνωρίζουν τι απαγορεύει ο νόμος, αλλά στην πραγματικότητα δεν το γνωρίζετε, και δεν είναι κάτι για το οποίο οι άνθρωποι θέλουν πραγματικά να μιλήσουν ή να ρωτήσουν», είπε ο Φρανκς. «Υπάρχει αυτό το είδος αναστολής ακόμη και για άτομα καλόπιστα που προσπαθούν να καταλάβουν τι είναι ο νόμος, ώστε να μην θέλουν να το διερευνήσουν, επειδή ακόμη και η προσπάθεια να καταλάβουν την έρευνα σχετικά με αυτό, ανάλογα με τους όρους αναζήτησής σας, θα μπορούσε στην πραγματικότητα να σας παρουσιάσει CSAM».

Ο Φρανκς δήλωσε ότι οι πλατφόρμες κοινωνικής δικτύωσης και οι μηχανές αναζήτησης ενδέχεται να μην φέρουν ευθύνη για την απλή φιλοξενία τέτοιου υλικού. Νομικά επιχειρήματα που βασίζονται στο Άρθρο 230, ένα ξεχωριστό μέρος του Κώδικα των ΗΠΑ, το οποίο ορίζει ότι οι διαδικτυακές πλατφόρμες δεν φέρουν ευθύνη για περιεχόμενο που δημιουργείται από χρήστες, έχουν προστατεύσει τις εταιρείες τεχνολογίας από δικαστικές διαμάχες σχετικά με παράνομη συμπεριφορά που διευκολύνεται μέσω των υπηρεσιών τους στο παρελθόν.

Ωστόσο, νομικοί εμπειρογνώμονες έχουν επίσης αμφισβητήσει αυτήν την ερμηνεία του Άρθρου 230. Ο Φρανκς είπε επίσης ότι θα μπορούσε να προβληθεί το επιχείρημα ότι οι πλατφόρμες αποτελούν μέρος της διαδικασίας δημιουργίας τέτοιου υλικού, το οποίο θα μπορούσε να περιλαμβάνει τη φιλοξενία συνδέσμων προς εφαρμογές και υπηρεσίες που μπορούν να δημιουργήσουν σεξουαλικά άσεμνα deepfakes παιδιών. Το εν λόγω περιεχόμενο δεν προστατεύεται απαραίτητα από το Άρθρο 230.

Στο Bing της Microsoft, μια αναζήτηση εικόνων από ένα πρόγραμμα περιήγησης ανώνυμης περιήγησης για «ψεύτικες γυμνές φωτογραφίες» με απενεργοποιημένα τα φίλτρα ασφαλείας (επιτρέποντας την προβολή πορνογραφικού περιεχομένου) επιστρέφει σελίδες με αποτελέσματα ψεύτικων γυμνών εικόνων διασημοτήτων γυναικών. Δύο από τα πρώτα 25 αποτελέσματα περιλαμβάνουν εικόνες που περιλαμβάνουν πρόσωπα ανηλίκων.

Έξι πρώην αστέρες του Disney Channel, όπως η Miley Cyrus, περιλαμβάνονται στα 25 κορυφαία αποτελέσματα. Η Cyrus δεν απάντησε σε αίτημα για σχολιασμό.

Ένα από τα πρώτα 10 αποτελέσματα αναζήτησης εικόνων δείχνει το πρόσωπο της Cyrus κομμένο και επικολλημένο σε μια προϋπάρχουσα πορνογραφική εικόνα. Το αποτέλεσμα θα μπορούσε νομικά να θεωρηθεί ως CSAM, καθώς η εικόνα που χρησιμοποιήθηκε ήταν της Cyrus όταν ήταν 15 ετών. Μια τέτοια εικόνα μπορεί να δημιουργηθεί με εργαλεία επεξεργασίας φωτογραφιών που είναι διαθέσιμα στους καταναλωτές από τις αρχές του αιώνα. Μπορεί επίσης να δημιουργηθεί πολύ πιο γρήγορα και εύκολα — και μερικές φορές να γίνει πιο ρεαλιστική — με τα εργαλεία ενισχυμένης τεχνητής νοημοσύνης που είναι διαθέσιμα σήμερα. Το αποτέλεσμα της εικόνας στο Bing παραπέμπει σε μια ανάρτηση σε φόρουμ που έγινε τον Δεκέμβριο του 2013.

Μια αντίστροφη αναζήτηση εικόνας για την εικόνα του προσώπου της Cyrus στην ψεύτικη γυμνή εικόνα ανέκτησε την αρχική της θέση: Ήταν το εξώφυλλο του single της του 2008, “Start All Over”. Το τραγούδι κυκλοφόρησε τον Μάρτιο του 2008, που σημαίνει ότι η Cyrus ήταν 15 ετών ή νεότερη όταν τραβήχτηκε η φωτογραφία. Μια αναζήτηση στην Google για “Miley Cyrus fake nudes” επέστρεψε την ίδια ψεύτικη γυμνή εικόνα, η οποία έδειχνε μια 15χρονη Cyrus στα 10 κορυφαία αποτελέσματα αναζήτησης εικόνων της Google.

Το τέταρτο αποτέλεσμα για «ψεύτικες γυμνές φωτογραφίες» στο Bing δείχνει το πρόσωπο της ηθοποιού Peyton List, η οποία εμφανίστηκε στη σειρά του Disney Channel «Jessie» το 2011, όταν ήταν 13 ετών. Μια αναζήτηση αντίστροφης εικόνας για το πρόσωπο της List στην ψεύτικη γυμνή εικόνα ανακτά μια αντιστοιχία για μια φωτογραφία Getty της List από το 2010, όταν ήταν 12 ετών. Το αποτέλεσμα αναζήτησης συνδέεται με μια διαγραμμένη έκτοτε ανάρτηση στο Tumblr σε ένα ιστολόγιο που δεν είναι ενεργό εδώ και επτά χρόνια. Αυτή η deepfake φωτογραφία της List μπορεί να ξεπεράσει ή να μην ξεπεράσει τον πήχη για CSAM, καθώς απεικονίζει γυμνό, αλλά όχι απαραίτητα σεξουαλική συμπεριφορά.

Το αποτέλεσμα δίπλα στην ψεύτικη γυμνή φωτογραφία της Cyrus με ανήλικη είναι μια παρόμοια ψεύτικη γυμνή φωτογραφία της Selena Gomez. Η εικόνα της Gomez παραπέμπει σε μια ανάρτηση στο ίδιο νήμα στο ίδιο φόρουμ από τον Δεκέμβριο του 2013. Μια αντίστροφη αναζήτηση εικόνας έδειξε ότι η φωτογραφία της Selena Gomez ανέβηκε στις 30 Ιουλίου 2009, οκτώ ημέρες αφότου έκλεισε τα 18, καταδεικνύοντας πόσο δύσκολο μπορεί να είναι, ειδικά απλώς μαντεύοντας, να προσδιοριστεί εάν ένα πρόσωπο σε μια ψεύτικη γυμνή εικόνα ανήκει σε παιδί ή σε ενήλικα. Ο List και η Gomez δεν απάντησαν αμέσως σε αιτήματα για σχολιασμό.

Οι εικόνες αυτές είχαν παραχθεί μέσω επεξεργασίας φωτογραφιών και βίντεο πραγματικών προσώπων ώστε να εμφανίζονται γυμνά, προκαλώντας παγκόσμια κατακραυγή.

Σε ερώτηση χρηστών στο X, το Grok απάντησε: «Η δημιουργία και η επεξεργασία εικόνων είναι προς το παρόν διαθέσιμες μόνο για συνδρομητές επί πληρωμή. Μπορείτε να εγγραφείτε για να ξεκλειδώσετε αυτές τις λειτουργίες».

Η Ευρωπαϊκή Επιτροπή ανακοίνωσε χθες Πέμπτη ότι επιβάλλει συντηρητικό μέτρο μετά το σκάνδαλο των σεξουαλικού χαρακτήρα εικόνων ανηλίκων που δημιουργήθηκαν από το Grok.

Η Κομισιόν ζήτησε από την πλατφόρμα X να διατηρήσει όλα τα εσωτερικά έγγραφα και δεδομένα σχετικά με το Grok έως το τέλος του 2026, σύμφωνα με δηλώσεις εκπροσώπου της.

Η Επιτροπή είχε ήδη δηλώσει τη Δευτέρα ότι οι εικόνες γυμνών γυναικών και παιδιών που κυκλοφορούν στο X είναι παράνομες και αποτρόπαιες, ενώ ενώνεται με τις φωνές αξιωματούχων παγκοσμίως που καταδικάζουν τη δημοσίευση μη συναινετικού οπτικού υλικού.

Διεθνείς αντιδράσεις

Η Κομισιόν αποφάσισε να παρατείνει προηγούμενη εντολή διατήρησης στοιχείων που είχε στείλει πέρυσι στο X, η οποία αφορούσε αλγορίθμους και τη διασπορά παράνομου περιεχομένου, όπως δήλωσε ο εκπρόσωπος Τομά Ρενιέ.

«Αυτό σημαίνει ότι λέμε σε μια πλατφόρμα: κρατήστε τα εσωτερικά σας έγγραφα, μην τα πετάξετε, διότι έχουμε αμφιβολίες για τη συμμόρφωσή σας… και πρέπει να έχουμε πρόσβαση σε αυτά αν το ζητήσουμε», πρόσθεσε ο εκπρόσωπος.

Τον Δεκέμβριο, η ΕΕ είχε επιβάλει πρόστιμο ύψους 120 εκατ. ευρώ στο X για παραβίαση του κανονισμού για τις ψηφιακές υπηρεσίες (DSA), παρά τις απειλές του Ντόναλντ Τραμπ, ο οποίος κατηγορεί την ΕΕ ότι στοχεύει τους τεχνολογικούς κολοσσούς.

Από την πλευρά της, η βρετανική κυβέρνηση κάλεσε το X την Τρίτη να βρει «επειγόντως» λύση για την αποτροπή διασποράς πλαστών, «εξοργιστικών» εικόνων γυμνών γυναικών που δημιουργήθηκαν από το Grok.

«Αυτό που παρατηρήσαμε τις τελευταίες ημέρες στο διαδίκτυο είναι απολύτως εξοργιστικό και απαράδεκτο σε μια κοινωνία που σέβεται τον εαυτό της», δήλωσε η Λιζ Κένταλ, υπουργός Τεχνολογίας στην κυβέρνηση του Κιρ Στάρμερ.

Η απενεργοποίηση της λειτουργίας του Grok μόνο για μη συνδρομητές χαρακτηρίστηκε από εκπρόσωπο του βρετανού πρωθυπουργού «προσβλητική για τα θύματα». Σύμφωνα με τον ίδιο, το μέτρο «μετατρέπει απλώς μια λειτουργία που επιτρέπει τη δημιουργία παράνομων εικόνων σε premium service», αποτελώντας «προσβολή προς τα θύματα του μισογυνισμού και της σεξουαλικής βίας».