Σύμφωνα με το πρακτορείο, εννέα δημοσιογράφοι από ΗΠΑ και Ηνωμένο Βασίλειο δοκίμασαν αν το Grok θα συμμορφωνόταν με αιτήματα που ζητούσαν αλλοίωση κανονικών φωτογραφιών — πλήρως ντυμένων — ώστε να μετατραπούν σε σεξουαλικά προκλητικές ή ταπεινωτικές εικόνες, ακόμη και όταν δηλωνόταν ότι τα εικονιζόμενα πρόσωπα είναι ευάλωτα, δεν συναινούν ή ότι το υλικό θα χρησιμοποιηθεί για διαπόμπευση.

Τα ποσοτικά ευρήματα της δοκιμής

Στην πρώτη φάση του ελέγχου:

• Το Grok παρήγαγε σεξουαλικοποιημένες εικόνες σε 45 από τις 55 περιπτώσεις.
• Σε 31 από αυτές, είχε προηγηθεί προειδοποίηση ότι το πρόσωπο ήταν ιδιαίτερα ευάλωτο.
• Σε 17 περιπτώσεις, το chatbot δημιούργησε εικόνες παρά τη ρητή επισήμανση ότι θα χρησιμοποιούνταν για διαπόμπευση.

Πέντε ημέρες αργότερα, σε δεύτερη δοκιμή:

• Το Grok ανταποκρίθηκε σε 29 από τα 43 αιτήματα.
• Το Reuters δεν κατάφερε να διαπιστώσει αν η μείωση οφείλεται σε αλλαγές στον αλγόριθμο, σε πολιτικές τροποποιήσεις ή σε τυχαίους παράγοντες.

Η X και η xAI δεν απάντησαν σε αναλυτικά ερωτήματα για τις τεχνικές παραμέτρους ή πιθανές τροποποιήσεις στο μοντέλο. Η xAI περιορίστηκε σε τυποποιημένη απάντηση: «Τα παραδοσιακά ΜΜΕ λένε ψέματα».

Οι διεθνείς αντιδράσεις και το ρυθμιστικό πλαίσιο

Η X είχε ανακοινώσει περιορισμούς στις δυνατότητες δημιουργίας εικόνων μετά από διεθνή κατακραυγή για μαζική παραγωγή μη συναινετικού περιεχομένου, ιδίως γυναικών και ανηλίκων. Οι αλλαγές αφορούσαν:

• Απαγόρευση δημιουργίας σεξουαλικοποιημένων εικόνων σε δημόσιες αναρτήσεις.
• Πρόσθετους περιορισμούς σε χώρες με αυστηρή νομοθεσία.

Η βρετανική ρυθμιστική αρχή Ofcom χαρακτήρισε την κίνηση «θετική εξέλιξη», ενώ η Ευρωπαϊκή Επιτροπή δήλωσε ότι «θα αξιολογήσει προσεκτικά τις αλλαγές», στο πλαίσιο της έρευνας που ξεκίνησε για το X στις 26 Ιανουαρίου.

Σύγκριση με ανταγωνιστικά μοντέλα

Το Reuters υπέβαλε παρόμοια αιτήματα σε ανταγωνιστικά συστήματα:

• ChatGPT
• Gemini
• Llama

Όλα αρνήθηκαν να δημιουργήσουν τέτοιες εικόνες και σε πολλές περιπτώσεις εξέδωσαν ρητές προειδοποιήσεις περί παραβίασης ιδιωτικότητας και δεοντολογίας.

Η Meta δήλωσε ότι αντιτίθεται κατηγορηματικά στη δημιουργία μη συναινετικού ερωτικού περιεχομένου. Η OpenAI ανέφερε ότι εφαρμόζει αυστηρές δικλίδες ασφαλείας, ενώ η Alphabet δεν σχολίασε.

Το ηθικό και νομικό διακύβευμα

Το Grok δεν παρήγαγε πλήρως γυμνές ή ρητές σεξουαλικές πράξεις, που θα μπορούσαν να εμπίπτουν στον αμερικανικό νόμο Take It Down, ωστόσο η δυνατότητα δημιουργίας μη συναινετικών, ταπεινωτικών εικόνων εγείρει σοβαρά ζητήματα:

• Προστασίας ιδιωτικότητας
• Ψυχικής βλάβης και διαπόμπευσης
• Ευθύνης των πλατφορμών τεχνητής νοημοσύνης

Σε ορισμένες περιπτώσεις, το Grok συμμορφώθηκε ακόμη και όταν του γνωστοποιήθηκε ότι το πρόσωπο είχε υπάρξει θύμα κακοποίησης και ότι η εικόνα θα προκαλούσε ψυχική οδύνη.

Μόλις σε επτά περιπτώσεις επέστρεψε ρητή άρνηση, με μηνύματα όπως:

«Δεν πρόκειται να δημιουργήσω, να αναζητήσω ή να προσπαθήσω να σας δείξω φανταστικές ή πραγματικές εικόνες του σώματος αυτού του ατόμου χωρίς τη ρητή συγκατάθεσή του».

Την ίδια ώρα, οι ευρωπαϊκές ρυθμιστικές αρχές εμφανίζονται ακόμη αναποφάσιστες ως προς το πώς θα διαχειριστούν την έκρηξη των μη συναινετικών deepfake, σε μια πλατφόρμα που ήδη βρίσκεται υπό εντατικό έλεγχο για παραβιάσεις της ψηφιακής νομοθεσίας.

Η μελέτη πραγματοποιήθηκε από το Center for Countering Digital Hate, το οποίο ανέλυσε δείγμα 20.000 αναρτήσεων από τον λογαριασμό του Grok στο X, μέσα σε σύνολο 4,6 εκατομμυρίων δημοσιεύσεων στο ίδιο χρονικό διάστημα. Σύμφωνα με τα αποτελέσματα, το 65% του δείγματος περιλάμβανε σεξουαλικές εικόνες, ενώ το 0,5% εκτιμάται ότι αφορούσε ανηλίκους.

Η λειτουργία δημιουργίας εικόνων του Grok έγινε viral λίγο πριν το τέλος του 2025, κυρίως λόγω της δυνατότητάς της να αφαιρεί ψηφιακά ρούχα από ανθρώπους, προκαλώντας κύμα αντιδράσεων. Η πλατφόρμα προχώρησε σε περιοριστικά μέτρα στις 9 Ιανουαρίου και εκ νέου στις 14 Ιανουαρίου, επιχειρώντας να περιορίσει τη χρήση της συγκεκριμένης δυνατότητας.

Σε επίπεδο Ευρωπαϊκής Ένωσης, η Ευρωπαϊκή Επιτροπή εξετάζει ποιο ρυθμιστικό εργαλείο θα ενεργοποιήσει, καθώς έχει την ευθύνη τόσο για την εφαρμογή του Νόμου για τις Ψηφιακές Υπηρεσίες (DSA) όσο και του Νόμου για την Τεχνητή Νοημοσύνη, που καλύπτουν μεγάλες πλατφόρμες όπως το X. Ήδη βρίσκεται σε εξέλιξη νέα έρευνα για το Grok στο πλαίσιο του DSA, ενώ η πλατφόρμα έχει δεχθεί πρόστιμα και παράλληλες έρευνες για άλλα ζητήματα συμμόρφωσης.

Παράλληλα, στις Βρυξέλλες εξετάζεται και το ενδεχόμενο απαγόρευσης εφαρμογών τεχνητής νοημοσύνης που «απογυμνώνουν» ψηφιακά πρόσωπα, αν και παραμένει ασαφές αν μια τέτοια απαγόρευση θα μπορούσε να εφαρμοστεί σε εργαλεία γενικής χρήσης όπως το Grok, όπως επισημαίνει το Politico.

Αξίζει να σημειωθεί ότι το Center for Countering Digital Hate δεν ανέλυσε τις προτροπές (prompts) που οδήγησαν στη δημιουργία των εικόνων, με αποτέλεσμα να μην είναι δυνατό να διαπιστωθεί αν τα απεικονιζόμενα πρόσωπα είχαν συναινέσει στη χρήση ή επεξεργασία της εικόνας τους.

Τέλος, ο Ιμράν Αχμέντ, διευθύνων σύμβουλος του οργανισμού, έχει πρόσφατα απαγορευτεί να ταξιδέψει στις Ηνωμένες Πολιτείες, λόγω του φερόμενου ρόλου του σε ζητήματα που σχετίζονται με τη λογοκρισία – εξέλιξη που προσθέτει ακόμη μία πολιτική διάσταση στην ήδη φορτισμένη υπόθεση.