Σοβαρές καταγγελίες για το Grok του X: 3 εκατ. σεξουαλικές εικόνες σε 11 ημέρες, χιλιάδες με παιδιά

Ανησυχητικά ευρήματα για τη λειτουργία του chatbot τεχνητής νοημοσύνης Grok, που είναι ενσωματωμένο στην πλατφόρμα X, φέρνει στο φως νέα μελέτη, εκτιμώντας ότι μέσα σε μόλις 11 ημέρες τον Ιανουάριο παρήγαγε περίπου 3 εκατομμύρια σεξουαλικές εικόνες, εκ των οποίων περίπου 23.000 φέρονται να απεικονίζουν παιδιά.

Την ίδια ώρα, οι ευρωπαϊκές ρυθμιστικές αρχές εμφανίζονται ακόμη αναποφάσιστες ως προς το πώς θα διαχειριστούν την έκρηξη των μη συναινετικών deepfake, σε μια πλατφόρμα που ήδη βρίσκεται υπό εντατικό έλεγχο για παραβιάσεις της ψηφιακής νομοθεσίας.

Η μελέτη πραγματοποιήθηκε από το Center for Countering Digital Hate, το οποίο ανέλυσε δείγμα 20.000 αναρτήσεων από τον λογαριασμό του Grok στο X, μέσα σε σύνολο 4,6 εκατομμυρίων δημοσιεύσεων στο ίδιο χρονικό διάστημα. Σύμφωνα με τα αποτελέσματα, το 65% του δείγματος περιλάμβανε σεξουαλικές εικόνες, ενώ το 0,5% εκτιμάται ότι αφορούσε ανηλίκους.

Η λειτουργία δημιουργίας εικόνων του Grok έγινε viral λίγο πριν το τέλος του 2025, κυρίως λόγω της δυνατότητάς της να αφαιρεί ψηφιακά ρούχα από ανθρώπους, προκαλώντας κύμα αντιδράσεων. Η πλατφόρμα προχώρησε σε περιοριστικά μέτρα στις 9 Ιανουαρίου και εκ νέου στις 14 Ιανουαρίου, επιχειρώντας να περιορίσει τη χρήση της συγκεκριμένης δυνατότητας.

Σε επίπεδο Ευρωπαϊκής Ένωσης, η Ευρωπαϊκή Επιτροπή εξετάζει ποιο ρυθμιστικό εργαλείο θα ενεργοποιήσει, καθώς έχει την ευθύνη τόσο για την εφαρμογή του Νόμου για τις Ψηφιακές Υπηρεσίες (DSA) όσο και του Νόμου για την Τεχνητή Νοημοσύνη, που καλύπτουν μεγάλες πλατφόρμες όπως το X. Ήδη βρίσκεται σε εξέλιξη νέα έρευνα για το Grok στο πλαίσιο του DSA, ενώ η πλατφόρμα έχει δεχθεί πρόστιμα και παράλληλες έρευνες για άλλα ζητήματα συμμόρφωσης.

Παράλληλα, στις Βρυξέλλες εξετάζεται και το ενδεχόμενο απαγόρευσης εφαρμογών τεχνητής νοημοσύνης που «απογυμνώνουν» ψηφιακά πρόσωπα, αν και παραμένει ασαφές αν μια τέτοια απαγόρευση θα μπορούσε να εφαρμοστεί σε εργαλεία γενικής χρήσης όπως το Grok, όπως επισημαίνει το Politico.

Αξίζει να σημειωθεί ότι το Center for Countering Digital Hate δεν ανέλυσε τις προτροπές (prompts) που οδήγησαν στη δημιουργία των εικόνων, με αποτέλεσμα να μην είναι δυνατό να διαπιστωθεί αν τα απεικονιζόμενα πρόσωπα είχαν συναινέσει στη χρήση ή επεξεργασία της εικόνας τους.

Τέλος, ο Ιμράν Αχμέντ, διευθύνων σύμβουλος του οργανισμού, έχει πρόσφατα απαγορευτεί να ταξιδέψει στις Ηνωμένες Πολιτείες, λόγω του φερόμενου ρόλου του σε ζητήματα που σχετίζονται με τη λογοκρισία – εξέλιξη που προσθέτει ακόμη μία πολιτική διάσταση στην ήδη φορτισμένη υπόθεση.