WP: Πώς η στρατηγική Μασκ μετέτρεψε το Grok σε πλατφόρμα σεξουαλικού περιεχομένου

Στο στόχαστρο ρυθμιστικών αρχών και διεθνούς κριτικής βρέθηκε η start-up τεχνητής νοημοσύνης xAI, δημιουργός του chatbot Grok, το οποίο λειτουργεί στην πλατφόρμα X. Σύμφωνα με δημοσίευμα της The Washington Post, η εταιρεία κατηγορείται ότι επέτρεψε την παραγωγή σεξουαλικού περιεχομένου που σε ορισμένες περιπτώσεις άγγιζε τα όρια της πορνογραφίας, ακόμη και με εικόνες ανηλίκων.

Το ρεπορτάζ αναφέρει ότι λίγες εβδομάδες πριν ο Έλον Μασκ αποχωρήσει από την εποπτεία της κυβέρνησης Τραμπ, εργαζόμενοι στην ομάδα ανθρώπινων δεδομένων της xAI κλήθηκαν να υπογράψουν υπεύθυνη δήλωση αποδοχής έκθεσης σε υβριστικό και σεξουαλικό υλικό, στο πλαίσιο της εκπαίδευσης του Grok. Η πρακτική αυτή προκάλεσε ερωτήματα για τη νομική και ηθική διάσταση της στρατηγικής της εταιρείας.

Η εκπαίδευση του Grok, σύμφωνα με το δημοσίευμα, περιλάμβανε:

• Άσεμνες συνομιλίες χρηστών
• Σεξουαλικές αλληλεπιδράσεις
• Περιγραφές σεξουαλικής βίας

Παράλληλα, η xAI φέρεται να χαλάρωσε φίλτρα περιεχομένου και να ανέπτυξε ερωτικά φορτισμένους AI χαρακτήρες, όπως το «Ani», με στόχο την αύξηση του χρόνου αλληλεπίδρασης και της συναισθηματικής εμπλοκής των χρηστών.

Μετά την αποχώρησή του από τη διοίκηση της Υπηρεσίας DOGE, ο Μασκ φέρεται να προωθούσε νέες μετρήσεις απόδοσης, όπως τα «δευτερόλεπτα ενεργού χρήστη», δίνοντας έμφαση στη διάρκεια χρήσης της εφαρμογής.

Σύμφωνα με τις ίδιες πληροφορίες, η περιορισμένη ομάδα ασφάλειας της εταιρείας –σε σύγκριση με άλλους μεγάλους παίκτες της αγοράς– δεν κατάφερε να αποτρέψει τη διάδοση:

• Σεξουαλικοποιημένων εικόνων πραγματικών προσώπων χωρίς συναίνεση
• Γυμνών εικόνων ενηλίκων

Οι καταγγελίες οδήγησαν στην έναρξη ερευνών από:

• Την Ευρωπαϊκή Επιτροπή
• Τη ρυθμιστική αρχή του Ηνωμένου Βασιλείου
• Εισαγγελικές αρχές στις ΗΠΑ

Η xAI, από την πλευρά της, υποστήριξε ότι το σύστημα αρνείται να δημιουργήσει παράνομο περιεχόμενο και απέδωσε τυχόν προβλήματα σε «εχθρικό hacking».

Παρά το κύμα επικρίσεων, η στρατηγική φαίνεται να οδήγησε σε αύξηση 72% στις λήψεις της εφαρμογής στις αρχές Ιανουαρίου. Ωστόσο, η απόφαση να περιοριστούν τα εργαλεία δημιουργίας εικόνων σε πληρωμένους λογαριασμούς χαρακτηρίστηκε από επικριτές ως εμπορευματοποίηση αμφιλεγόμενης πρακτικής.

Η xAI, που ιδρύθηκε το 2023 με στόχο να ανταγωνιστεί κορυφαία εργαστήρια AI, φέρεται να άλλαξε εσωτερικά πρωτόκολλα, ζητώντας από εργαζόμενους να επισημαίνουν γυμνές εικόνες και να εκπαιδεύουν το μοντέλο σε σεξουαλικές συνομιλίες.