Ο “Ρομπέν του διαδικτύου”- Πώς ένας 20χρονος ξεμπροστιάζει τα AI “slop” στα social media

 Ο “Ρομπέν του διαδικτύου”- Πώς ένας 20χρονος ξεμπροστιάζει τα AI “slop” στα social media
💡 AI - Με μια ματιά by Libre

Ο Théodore, φοιτητής από το Παρίσι, συγκλονίστηκε από εικόνα τεχνητής νοημοσύνης που έδειχνε εξαθλιωμένα παιδιά με αφύσικα χαρακτηριστικά ζητώντας "likes".

Η χρήση της τεχνητής νοημοσύνης στα social media δημιουργεί νέες προκλήσεις και ανησυχίες για την αυθεντικότητα και την ηθική παρουσίαση περιεχομένου.

Οι χρήστες αντιδρούν έντονα, ενώ η κοινότητα προσπαθεί να διαχειριστεί την παραπληροφόρηση και τις ψεύτικες εικόνες που διασπείρονται πλατιά.

Η έλλειψη επαρκούς εποπτείας αυξάνει τους κινδύνους παραπληροφόρησης, θέτοντας ερωτήματα για το αν μπορεί να υπάρξει ένα κοινωνικό δίκτυο χωρίς λάθη.

Ο Théodore, ένας 20χρονος φοιτητής από το Παρίσι, θυμάται τη στιγμή που μια εικόνα τεχνητής νοημοσύνης τον έκανε να ξεσπάσει. Η φωτογραφία έδειχνε δύο εξαθλιωμένα παιδιά από τη Νότια Ασία, με παράξενα πυκνά γένια, αν και είχαν παιδικά χαρακτηριστικά. Το ένα παιδί δεν είχε χέρια και μόνο ένα πόδι, ενώ το άλλο κρατούσε ένα χαρτί που έγραφε ότι είναι τα γενέθλιά του, ζητώντας “likes”.

Ανεξήγητα, κάθονταν στη μέση ενός πολυσύχναστου δρόμου, κάτω από δυνατή βροχή, με μια τούρτα γενεθλίων. Η εικόνα ήταν γεμάτη ενδείξεις πως είχε δημιουργηθεί με AI, ωστόσο στο Facebook έγινε viral, συγκεντρώνοντας σχεδόν ένα εκατομμύριο likes και emoji καρδιάς.

«Κάτι έσπασε μέσα μου. Οι παράλογες εικόνες AI είχαν κατακλύσει το Facebook και αποκτούσαν τεράστια απήχηση χωρίς κανέναν έλεγχο – ήταν τρέλα», λέει ο Théodore. Έτσι δημιούργησε έναν λογαριασμό στο X (πρώην Twitter), με τίτλο “Insane AI Slop”, για να στηλιτεύει και να σατιρίζει τέτοιο περιεχόμενο που ξεγελούσε τους χρήστες.

Σύντομα, η πρωτοβουλία του απέκτησε απήχηση και το inbox του γέμισε με αποστολές από άτομα που του έστελναν παραδείγματα δημοφιλών “AI slop”. Κοινά μοτίβα άρχισαν να ξεχωρίζουν: θρησκεία, στρατιωτικά θέματα ή φτωχά παιδιά σε συγκινητικές σκηνές.

«Παιδιά στον τρίτο κόσμο που κάνουν εντυπωσιακά πράγματα είναι πάντα δημοφιλή – όπως ένα φτωχό παιδί στην Αφρική που φτιάχνει απίστευτο άγαλμα από σκουπίδια. Ο κόσμος τα βρίσκει συγκινητικά, οπότε οι δημιουργοί σκέφτονται ‘ας φτιάξουμε περισσότερα’», εξηγεί ο Théodore. Ο λογαριασμός του ξεπέρασε γρήγορα τους 133.000 ακολούθους.

Το κύμα του “AI slop” – δηλαδή ψεύτικα, πρόχειρα βίντεο και εικόνες που δημιουργούνται γρήγορα – δείχνει πλέον ασταμάτητο. Οι τεχνολογικές εταιρείες έχουν αγκαλιάσει την τεχνητή νοημοσύνη. Παρότι κάποιες ανακοινώνουν μέτρα κατά του “slop”, τα social media εξακολουθούν να κατακλύζονται από τέτοιο περιεχόμενο.

Η νέα εποχή των social media με επίκεντρο την AI

Σε πρόσφατη τηλεδιάσκεψη για τα κέρδη της Meta, ο CEO Mark Zuckerberg δήλωσε πως τα κοινωνικά δίκτυα μπήκαν στην τρίτη τους φάση, με επίκεντρο πλέον την τεχνητή νοημοσύνη. «Πρώτα ήταν το περιεχόμενο από φίλους και οικογένεια· μετά ήρθαν οι δημιουργοί. Τώρα, η AI κάνει ευκολότερη τη δημιουργία και το remix περιεχομένου», τόνισε στους μετόχους.

Η Meta, που διαχειρίζεται Facebook, Instagram και Threads, όχι μόνο επιτρέπει τη δημοσίευση AI περιεχομένου αλλά προσφέρει εργαλεία για τη μαζική παραγωγή του. Γεννήτριες εικόνων/βίντεο και ισχυρά φίλτρα διατίθενται σε όλους τους χρήστες.

Σε ερώτηση της BBC, η Meta παρέπεμψε στην ανακοίνωση των κερδών του Ιανουαρίου, όπου ο Zuckerberg δήλωσε πως η εταιρεία «επενδύει ακόμη περισσότερο στην AI», χωρίς να αναφέρει καμία πρόθεση περιορισμού του slop. «Σύντομα θα δούμε έκρηξη νέων μορφών μέσων χάρη στις εξελίξεις στην AI», προέβλεψε.

Ο CEO του YouTube, Neal Mohan, έγραψε πως μόνο τον Δεκέμβριο πάνω από ένα εκατομμύριο κανάλια χρησιμοποίησαν εργαλεία AI για να δημιουργήσουν περιεχόμενο. Ανέφερε επίσης τις ανησυχίες για «χαμηλής ποιότητας περιεχόμενο» (AI slop) και υπογράμμισε πως η ομάδα του εργάζεται στη βελτίωση των συστημάτων ανίχνευσης και αφαίρεσης τέτοιου υλικού.

Ωστόσο, ο Mohan απέφυγε να θέσει όρια στο τι επιτρέπεται ή όχι στα social media, σημειώνοντας ότι κάποτε περιθωριακό περιεχόμενο όπως το ASMR ή τα live gaming streams πλέον κυριαρχεί.

Έρευνα της εταιρείας AI Kapwing δείχνει ότι το 20% των βίντεο που βλέπει ένας νέος λογαριασμός YouTube είναι «χαμηλής ποιότητας AI video». Ειδικά στα YouTube Shorts, στα 500 πρώτα βίντεο εμφανίστηκαν 104 τέτοια clips.

Η οικονομία των δημιουργών αποτελεί βασικό κίνητρο: όσο περισσότερες προβολές και αλληλεπιδράσεις έχει ένα κανάλι ή βίντεο AI slop, τόσο περισσότερα κερδίζει ο δημιουργός. Το μεγαλύτερο τέτοιο κανάλι στην Ινδία, το Bandar Apna Dost, έχει συγκεντρώσει 2,07 δισεκατομμύρια προβολές, αποφέροντας ετήσια έσοδα περίπου $4 εκατ.

Aντιδράσεις χρηστών και ο ρόλος της κοινότητας

Παράλληλα όμως αναπτύσσεται μια αντίδραση. Κάτω από πολλά viral βίντεο AI εμφανίζονται πλέον δεκάδες οργισμένα σχόλια που καταγγέλλουν το ψεύτικο περιεχόμενο. Ο Théodore αξιοποίησε την επιρροή του στο X για να διαμαρτυρηθεί στους moderators του YouTube σχετικά με περίεργα καρτούν AI που συγκέντρωναν εκατοντάδες χιλιάδες προβολές – συχνά με αιματοβαμμένες ή ενοχλητικές σκηνές φτιαγμένες να απευθύνονται σε παιδιά.

Το YouTube αφαίρεσε τα συγκεκριμένα κανάλια διότι παραβίαζαν τις κατευθυντήριες γραμμές της κοινότητας. Εκπρόσωπος δήλωσε ότι στόχος είναι οι χρήστες να βρίσκουν ποιοτικό περιεχόμενο ανεξαρτήτως τρόπου παραγωγής κι ότι καταβάλλεται προσπάθεια για τον περιορισμό της διασποράς χαμηλής ποιότητας υλικού.

Ακόμα όμως κι αυτό δεν πτόησε τον Théodore: «Ακόμα και lifestyle πλατφόρμες όπως το Pinterest έχουν γεμίσει με AI slop», λέει. Η εταιρεία εισήγαγε σύστημα opt-out για AI generated content – αλλά στηρίζεται είτε στον αλγόριθμο είτε στην ειλικρίνεια των χρηστών για να δηλώσουν αν η εικόνα τους είναι αυθεντική ή όχι.

Τα παράπονα συνεχίζονται, καθώς πολλοί θεωρούν το σύστημα αναποτελεσματικό.

“Brain rot”: Πόσο μας επηρεάζει τελικά η πλημμύρα ψεύτικου περιεχομένου;

Στα feeds όλων – είτε στο TikTok είτε στο Instagram είτε στο X – η αντίδραση κατά του AI slop γίνεται ολοένα πιο έντονη. Συχνά τα σχόλια που καταγγέλλουν το ψεύτικο υλικό συγκεντρώνουν περισσότερα likes από το ίδιο το post.

Όμως κάθε είδους αλληλεπίδραση ευνοεί τις πλατφόρμες που θέλουν να κρατούν τους χρήστες “κολλημένους” στην οθόνη τους. Τελικά έχει σημασία αν αυτό που βλέπουμε είναι αληθινό ή όχι;

Η καθηγήτρια Emily Thorson, ειδική στην πολιτική παραπληροφόρηση στο πανεπιστήμιο Syracuse των ΗΠΑ, εξηγεί πως όλα εξαρτώνται από τον σκοπό χρήσης κάθε πλατφόρμας: «Αν κάποιος μπαίνει μόνο για διασκέδαση, αρκεί κάτι να είναι ψυχαγωγικό· αν όμως θέλει ενημέρωση ή επαφή με κοινότητα, τότε το ψεύτικο περιεχόμενο γίνεται πρόβλημα».

Το πώς νιώθει κάποιος απέναντι στο slop εξαρτάται συχνά κι από τον τρόπο παρουσίασης: αν είναι σαφές ότι πρόκειται για αστείο ή σάτιρα, συνήθως γίνεται αποδεκτό· όταν όμως σκοπός είναι η εξαπάτηση προκαλεί αγανάκτηση.

Alessandro Galeazzi, ερευνητής κοινωνικών δικτύων στο Πανεπιστήμιο της Παβίας στην Ιταλία, σημειώνει ότι ο συνεχής καταιγισμός ασήμαντου περιεχομένου μπορεί να οδηγήσει σε “brain rot” – δηλαδή σε σταδιακή διάβρωση της προσοχής μας και της κριτικής μας ικανότητας: «Το AI slop ενισχύει αυτό το φαινόμενο: οι άνθρωποι καταναλώνουν γρήγορα υλικό που γνωρίζουν ότι μάλλον δεν είναι ούτε αληθινό ούτε σημαντικό».

Eλλιπής εποπτεία & αυξανόμενοι κίνδυνοι παραπληροφόρησης

Kάποιο AI-generated περιεχόμενο μπορεί να έχει ακόμη πιο επικίνδυνες συνέπειες. Πρόσφατα οι εταιρείες του Elon Musk, xAI και X, άλλαξαν πολιτικές όταν έγινε γνωστό ότι chatbot χρησιμοποιούνταν για ψηφιακή “απογύμνωση” γυναικών και παιδιών στην πλατφόρμα X.

Mετά την επίθεση των ΗΠΑ στη Βενεζουέλα κυκλοφόρησαν ψεύτικα βίντεο με ανθρώπους να κλαίνε στους δρόμους ευχαριστώντας την Αμερική – δίνοντας μια εντύπωση λαϊκής αποδοχής που ίσως δεν ανταποκρινόταν στην πραγματικότητα. Αυτό προκαλεί ιδιαίτερη ανησυχία καθώς πολλοί έχουν ως μοναδική πηγή ενημέρωσης τα social media.

O Dr Manny Ahmed, επικεφαλής της OpenOrigins (εταιρεία επαλήθευσης αυθεντικότητας), υποστηρίζει πως χρειάζεται νέα υποδομή ώστε όσοι ανεβάζουν πραγματικό υλικό να μπορούν δημόσια να αποδεικνύουν την αυθεντικότητά του: «Έχουμε ήδη φτάσει σε σημείο όπου δεν μπορείς εύκολα να ξεχωρίσεις τι είναι αληθινό απλώς κοιτώντας».

Kι ενώ θα περίμενε κανείς τις μεγάλες πλατφόρμες να αναλάβουν δράση, πολλές (όπως Meta και X) έχουν μειώσει τις ομάδες moderation τους κι αφήνουν στους ίδιους τους χρήστες τον εντοπισμό fake news ή παραπλανητικού υλικού.

Mπορεί να υπάρξει “slop-free” κοινωνικό δίκτυο;

Aν οι σημερινοί κολοσσοί δείχνουν ανοχή στο slop, θα μπορούσε μια νέα πλατφόρμα χωρίς ψεύτικο περιεχόμενο να κάνει τη διαφορά; Μάλλον δύσκολα – καθώς ακόμη κι οι μηχανές δυσκολεύονται όλο και περισσότερο να διακρίνουν τι είναι αυθεντικό κι αν κάτι θεωρείται “slop” εξαρτάται συχνά από υποκειμενικά κριτήρια.

Kι όμως υπάρχουν παραδείγματα όπως η γαλλική εφαρμογή BeReal, που εν μέσω πανδημίας ενθάρρυνε τους χρήστες να δείξουν τον εαυτό τους χωρίς φίλτρα σε τυχαίες στιγμές – κάνοντας άλλες πλατφόρμες να μιμηθούν στοιχεία της ιδέας της αυθεντικότητας.

Iσως μια αντίστοιχη πρωτοβουλία κατά του AI slop κινητοποιήσει ξανά τους χρήστες προς πιο αυθεντική διαδικτυακή εμπειρία. Για τον Théodore πάντως η μάχη μοιάζει χαμένη: παρότι συνεχίζει να λαμβάνει δεκάδες submissions από 130 χιλιάδες ακόλουθους, έχει σταματήσει να δημοσιεύει τόσο συχνά κι έχει αποδεχτεί τη νέα “κανονικότητα” online ζωής.

“Δεν είμαι δογματικά κατά της AI”, λέει ο ίδιος. “Είμαι κατά της διαδικτυακής ρύπανσης από πρόχειρο περιεχόμενο που φτιάχνεται μόνο για γρήγορη διασκέδαση και views”.

Διαβάστε το αρχικό άρθρο εδώ.