Ο φαύλος κύκλος της μη γνώσης-Πώς θα καταλάβουμε αν ένα κείμενο είναι προϊόν τεχνητής νοημοσύνης

Από τις πανεπιστημιακές αίθουσες μέχρι τα επιστημονικά περιοδικά, το AI αλλάζει τους κανόνες – και όχι πάντα προς το καλύτερο. Η Τεχνητή Νοημοσύνη παρουσιάζεται συχνά ως η νέα επανάσταση της γνώσης.

Ένα εργαλείο που μπορεί να βοηθήσει την έρευνα, να επιταχύνει την ανάλυση δεδομένων και να ανοίξει δρόμους στην επιστήμη.

Όμως όσο περισσότερο μπαίνει στην καθημερινότητα της ακαδημαϊκής ζωής, τόσο εμφανίζονται και οι σκοτεινές πλευρές της.

Από φοιτητές που αντιγράφουν στις εξετάσεις μέχρι οργανωμένες «βιομηχανίες» παραγωγής επιστημονικών εργασιών, η τεχνητή νοημοσύνη φαίνεται ότι δημιουργεί μια νέα κρίση αξιοπιστίας στον κόσμο της γνώσης.

Και τα πρώτα σημάδια αυτής της κρίσης εμφανίζονται ήδη μέσα στα πανεπιστήμια.

Το περιστατικό στο Πανεπιστήμιο Κρήτης

Αφορμή για μια ευρύτερη συζήτηση αποτέλεσε ένα περιστατικό που περιέγραψε δημόσια ο καθηγητής του Πανεπιστημίου Κρήτης, Δημήτρης Ξενάκης.

Σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης, σημείωσε ότι είδε κάτι «για πρώτη φορά στα 23 χρόνια που διδάσκει».

Φοιτητής κόπηκε στο μάθημά του επειδή το γραπτό του είχε δημιουργηθεί με τη βοήθεια τεχνητής νοημοσύνης. Όταν ο καθηγητής πρότεινε προφορική εξέταση για να επανεξεταστεί η βαθμολογία, στο γραφείο του εμφανίστηκε… η μητέρα του φοιτητή.

Η ίδια ζήτησε να επανεξεταστεί η βαθμολογία του παιδιού της, ενώ συνοδευόταν από μια συνάδελφό της που – σύμφωνα με την περιγραφή του καθηγητή – επέμενε να παραμείνει στο γραφείο κατά τη διάρκεια της συζήτησης.

Το περιστατικό από μόνο του θα μπορούσε να μοιάζει απλώς με ένα ακόμη επεισόδιο υπερπροστατευτικής γονεϊκής συμπεριφοράς.

Το πραγματικό όμως ζήτημα ήταν άλλο.

Όπως εξήγησε ο καθηγητής σε τηλεοπτική συνέντευξη, στην ίδια εξεταστική περίοδο διαπιστώθηκε μαζική χρήση τεχνητής νοημοσύνης από φοιτητές.

Περίπου 40 γραπτά περιείχαν σχεδόν το ίδιο κείμενο, με μικρές μόνο διαφοροποιήσεις.

Όλα είχαν την ίδια «ξύλινη» διατύπωση που χαρακτηρίζει πολλές φορές τα κείμενα που παράγονται από εργαλεία τεχνητής νοημοσύνης.

Το μάθημα αφορούσε τις διεθνείς σχέσεις – αλλά τα γραπτά έμοιαζαν σαν να είχαν γραφτεί από τον ίδιο… αλγόριθμο.

Από την αντιγραφή στις εξετάσεις… στην αντιγραφή της επιστήμης

Το περιστατικό αυτό είναι μόνο η μικρογραφία ενός πολύ μεγαλύτερου προβλήματος.

Η τεχνητή νοημοσύνη δεν αλλάζει μόνο τον τρόπο που γράφουν οι φοιτητές. Αλλάζει και τον τρόπο που παράγεται η ίδια η επιστημονική γνώση.

Τα τελευταία χρόνια η παραγωγή επιστημονικών δημοσιεύσεων αυξάνεται με εκρηκτικό ρυθμό.

Μεταξύ 2016 και 2022 ο αριθμός των ετήσιων δημοσιεύσεων παγκοσμίως αυξήθηκε από περίπου 1,9 εκατομμύρια σε 2,8 εκατομμύρια.

Ταυτόχρονα, η βιομηχανία των επιστημονικών εκδόσεων αποφέρει πάνω από 16 δισεκατομμύρια ευρώ τον χρόνο.

Αλλά ένα κρίσιμο ερώτημα παραμένει:

παράγεται πράγματι περισσότερη γνώση – ή απλώς περισσότερα κείμενα;

Οι «βιομηχανίες» παραγωγής επιστημονικών εργασιών

Τα τελευταία χρόνια εμφανίστηκε ένα φαινόμενο που οι ερευνητές αποκαλούν paper mills – κυριολεκτικά «εργοστάσια παραγωγής επιστημονικών εργασιών».

Πρόκειται για οργανωμένα δίκτυα που δημιουργούν μαζικά ψεύτικες επιστημονικές δημοσιεύσεις.

Η διαδικασία είναι πλέον απλή:

• ένας πελάτης δίνει μια εντολή σε εργαλείο τεχνητής νοημοσύνης
• το σύστημα δημιουργεί περίληψη, εισαγωγή, μεθοδολογία και αποτελέσματα
• προσθέτει ακόμη και βιβλιογραφικές αναφορές
• το άρθρο αποστέλλεται σε περιοδικό που δέχεται δημοσιεύσεις με πληρωμή

Μέσα σε λίγες ώρες, μια πλήρης επιστημονική εργασία είναι έτοιμη για δημοσίευση.

Τα «επιθετικά» επιστημονικά περιοδικά

Σύμφωνα με εκτιμήσεις, περίπου 15.000 επιστημονικά περιοδικά λειτουργούν σήμερα με πρακτικές που χαρακτηρίζονται επιθετικές.

Τα περιοδικά αυτά:

• ζητούν υψηλά τέλη δημοσίευσης
• υπόσχονται γρήγορη δημοσίευση
• συχνά δεν πραγματοποιούν πραγματική επιστημονική αξιολόγηση

Το αποτέλεσμα είναι ότι αμφίβολες ή ψευδείς εργασίες καταλήγουν σε μεγάλες βάσεις δεδομένων της επιστήμης.

Και από εκεί αρχίζουν να αναφέρονται σε άλλες έρευνες.

Η μεγάλη κρίση αξιοπιστίας

Το 2023 σημειώθηκε ένα ιστορικό ρεκόρ:
περισσότερες από 10.000 επιστημονικές εργασίες αποσύρθηκαν από περιοδικά.

Ο αριθμός είναι τριπλάσιος σε σχέση με πριν από μια δεκαετία.

Περισσότερες από 8.000 από αυτές τις ανακλήσεις προήλθαν από έναν μόνο εκδότη, μετά την αποκάλυψη σοβαρών παραβιάσεων στη διαδικασία αξιολόγησης.

Αλλά οι ειδικοί προειδοποιούν ότι αυτό είναι μόνο η κορυφή του παγόβουνου.

Για κάθε εργασία που αποσύρεται, πολλές άλλες παραμένουν στις βάσεις δεδομένων.

Όταν η τεχνητή νοημοσύνη διαβάζει… τον εαυτό της

Το πιο ανησυχητικό στοιχείο είναι αυτό που οι επιστήμονες αποκαλούν φαύλο κύκλο δεδομένων.

Τα μοντέλα τεχνητής νοημοσύνης εκπαιδεύονται πάνω σε τεράστιες βάσεις δεδομένων επιστημονικών κειμένων.

Αν όμως αυτές οι βάσεις δεδομένων περιέχουν ήδη ψεύτικες ή κατασκευασμένες δημοσιεύσεις, τότε τα συστήματα μαθαίνουν από λανθασμένα δεδομένα.

Έτσι η τεχνητή νοημοσύνη μπορεί να αρχίσει να παράγει περισσότερα κείμενα βασισμένα σε ήδη αλλοιωμένη γνώση.

Με άλλα λόγια, η μηχανή μαθαίνει από τον εαυτό της – και τα λάθη της πολλαπλασιάζονται.

Όταν ακόμη και οι κριτές χρησιμοποιούν AI

Η πίεση για γρήγορη αξιολόγηση των δημοσιεύσεων οδηγεί ακόμη και τους ίδιους τους κριτές σε χρήση τεχνητής νοημοσύνης.

Σε ένα μεγάλο επιστημονικό συνέδριο διαπιστώθηκε ότι περίπου το 21% των αξιολογήσεων άρθρων είχε γραφτεί πλήρως από τεχνητή νοημοσύνη.

Ορισμένες από αυτές τις αξιολογήσεις περιείχαν ακόμη και ανύπαρκτες βιβλιογραφικές παραπομπές.

Έτσι δημιουργείται ένα παράδοξο σύστημα:

• η τεχνητή νοημοσύνη γράφει τις εργασίες
• και η τεχνητή νοημοσύνη τις αξιολογεί.

Η δύσκολη αποστολή των ερευνητών

Μέσα σε αυτό το περιβάλλον, οι επιστήμονες καλούνται πλέον να κάνουν κάτι που μέχρι πριν από λίγα χρόνια θεωρούταν αυτονόητο:

να ελέγχουν αν μια επιστημονική εργασία είναι… πραγματική.

Για να το διαπιστώσουν πρέπει να εξετάσουν:

• αν το περιοδικό είναι αξιόπιστο
• αν οι συγγραφείς υπάρχουν πραγματικά
• αν οι παραπομπές οδηγούν σε υπαρκτές μελέτες
• αν τα πανεπιστήμια που αναφέρονται είναι αληθινά

Μια διαδικασία που μπορεί να απαιτεί ώρες για κάθε δημοσίευση.

Χρόνος που οι περισσότεροι ερευνητές απλώς δεν διαθέτουν.

Το πραγματικό ερώτημα

Η τεχνητή νοημοσύνη δεν πρόκειται να φύγει από τα πανεπιστήμια.

Το ερώτημα πλέον δεν είναι αν θα χρησιμοποιείται.

Το ερώτημα είναι πώς θα χρησιμοποιείται.

Θα αποτελέσει εργαλείο που θα ενισχύσει την επιστημονική γνώση;

Ή θα μετατρέψει την παραγωγή γνώσης σε μια μαζική, αυτοματοποιημένη διαδικασία όπου το κείμενο θα πολλαπλασιάζεται πιο γρήγορα από την αλήθεια;

Η απάντηση ίσως κριθεί στις αίθουσες διδασκαλίας, στα εργαστήρια και στα επιστημονικά περιοδικά των επόμενων ετών.

Και όπως δείχνει το περιστατικό στο Πανεπιστήμιο Κρήτης, η συζήτηση έχει ήδη ξεκινήσει.

Πώς να εντοπίσετε μια ψεύτικη επιστημονική εργασία

Σε μια εποχή όπου η τεχνητή νοημοσύνη μπορεί να δημιουργήσει ολόκληρες μελέτες μέσα σε λίγα λεπτά, η διάκριση ανάμεσα στην πραγματική επιστήμη και την κατασκευασμένη γνώση γίνεται όλο και πιο δύσκολη. Ωστόσο, υπάρχουν ορισμένα βασικά σημάδια που μπορούν να βοηθήσουν στον εντοπισμό ύποπτων δημοσιεύσεων.

Ελέγξτε πρώτα το ίδιο το περιοδικό.
Υπάρχουν εργαλεία όπως το ThinkCheckSubmit που βοηθούν να διαπιστώσει κανείς αν ένα επιστημονικό περιοδικό είναι αξιόπιστο. Τα πραγματικά περιοδικά δημοσιεύουν σαφείς πληροφορίες: φυσική διεύθυνση, πραγματικούς συντάκτες και πλήρη στοιχεία επικοινωνίας. Αντίθετα, τα λεγόμενα «επιθετικά» περιοδικά υπόσχονται ταχύτατη δημοσίευση και συχνά στέλνουν μαζικά email ζητώντας άρθρα. Ένα ακόμη προειδοποιητικό σημάδι είναι όταν ο ιστότοπος ενός περιοδικού εμφανίστηκε μόλις πριν από λίγους μήνες.

Επαληθεύστε τις βιβλιογραφικές παραπομπές.
Κάθε σοβαρή επιστημονική εργασία διαθέτει DOI – έναν μοναδικό ψηφιακό κωδικό που οδηγεί στην πηγή της μελέτης. Αν ο σύνδεσμος δεν λειτουργεί ή οδηγεί σε άσχετη δημοσίευση, υπάρχει σοβαρή πιθανότητα η αναφορά να έχει κατασκευαστεί. Αξίζει επίσης να αναζητήσετε τον συγγραφέα στο Google Scholar. Αν εμφανίζεται ξαφνικά με δεκάδες ή και εκατοντάδες δημοσιεύσεις μέσα σε έναν χρόνο, ή αν δεν υπάρχει κανένα ιστορικό πριν από το 2023, τότε πιθανότατα πρόκειται για παραγωγή «paper mills» ή για κείμενα που δημιουργήθηκαν από τεχνητή νοημοσύνη.

Προσέξτε τη γλώσσα του κειμένου.
Πολλά εργαλεία τεχνητής νοημοσύνης χρησιμοποιούν μηχανισμούς «συνωνυμοποίησης» για να αποφύγουν την ανίχνευση λογοκλοπής. Αυτό συχνά οδηγεί σε παράξενες και αφύσικες εκφράσεις. Παραδείγματα τέτοιων φράσεων είναι «πλαστογράφηση συνείδησης» αντί για «τεχνητή νοημοσύνη» ή «ακανόνιστος στομαχικός πόνος» αντί για «κοιλιακός πόνος». Οι επιστήμονες μπορεί να γράφουν περίπλοκα ή δύσκολα, αλλά σπάνια χρησιμοποιούν τέτοιες ακατανόητες διατυπώσεις.

Ελέγξτε τα ιδρύματα και τις συνεργασίες.
Ένα ακόμη συχνό τέχνασμα είναι η χρήση ψεύτικων πανεπιστημίων ή ερευνητικών κέντρων. Μερικές φορές πρόκειται για παραλλαγές υπαρκτών ιδρυμάτων με μικρές αλλαγές στη διεύθυνση του ιστότοπου – για παράδειγμα ένα domain τύπου uok-edu-gr αντί για το πραγματικό uoc.gr. Η απλή αναζήτηση του ιδρύματος στο διαδίκτυο μπορεί συχνά να αποκαλύψει τέτοιες απάτες.

Ελέγξτε αν η εργασία έχει ανακληθεί.
Υπάρχουν βάσεις δεδομένων που καταγράφουν επιστημονικές δημοσιεύσεις οι οποίες έχουν αποσυρθεί λόγω λαθών ή απάτης. Η πιο γνωστή είναι το Retraction Watch. Πριν χρησιμοποιήσει κανείς μια μελέτη ως πηγή, αξίζει να αναζητήσει εκεί τον τίτλο της. Σήμερα σχεδόν 40.000 ανακληθείσες επιστημονικές εργασίες εξακολουθούν να κυκλοφορούν σε βάσεις δεδομένων χωρίς σαφή προειδοποίηση.

Πώς να καταλάβετε αν ένα κείμενο έχει γραφτεί με τεχνητή νοημοσύνη

Η ανίχνευση ενός κειμένου που έχει δημιουργηθεί από τεχνητή νοημοσύνη δεν είναι πάντα εύκολη, ωστόσο υπάρχουν εξειδικευμένα εργαλεία που μπορούν να δώσουν ενδείξεις. Πλατφόρμες όπως το GPTZero, το Originality.ai, το Copyleaks και το Turnitin χρησιμοποιούν αλγορίθμους που αναλύουν τη δομή, τη στατιστική πιθανότητα των λέξεων και τη «φυσικότητα» της γλώσσας για να εκτιμήσουν αν ένα κείμενο έχει παραχθεί από άνθρωπο ή από μοντέλο τεχνητής νοημοσύνης. Τα εργαλεία αυτά λειτουργούν συνήθως με συνδρομή και χρησιμοποιούνται ευρέως από πανεπιστήμια, εκδοτικούς οίκους και δημοσιογραφικούς οργανισμούς. Παρ’ όλα αυτά, ακόμη και οι πιο εξελιγμένοι ανιχνευτές δεν είναι απόλυτα αλάνθαστοι· γι’ αυτό και οι ειδικοί τονίζουν ότι η τελική αξιολόγηση πρέπει να συνδυάζει την τεχνολογική ανάλυση με την ανθρώπινη κρίση.