Ένα ανατρεπτικό πείραμα: Τι γίνεται όταν καλείστε να αποδείξετε ότι δεν είστε deepfake;
✨Η τεχνητή νοημοσύνη έχει φτάσει σε επίπεδα που καθιστούν δύσκολη την αναγνώριση της αυθεντικότητας συνομιλητών, ακόμη και από στενούς συγγενείς.
✨Ειδικοί επισημαίνουν ότι τα deepfakes μπορεί να φαίνονται αληθινά, αλλά υπάρχουν μικρές λεπτομέρειες που αποκαλύπτουν την ψευδαίσθηση, αν και δεν είναι πάντα εύκολο να εντοπιστούν.
✨Η απόδειξη ταυτότητας μέσω βίντεο ή φωνής είναι πλέον αναξιόπιστη, καθώς η τεχνολογία επιτρέπει την πειστική παραποίηση χωρίς εμφανή λάθη.
✨Η προτεινόμενη λύση είναι η χρήση μυστικών κωδικών ή φράσεων μεταξύ ανθρώπων για να επαληθεύεται με ασφάλεια η πραγματική ταυτότητα σε κρίσιμες επικοινωνίες.
Η τεχνητή νοημοσύνη γίνεται τόσο πειστική που ακόμη και στενοί συγγενείς αμφιβάλλουν για την αυθεντικότητα των συνομιλητών τους. Το άρθρο του BBC στο οποίο περιγράφεται ένα πείραμα, αποδεικνύει του λόγου το αληθές.
Πριν λίγες ημέρες, κάλεσα τη θεία μου, την Ελεονόρα, ζητώντας της να συμμετάσχει σε ένα πείραμα για ένα άρθρο. Της εξήγησα ότι θα την ξανακαλέσω και στην άλλη γραμμή θα μπορούσε να είναι είτε ο πραγματικός εαυτός μου είτε ένα deepfake που έχει δημιουργήσει AI. Θα μπορούσε άραγε κάποιος που με γνωρίζει μια ολόκληρη ζωή να ξεχωρίσει τη διαφορά;
Στην αρχή, η θεία μου δεν πίστευε ότι είχε αναμιχθεί κάποια τεχνητή νοημοσύνη. «Μοιάζει με εσένα», είπε. «Νομίζω πως ένας πραγματικός άνθρωπος χρησιμοποιεί πολύ περισσότερη χροιά στη φωνή του απ’ ό,τι θα περίμενα από μια φωνή που έχει δημιουργήσει AI». Της εξήγησα, όμως, ότι η τεχνολογία έχει προχωρήσει πολύ. Ακολούθησε μια μεγάλη παύση. «Ήμουν περίπου 90% σίγουρη», είπε διστακτικά. «Αλλά αυτό ακούστηκε πιο τεχνητό».
Όταν συζητάμε για deepfakes, συνήθως ανησυχούμε μήπως πέσουμε θύματα εξαπάτησης. Και δικαίως – η παραπλάνηση μέσω AI έχει χρησιμοποιηθεί για να αποσπαστούν μεγάλα χρηματικά ποσά, να διαδοθεί παραπληροφόρηση ή ακόμη και να επηρεαστούν εκλογές. Αλλά τι γίνεται αν η κατηγορία στραφεί προς εσάς; Πώς αποδεικνύετε ότι είστε αληθινοί;
Αυτό το ερώτημα χρειάστηκε να απαντήσει πρόσφατα ο πρωθυπουργός του Ισραήλ, Μπενιαμίν Νετανιάχου. Δημοσίευσε ένα βίντεο όπου, λόγω μιας ιδιότυπης αντανάκλασης φωτός, φαινόταν σαν να έχει μια περίεργη έκτη δάχτυλο στο δεξί του χέρι – χαρακτηριστικό που συχνά προδίδει τα deepfakes. Το διαδίκτυο πήρε φωτιά με φήμες πως ο Νετανιάχου είχε σκοτωθεί σε πυραυλική επίθεση και το Ισραήλ προσπαθούσε να το καλύψει.
Η πρόκληση της απόδειξης της ταυτότητας στην εποχή των deepfakes
Λίγες μέρες αργότερα, ο πρωθυπουργός ανέβασε νέο βίντεο από ένα καφέ, όπου χαμογελώντας σήκωσε τα χέρια του για να δείξει ότι έχει τον συνηθισμένο αριθμό δαχτύλων. Σύμφωνα με τους ειδικούς που μίλησα, ήταν η πρώτη φορά που ένας ηγέτης μεγάλης δύναμης προσπάθησε δημόσια να αποδείξει ότι δεν είναι δημιουργία τεχνητής νοημοσύνης – και το αποτέλεσμα ήταν απογοητευτικό.
Ακόμη και σήμερα, πολλοί παραμένουν πεπεισμένοι πως ο Νετανιάχου είναι νεκρός (και θα ισχυριστούν ότι αποτελώ μέρος της συνωμοσίας επειδή λέω το αντίθετο). Τα βίντεο-αποδείξεις ζωής του περιείχαν βασικά λάθη. Αναρωτήθηκα αν εγώ θα τα κατάφερνα καλύτερα. Είναι ακόμη δυνατόν να αποδείξει κανείς πως δεν είναι ρομπότ; Επικοινώνησα με ειδικούς για να μάθω και σας προϊδεάζω: τα νέα δεν είναι καλά.
Και όμως, αυτό συνέβη και σε μένα στην καθημερινότητά μου. Πριν λίγες εβδομάδες έγραψα ένα άρθρο για μια υποχρησιμοποιούμενη υπηρεσία της Google.
Εξοργίστηκα τόσο πολύ που μοιράστηκα έναν σύνδεσμο για τη ρύθμιση στην οικογενειακή μου ομαδική συνομιλία και παρότρυνα όλους να κάνουν κλικ σε αυτόν. Αλλά η μαμά μου αμέσως υποψιάστηκε. Καλή κίνηση, αυτή ήταν μια περίεργη συμπεριφορά. Νομίζω ότι ήπια πολύ καφέ.
«Πώς ξέρω ότι αυτός είναι όντως ο Τομ και όχι κάποιος περίεργος απατεώνας;» έγραψε. «Πες κάτι που ένας απατεώνας δεν θα μπορούσε να πει». Έπρεπε να σκεφτώ, αλλά τελικά κατέληξα σε ένα ψευδώνυμο που χρησιμοποιούσαν οι γονείς μου όταν ήμουν παιδί. Ήταν ικανοποιημένη, αλλά αυτό είναι πολύ πιο δύσκολο όταν έχεις να κάνεις με ανθρώπους που δεν σε γνωρίζουν. Ας υποθέσουμε ότι είσαι ο Μπενιαμίν Νετανιάχου, για παράδειγμα, και το κοινό είναι όλος ο κόσμος.
Κάθε ειδικός που ρώτησα είπε ότι τα βίντεο του Νετανιάχου είναι αναμφισβήτητα αληθινά. Ο Τζέρεμι Καράσκο, συνιδρυτής της Riddance, μιας ανεξάρτητης έκδοσης που επικεντρώνεται στα μέσα ενημέρωσης που παράγονται από την τεχνητή νοημοσύνη, δεν άργησε να καταλήξει σε αυτό το συμπέρασμα. «Εν ολίγοις, είναι όλα αληθινά και όλα δείχνουν απλώς φυσιολογικά πράγματα που συμβαίνουν στα βίντεο», λέει ο Καράσκο. Το υποτιθέμενο έκτο δάχτυλο, για παράδειγμα, είναι φως που αντανακλάται στην παλάμη του Νετανιάχου, λέει. Φαίνεται περίεργο αν πατήσετε παύση την κατάλληλη στιγμή, αλλά αυτό είναι όλο.
«Τα έξι δάχτυλα δεν είναι πλέον θέμα Τεχνητής Νοημοσύνης», λέει ο Carrasco. Τα καλύτερα εργαλεία Τεχνητής Νοημοσύνης σταμάτησαν να προσθέτουν επιπλέον δάχτυλα πριν από χρόνια και ένα μοντέλο ικανό να παράγει όλα τα άλλα στο βίντεο δεν θα έκανε αυτό το λάθος. Άλλα σημάδια αποκλείουν επίσης τα deepfakes. Σε κάποιο σημείο, ο Νετανιάχου χτυπάει το μικρόφωνο, παράγοντας έναν ήχο που διακόπτει τον ήχο της φωνής του. Ο Carrasco λέει ότι αυτό το είδος συνέχειας είναι εξαιρετικά δύσκολο να επιτευχθεί από εργαλεία Τεχνητής Νοημοσύνης.
Το βίντεο που ακολουθεί από το καφέ του Νετανιάχου είναι επίσης αληθινό, λέει ο Χάνι Φαρίντ, καθηγητής ψηφιακής εγκληματολογίας στο Πανεπιστήμιο της Καλιφόρνια στο Μπέρκλεϊ και συνιδρυτής της GetReal Security, η οποία εργάζεται για τον μετριασμό της απειλής των deepfakes μέσω τεχνητής νοημοσύνης. Η ομάδα του πραγματοποίησε ανάλυση φωνής, ανίχνευση προσώπου καρέ προς καρέ, προσεκτική επιθεώρηση φωτός και σκιών και άλλα. «Δεν υπάρχουν στοιχεία ότι αυτό δημιουργείται από τεχνητή νοημοσύνη», λέει ο Φαρίντ.
Αυτό δεν ήταν αρκετό. Ο Νετανιάχου δημοσίευσε ακόμη και ένα τρίτο βίντεο , αλλά οι σκεπτικιστές είχαν πάρει την απόφασή τους. Αλλά τώρα ας μιλήσουμε για εσένα και εμένα. Αν ο Νετανιάχου δεν μπορεί να αποδείξει ότι είναι αληθινός, μπορεί άραγε κάποιος άλλος;
«Τελείωσε»
Καθώς επεξεργαστήκαμε τις ερωτήσεις της συνέντευξης, σταμάτησα και ρώτησα τον Φαρίντ αν μπορούσα να κάνω κάτι τώρα για να του αποδείξω ότι δεν ήμουν Τεχνητή Νοημοσύνη.
Η απάντησή του ήταν απλή: Όχι.
«Υπάρχουν πράγματα που θα μπορούσα να κάνω για να διερευνήσω το σύστημα και να το κάνω λιγότερο πιθανό», λέει ο Φαρίντ. «Αν ήσουν μια ολοκληρωμένη τεχνητή νοημοσύνη, δεν θα σε άκουγα να πληκτρολογείς. Και μπορώ να δω μια σκιά στο φόντο που είναι αρκετά φυσική καθώς κινείσαι, και μια αντανάκλαση στα γυαλιά σου». Υπήρχαν και άλλα σημάδια, όπως ο τρόπος που συνέχιζα να κοιτάζω κάτω καθώς κρατούσα σημειώσεις, κάτι με το οποίο ένας deepfake δεν θα ασχολούνταν. «Αλλά στο τέλος της ημέρας, εσύ είσαι στη Νέα Υόρκη. Εγώ είμαι στο Μπέρκλεϊ της Καλιφόρνια», λέει. «Είμαστε σε βιντεοκλήση. Η πραγματικότητα είναι ότι θα μπορούσες να το προσποιείσαι».
Χωρίς να κάνει επιπλέον βήματα πριν ή μετά την κλήση μας, ο Φαρίντ λέει ότι δεν μπορώ να κάνω τίποτα για να τον κάνω 100% σίγουρο ότι ήμουν ο πραγματικός Τομ Ζερμέν. «Όχι», λέει. «Τελείωσε».
Ο Samuel Woolley, πρόεδρος των σπουδών παραπληροφόρησης στο Πανεπιστήμιο του Πίτσμπουργκ στις ΗΠΑ, ήταν εξίσου δύσκολο να πειστεί. «Θα μπορούσα να καλέσω το BBC και να ζητήσω από κάποιον να επαληθεύσει ξανά ότι με κάλεσες», αλλά αυτό θα χρειαζόταν πολύ χρόνο για να το καταλάβω όσο μιλάμε στο τηλέφωνο, λέει. «Για τον μέσο άνθρωπο, ακόμη και για ανθρώπους που είναι εξοικειωμένοι με την τεχνολογική χειραγώγηση, είναι πολύ δύσκολο να επαληθεύσουν ότι κάποιος είναι αληθινός», λέει ο Woolley. Από όσο ξέρει, είμαι απλώς ένα ακόμη ρομπότ.
Η λύση στην οποία κατέληξαν οι κορυφαίοι ειδικοί στον κόσμο είναι μια λύση που θα μπορούσαν να είχαν βρει οι παππούδες σας: κωδικές λέξεις. Εσείς, η οικογένειά σας, οι επιχειρηματικοί σας συνεργάτες και οποιοσδήποτε άλλος με τον οποίο επικοινωνείτε για σημαντικά θέματα πρέπει να σκεφτείτε μια μυστική φράση που κανείς άλλος δεν γνωρίζει ότι μπορείτε να χρησιμοποιήσετε σε περίπτωση έκτακτης ανάγκης για να επαληθεύσετε την ταυτότητά σας. Σκεφτείτε το σαν μια περίπλοκη μορφή του πολυπαραγοντικού ελέγχου ταυτότητας που χρησιμοποιούμε όλοι για να συνδεθούμε στο διαδίκτυο.
«Η γυναίκα μου κι εγώ έχουμε μια κωδική λέξη που χρησιμοποιούμε αν λάβουμε ποτέ μια ασυνήθιστη κλήση», λέει ο Φαρίντ. «Δεν χρειάστηκε να τη χρησιμοποιήσουμε ακόμα, αλλά μερικές φορές τη ρωτάω απλώς για να τη δοκιμάσω και να βεβαιωθώ ότι δεν θα την ξεχάσουμε».
Δεν πρόκειται για υποθετικό ζήτημα. Οι απάτες deepfake , οι οποίες χρησιμοποιούν τεχνητή νοημοσύνη για να πείσουν τα θύματα ότι μιλάνε με κάποιον άλλο, έχουν γίνει βασική μέθοδος για τους εγκληματίες. Σύμφωνα με την Αμερικανική Ένωση Συνταξιούχων (AARP), οι απάτες με τεχνητή νοημοσύνη αυξήθηκαν 20 φορές μεταξύ 2023 και 2025. Τα θύματα κυμαίνονται από απλούς ανθρώπους έως μεγάλες επιχειρήσεις. Η βρετανική εταιρεία μηχανικών Arup φέρεται να έχασε 25 εκατομμύρια δολάρια (18,7 εκατομμύρια λίρες) όταν οι εισβολείς χρησιμοποίησαν μια deepfake εκδοχή του οικονομικού διευθυντή της εταιρείας για να ξεγελάσουν έναν υπάλληλο.
Και το πρόβλημα μόνο μεγαλώνει.
Γη Μπιζάρο
«Τις πρώτες μέρες της Ουκρανίας, έβλεπες μερικά deepfakes, πολύ αδέξια, όχι ιδιαίτερα πειστικά», λέει, αναφερόμενος στη σύγκρουση που ακολούθησε την ολοκληρωτική εισβολή της Ρωσίας στην Ουκρανία το 2022. «Γυρίζοντας στις πρώτες μέρες της Γάζας, υπάρχει πολύ ψεύτικο περιεχόμενο. Ήταν καλύτερο, αρκετά καλό. Μέχρι να φτάσουμε στη Βενεζουέλα; Παράξενη χώρα. Είδα πολύ περισσότερο ψεύτικο περιεχόμενο παρά πραγματικό περιεχόμενο. Και το Ιράν το πήγε σε ένα εντελώς νέο επίπεδο».
Στην περίπτωση του Νετανιάχου, δεν βοήθησε το γεγονός ότι η ομάδα του χρησιμοποίησε μια φανταχτερή κάμερα και κινηματογράφησε με στενό βάθος πεδίου, που σημαίνει ένα ωραίο, ευκρινές προσκήνιο και απαλό θολό φόντο – όπως ακριβώς τείνουν να φαίνονται τα βίντεο με τεχνητή νοημοσύνη, λέει ο Καράσκο. Αλλά όταν ο Νετανιάχου δημοσίευσε το βίντεο από το καφέ του, ο κόσμος μας ήταν ήδη κορεσμένος με ψεύτικο περιεχόμενο, εγείροντας υποψίες που είναι δύσκολο να ξεπεραστούν υπό οποιεσδήποτε συνθήκες. Τα δάχτυλα του Νετανιάχου, με παραισθήσεις ή όχι, είναι απλώς το τελευταίο κύμα σε μια πλημμύρα τεχνητής νοημοσύνης που αυξάνεται εδώ και χρόνια.
Αυτό το χάος έχει ένα όνομα: οι ερευνητές το αποκαλούν «μέρισμα του ψεύτη». Είναι ακριβό να αποδείξεις ότι κάτι είναι αληθινό, αλλά η αμφιβολία είναι δωρεάν. «Οι άνθρωποι, συμπεριλαμβανομένων ατόμων σε θέσεις εξουσίας, μπορούν να υποστηρίξουν ότι το γνήσιο περιεχόμενο – γνήσιες αποδείξεις ότι κάνουν κάτι – είναι ψεύτικο», λέει ο Γούλεϊ.
Οι πολιτικοί και άλλοι μπορούν να χρησιμοποιήσουν το φάσμα της Τεχνητής Νοημοσύνης ως ασπίδα, φωνάζοντας deepfake για να απορρίψουν πραγματικά στοιχεία. Αλλά είναι ένα δίκοπο μαχαίρι, και η ίδια ατμόσφαιρα δυσπιστίας επιστρέφει για να τους δαγκώσει. «Οι ίδιοι πολιτικοί που πίεσαν για αυτή την έλλειψη μετριοπάθειας τώρα, από πολλές απόψεις, πληρώνουν τις συνέπειες», λέει ο Γούλεϊ.
Μιλώντας ξανά στο τηλέφωνο με τη θεία μου την Ελεονώρα, η πραγματικότητα διαστρεβλώθηκε. Αποδείχθηκε ότι είχε ακούσει τη συμβουλή για τις κωδικές λέξεις και μάλιστα είχε μια για τα παιδιά της και τον σύζυγό της, αλλά εγώ δεν ήμουν ενήμερη. «Έχω διαβάσει πολλές παρόμοιες ιστορίες, όπου μιλούν για φωνές που κλωνοποιούνται από βίντεο στο YouTube», είπε. «Αυτό με ανησυχεί. Είναι τρομακτικό».
Μου διάβασε μερικά αστεία που βρήκε στο Facebook για να ελέγξει αν η αντίδρασή μου ήταν αυθεντική. Γέλασα, κάτι που βοήθησε λίγο, αλλά δεν μπορούσε να είναι απόλυτα σίγουρη. Αρχίσαμε να μιλάμε για το πουλόβερ που σκόπευε να μου πλέξει, αλλά όταν είπα ότι σκεφτόμουν να προτιμήσω το μαύρο από το χρυσό χρώμα που είχαμε συζητήσει, αυτό μου φάνηκε σαν ένα ακόμη προειδοποιητικό σημάδι. «Αυτό ακούγεται πιο ρομποτικό. Περίμενα να πεις ότι ήθελες ένα άλλο χρυσό πουλόβερ». Αργότερα, της είπα την αλήθεια. Δεν χρησιμοποιούσα Τεχνητή Νοημοσύνη, ήμουν ο πραγματικός μου εαυτός. Αλλά κατά τη διάρκεια της κλήσης, όλο αυτό φάνηκε να την στενοχωρεί λίγο.
«Δεν είμαι σίγουρη», είπε καθώς κλείναμε το τηλέφωνο. «Αλλά σ’ αγαπώ, παιδί μου».