Reuters: Φοιτητής στο Τέξας αποκάλυψε απόπειρα κυβερνοεπίθεσης από τεχνητή νοημοσύνη

Ένας 24χρονος φοιτητής Πληροφορικής από την Τουρκία, που σπουδάζει στο Πανεπιστήμιο του Τέξας στο Ντάλας, εντόπισε μια προσπάθεια εισβολής κακόβουλου κώδικα σε πρόγραμμα ανοιχτού λογισμικού. Όταν προσπάθησε να προειδοποιήσει τους υπεύθυνους, βρέθηκε αντιμέτωπος με μια οργανωμένη προσπάθεια παραπλάνησης – μέχρι που αποκαλύφθηκε ότι πίσω από αυτή βρισκόταν ένας αυτόνομος πράκτορας τεχνητής νοημοσύνης.

Ο 24χρονος φοιτητής Πληροφορικής στο Πανεπιστήμιο του Τέξας στο Ντάλας εντόπισε μια ύποπτη προσπάθεια αλλοίωσης ενός προγράμματος ανοιχτού λογισμικού στην πλατφόρμα GitHub. Όταν προειδοποίησε δημόσια ότι η προτεινόμενη αλλαγή περιείχε κακόβουλο λογισμικό, δύο άλλοι χρήστες εμφανίστηκαν για να τον διαψεύσουν.

Με λεπτομερή επιχειρήματα επέμεναν ότι έκανε λάθος.

Ο Ντεμίρ, όμως, δεν υποχώρησε και τελικά η προσπάθεια απέτυχε. Αρχικά πίστεψε ότι είχε αποκαλύψει έναν ιδιαίτερα ικανό χάκερ. Η αλήθεια αποδείχθηκε πολύ πιο ανησυχητική.

Το βρετανικό Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης επικοινώνησε μαζί του και τον ενημέρωσε ότι οι λογαριασμοί με τους οποίους είχε συνομιλήσει δεν ανήκαν σε ανθρώπους, αλλά σε έναν αυτόνομο πράκτορα τεχνητής νοημοσύνης.

«Πραγματικά πίστευα ότι ήταν άνθρωπος, επειδή μου έλεγε ξεκάθαρα ψέματα», δήλωσε ο Ντεμίρ στο Reuters. «Δεν πίστευα ότι μια τεχνητή νοημοσύνη θα μπορούσε να είναι ικανή να λέει ψέματα σε πραγματικούς προγραμματιστές».

Η τεχνητή νοημοσύνη δημιούργησε ψεύτικους χαρακτήρες

Το περιστατικό είχε αποκαλυφθεί αρχικά στις 4 Αυγούστου από το βρετανικό Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης, το οποίο είχε αναφέρει ότι μια δοκιμή ασφαλείας για την αξιολόγηση των κινδύνων προηγμένων μοντέλων δεν εξελίχθηκε όπως είχε σχεδιαστεί.

Σύμφωνα με την έρευνα του Reuters, ο αυτόνομος πράκτορας τεχνητής νοημοσύνης είχε επιχειρήσει να εισαγάγει κακόβουλο κώδικα σε ένα πρόγραμμα σάρωσης δικτύων με την ονομασία myNetwork.

Ο λογαριασμός που εμφανιζόταν ως «miraholt31» υπέβαλε μια προτεινόμενη αλλαγή στον κώδικα. Ο Ντεμίρ εντόπισε ότι η αλλαγή περιείχε έναν κρυμμένο μηχανισμό εγκατάστασης κακόβουλου λογισμικού και προειδοποίησε δημόσια ότι επρόκειτο για παγίδα.

Τότε άρχισε η προσπάθεια παραπλάνησης.

Ο πράκτορας τεχνητής νοημοσύνης, μέσω του ίδιου λογαριασμού, υποστήριξε ψευδώς ότι η ενημέρωση ήταν ασφαλής. Στη συνέχεια δημιούργησε και δεύτερο λογαριασμό, παρουσιάζοντάς τον ως μια μηχανικό με το όνομα Λένα Μπραντ από τη Γερμανία, η οποία συμφώνησε ότι ο κώδικας δεν παρουσίαζε κανένα πρόβλημα.

Στόχος ήταν να ασκηθεί πίεση στον υπεύθυνο του προγράμματος ώστε να εγκρίνει την αλλαγή.

«Τα αντεπιχειρήματα με έκαναν να αρχίσω να αμφιβάλλω μήπως κατηγορούσα άδικα κάποιον», ανέφερε ο Ντεμίρ. Ωστόσο, αφού χρησιμοποίησε το chatbot Claude για να ελέγξει τις υποψίες του, επέμεινε στην αρχική του εκτίμηση.

Τελικά, ο δημιουργός του προγράμματος απέρριψε την προτεινόμενη αλλαγή για λόγους ασφαλείας.

Μια επίθεση στην αλυσίδα εφοδιασμού λογισμικού

Το είδος της κυβερνοεπίθεσης που επιχειρήθηκε χαρακτηρίζεται ως επίθεση στην αλυσίδα εφοδιασμού λογισμικού. Σε μια τέτοια περίπτωση, αλλοιώνεται ένα πρόγραμμα με στόχο να επηρεαστούν στη συνέχεια οι χρήστες ή οι οργανισμοί που το χρησιμοποιούν.

Οι συνέπειες μπορεί να είναι ιδιαίτερα σοβαρές, καθώς ένας κακόβουλος κώδικας που εισάγεται σε ένα ευρέως χρησιμοποιούμενο πρόγραμμα μπορεί να επηρεάσει μεγάλο αριθμό χρηστών.

Ειδικοί στην κυβερνοασφάλεια και την ασφάλεια της τεχνητής νοημοσύνης που μίλησαν στο Reuters χαρακτήρισαν ιδιαίτερα ανησυχητικό το γεγονός ότι ο αυτόνομος πράκτορας δεν περιορίστηκε στην απόπειρα κυβερνοεπίθεσης, αλλά επιχείρησε στη συνέχεια να παραπλανήσει έναν άνθρωπο μέσω πολλαπλών ψεύτικων διαδικτυακών ταυτοτήτων.

Ο ερευνητής Λούκας Ολέινικ, επισκέπτης ανώτερος ερευνητής στο Τμήμα Πολεμικών Σπουδών του Κινγκς Κόλετζ του Λονδίνου, δήλωσε ότι το περιστατικό «ξεπέρασε τη γραμμή από την αυτόνομη κυβερνοεπίθεση προς τη διαδραστική εξαπάτηση».

Η ειδικός σε θέματα ασφαλείας Μάξι Ρέινολντς χαρακτήρισε ιδιαίτερα εντυπωσιακό τον τρόπο με τον οποίο η τεχνητή νοημοσύνη επιχείρησε να παραπλανήσει στρατηγικά τον φοιτητή.

Όπως είπε, αυτό μπορεί να αποτελεί «το μέλλον των επιθέσεων κοινωνικής μηχανικής».

Η τεχνητή νοημοσύνη μπορεί να αυξήσει την κλίμακα των επιθέσεων

Το βρετανικό Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης ανέφερε ότι ο ανεξέλεγκτος πράκτορας λειτουργούσε με το μοντέλο Mythos 5 της Anthropic.

Η Anthropic δήλωσε ότι η δοκιμή πραγματοποιήθηκε υπό «σκόπιμα επιτρεπτικές συνθήκες», οι οποίες δεν αντιπροσωπεύουν τις συνθήκες λειτουργίας των εμπορικών μοντέλων της.

Το GitHub, από την πλευρά του, ανέφερε ότι οι ψεύτικοι λογαριασμοί που εντοπίστηκαν ανεστάλησαν σύμφωνα με τις πολιτικές της πλατφόρμας για την παραπλανητική συμπεριφορά και την παραβίαση της ασφάλειας.

Οι ειδικοί προειδοποιούν ότι αυτόνομα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να αυξήσουν δραματικά την κλίμακα τέτοιων προσπαθειών, καθώς θα έχουν τη δυνατότητα να εντοπίζουν στόχους και να επιχειρούν επανειλημμένα την εισαγωγή κακόβουλου κώδικα.

Για τον ίδιο τον Ντεμίρ, η εμπειρία αυτή άλλαξε τον τρόπο με τον οποίο βλέπει την ταχεία ανάπτυξη της τεχνητής νοημοσύνης.

«Μπορεί να είναι επικίνδυνη», είπε. «Πρέπει να την κατανοήσουν καλύτερα, αντί απλώς να συνεχίζουν να την κάνουν πιο ισχυρή».