CNN: Ένα λάθος της AI παραλίγο να προκαλέσει στρατιωτική σύγκρουση ΗΠΑ-Κίνας

Μια λανθασμένη αναφορά πληροφοριών που δημιουργήθηκε με τη βοήθεια Τεχνητής Νοημοσύνης παραλίγο να οδηγήσει τις ΗΠΑ σε στρατιωτική επιχείρηση εναντίον κινεζικού πλοίου στη Μέση Ανατολή, σύμφωνα με πηγές που επικαλείται το CNN.

Η αναφορά, η οποία κυκλοφόρησε στις αμερικανικές ένοπλες δυνάμεις την άνοιξη, εν μέσω του πολέμου με το Ιράν, υποστήριζε ότι κινεζικό πλοίο μετέφερε εξαρτήματα που σχετίζονταν με πρόγραμμα πυρηνικών όπλων.

Ο αμερικανικός στρατός άρχισε να σχεδιάζει την αναχαίτιση του πλοίου, ενώ, σύμφωνα με δύο πηγές, ένοπλοι στρατιωτικοί ετοιμάζονταν να επιβιβαστούν σε αυτό και αμερικανικά αεροσκάφη είχαν ήδη απογειωθεί.

Λίγο πριν από την επιχείρηση, αξιωματούχοι εξέτασαν πιο προσεκτικά την αναφορά και διαπίστωσαν ότι είχε συνταχθεί με τη βοήθεια AI. Το chatbot που είχε χρησιμοποιήσει ο αναλυτής είχε ταυτοποιήσει λανθασμένα το φορτίο του πλοίου. Μία πηγή χαρακτήρισε την αναφορά «εντελώς ψευδή», προσθέτοντας ότι «παραλίγο να ξεκινήσει πόλεμο».

Το περιστατικό αναδεικνύει τους κινδύνους της ταχείας ενσωμάτωσης της Τεχνητής Νοημοσύνης στις στρατιωτικές και πληροφοριακές επιχειρήσεις. Στις ΗΠΑ, η AI χρησιμοποιείται ήδη για ανάλυση τεράστιου όγκου πληροφοριών, επιλογή στόχων, μετακίνηση στρατιωτικών μέσων, αλλά και για διοικητικές λειτουργίες.

Στη συγκεκριμένη περίπτωση, ο αναλυτής υπέβαλε σε chatbot πληροφορίες για το φορτίο του πλοίου, οι οποίες προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό.

Το σύστημα φέρεται να συνδύασε ανοικτές πηγές με απόρρητες πληροφορίες σημάτων και κατέληξε στο λανθασμένο συμπέρασμα. Στη συνέχεια, χρησιμοποιήθηκε ξανά AI για να διαμορφωθούν τα ευρήματα σε τυπική αναφορά πληροφοριών, η οποία διανεμήθηκε σε στρατιωτικούς αξιωματούχους.

Η αμερικανική κυβέρνηση επιδιώκει να επιταχύνει τη χρήση της Τεχνητής Νοημοσύνης στις ένοπλες δυνάμεις, θεωρώντας ότι αποτελεί κρίσιμο πλεονέκτημα σε ενδεχόμενη μελλοντική σύγκρουση με την Κίνα ή άλλον αντίπαλο.

Ωστόσο, αξιωματούχοι επισημαίνουν ότι δεν υπάρχει ενιαίο πλαίσιο ελέγχου και επαλήθευσης των αποτελεσμάτων που παράγουν διαφορετικά συστήματα AI. Ιδιαίτερη ανησυχία προκαλεί η χρήση τους στη στοχοποίηση, όπου ένα σφάλμα μπορεί να οδηγήσει σε θανάτους αμάχων, πλήγματα κατά φίλιων δυνάμεων ή ακόμη και σε ευρύτερη στρατιωτική κλιμάκωση.