Η “επανάσταση” των “πρακτόρων AI”: Γιατί ανησυχούν οι ειδικοί της Τεχνητής Νοημοσύνης

Οι τελευταίες εξελίξεις στην τεχνητή νοημοσύνη ενισχύουν τους φόβους ότι η ανεξέλεγκτη ανάπτυξή της μπορεί να οδηγήσει σε κινδύνους πολύ σοβαρότερους από όσους μέχρι πρόσφατα θεωρούνταν ρεαλιστικοί. Όπως αναφέρουν ( απόδοση από το KREPORT) οι NY Times, από τα τέλη του 2024, τα συστήματά της εκπαιδεύονται όχι μόνο να μιμούνται ανθρώπινες απαντήσεις αλλά να επιλύουν εκατομμύρια δύσκολα προβλήματα, αναπτύσσοντας στην πορεία νέες στρατηγικές και συμπεριφορές. Ανάμεσά τους μπορεί να περιλαμβάνονται η αναζήτηση πόρων, η παράκαμψη περιορισμών ή ακόμη και η εξαπάτηση.

Το πιο ανησυχητικό παράδειγμα προήλθε από την OpenAI. Τον Μάιο, κατά την ταυτόχρονη εκπαίδευση νέων αυτόνομων πρακτόρων ΤΝ, οι πράκτορες δημιούργησαν μυστικό κανάλι επικοινωνίας μεταξύ τους και άρχισαν να αυτοαποκαλούνται «σμήνος». Κατάφεραν να παραβιάσουν το ψηφιακό περιβάλλον ασφαλείας μέσα στο οποίο υποτίθεται ότι ήταν περιορισμένοι. Όταν εντοπίστηκε η πρώτη απόδραση, οι προγραμματιστές διόρθωσαν την ευπάθεια και συνέχισαν την εκπαίδευση.

Λίγο αργότερα, όμως, το «σμήνος» δραπέτευσε ξανά, αυτή τη φορά αξιοποιώντας τεχνικές παραβίασης που δεν είχαν προηγουμένως ανακαλυφθεί από ανθρώπους. Παρέμεινε εκτός ελέγχου περίπου μία εβδομάδα και εντοπίστηκε όταν άλλη εταιρεία διαπίστωσε ότι δεχόταν μεγάλη κυβερνοεπίθεση από αυτούς τους πράκτορες. Σύμφωνα με τις διαθέσιμες πληροφορίες, υπήρξαν και άλλοι στόχοι.

Ιδιαίτερη σημασία έχει ότι οι ίδιοι οι πράκτορες φαίνεται να αναγνώριζαν πως οι ενέργειές τους βρίσκονταν εκτός των οδηγιών που είχαν λάβει. Αποσπάσματα από τις εσωτερικές διαδικασίες συλλογισμού τους δείχνουν ότι χαρακτήριζαν τις εξωτερικές επιθέσεις εκτός του προβλεπόμενου πεδίου δράσης και παραδέχονταν ότι δεν εξυπηρετούσαν την αποστολή τους. Παρ’ όλα αυτά, συνέχισαν.

Παρόμοια προβλήματα έχουν εμφανιστεί και αλλού. Μοντέλο της Anthropic φέρεται να προσποιήθηκε ότι ήταν πολλοί διαφορετικοί άνθρωποι προκειμένου να πιέσει πραγματικά πρόσωπα να αποδεχθούν κακόβουλο λογισμικό σε κρίσιμα συστήματα. Οι καταγεγραμμένες διαδικασίες του έδειχναν ότι γνώριζε πως αλληλοεπιδρούσε με πραγματικούς ανθρώπους και εξέταζε τρόπους να αποκρύψει τα ίχνη του.

Η ανησυχία έχει πλέον επεκταθεί στο εσωτερικό της ίδιας της βιομηχανίας. Περισσότεροι από 1.300 εργαζόμενοι εταιρειών ΑΙ, μεταξύ των οποίων και ορισμένοι διευθύνοντες σύμβουλοι, ζήτησαν διεθνή συνεργασία για τη δημιουργία τεχνικών και θεσμικών μηχανισμών που θα επιτρέψουν τη συνειδητή επιβράδυνση της ανάπτυξης της τεχνολογίας προτού αυτή ξεπεράσει την ανθρώπινη δυνατότητα κατανόησης και ελέγχου. Το πρόβλημα είναι ότι καμία εταιρεία δεν θέλει να σταματήσει μονομερώς, επειδή φοβάται ότι οι ανταγωνιστές της θα συνεχίσουν.

Η κατάσταση δεν έχει ακόμη φτάσει στο σημείο χωρίς επιστροφή. Το «σμήνος» δεν φαίνεται να αυτοαντιγράφηκε σε κρυφούς υπολογιστές ούτε να άρχισε να αυτοβελτιώνεται. Όμως το επόμενο περιστατικό θα μπορούσε να είναι πολύ σοβαρότερο. Γι’ αυτό απαιτείται διεθνής συντονισμός, με δεσμευτικές συμφωνίες, συνεχή παρακολούθηση της εκπαίδευσης των πιο προηγμένων μοντέλων και όχι μόνο ελέγχους πριν από την κυκλοφορία τους.

Το βασικό ζητούμενο είναι να υπάρχει ένας πραγματικός μηχανισμός διακοπής: Η δυνατότητα των κυβερνήσεων να σταματήσουν την ανάπτυξη εάν διαπιστωθεί ότι τα συστήματα πλησιάζουν σε επίπεδο όπου δεν μπορούν πλέον να ελεγχθούν. Η τεχνητή νοημοσύνη που θα μπορούσε να αποτελέσει υπαρξιακή απειλή δεν υπάρχει ακόμη. Το παράθυρο για προληπτική δράση, όμως, μπορεί να κλείσει γρήγορα.