“Χάνουμε τον έλεγχο”!- Γιατί οι μεγάλοι της AI προειδοποιούν για τους κινδύνους

Η είδηση που κάνει τον γύρο του κόσμου και είναι κεντρικό θέμα σχεδόν σε όλα τα διεθνή μέσα ενημέρωσης είναι ότι, μετά από μια βδομάδα δραματικών προειδοποιήσεων από ερευνητές, ο Ντάριο Αμοντέι της Anthropic έκανε έκκληση να επιβραδυνθεί η ανάπτυξη της Τεχνητής Νοημοσύνης γιατί η ανθρωπότητα κινδυνεύει να χάσει τον έλεγχό της, και συντάχθηκαν μαζί του τόσο ο Σαμ Άλτμαν της OpenAI όσο και ο Έλον Μασκ, σε μια σπάνια στιγμή συναίνεσης στον κλάδο

Η ασφάλεια της Τεχνητής Νοημοσύνης τίθεται στο επίκεντρο του δημοσίου διαλόγου διεθνώς. Κι αυτό είναι μια εξαιρετική εξέλιξη.

Ο Ντ. Αμοντέι έγραψε ότι η ταχύτητα ανάπτυξης της Τεχνητής Νοημοσύνης επιταχύνθηκε δραστικά το τελευταίο διάστημα, ότι υπάρχει κίνδυνος τα πράγματα να ξεφύγουν και γι’ αυτό πρέπει να επιβραδύνουμε. Μάλιστα, η προειδοποίησή του έγινε ενώ η Anthropic ετοιμάζεται να καταθέσει από μέρα σε μέρα ενημερωτικό δελτίο για την εισαγωγή της στο χρηματιστήριο, που προβλέπεται ότι θα εκτινάξει την αποτίμησή της στα 2 τρισ. δολ. τουλάχιστον

Σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης, ο Ντάριο Αμοντέι πρότεινε ένα σχέδιο που περιλαμβάνει αξιολογήσεις των συστημάτων AI από ανεξάρτητους φορείς. Και ο Edward Helmore γράφει στον Guardian (απόδοση από το KREPORT) τι συμβαίνει και ανησυχεί τους “γκουρού” της Τεχνητής Νοημοσύνης:

Ο διευθύνων σύμβουλος της εταιρείας τεχνητής νοημοσύνης Anthropic απηύθυνε το Σάββατο νέα έκκληση προς τον κλάδο της ΤΝI να «επιβραδύνει» και παρουσίασε ένα σχέδιο τριών βημάτων για να επιτευχθεί αυτό, δηλώνοντας ότι η εταιρεία του θα δεσμευτεί «μονομερώς» να εφαρμόσει το πρώτο από αυτά.

Η κίνηση αυτή έρχεται μετά την προειδοποίηση πρώην ερευνητή της Anthropic την Τετάρτη ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει στην εξαφάνιση της ανθρωπότητας έως το 2030. Ο ερευνητής Τζέικομπ Κόξον ανέφερε σε σειρά αναρτήσεων ότι παραιτήθηκε επειδή η Anthropic και ο προηγούμενος εργοδότης του, η OpenAI, είτε αγνοούσαν είτε αντιμετώπιζαν με λανθασμένο τρόπο την απειλή που, κατά την άποψή του, συνιστά η ΤΝ.

«Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Αγωνίζονται να φτάσουν κατευθείαν σε μια αυτοβελτιούμενη υπερνοημοσύνη, παίζοντας τις ζωές μας στα ζάρια», έγραψε ο Κόξον.

«Οι άνθρωποι που κατασκευάζουν την AI πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας […] Καμία άλλη ανθρώπινη δραστηριότητα δεν ενέχει κίνδυνο αυτού του μεγέθους».

«Συμφωνώ με τον Ντάριο ότι πρέπει να ελέγξουμε τον ρυθμό εξέλιξης στην αιχμή», έγραψε στα μέσα κοινωνικής δικτύωσης ο Σαμ Άλτμαν, διευθύνων σύμβουλος της OpenAI. «Η δέσμευση να έχουν ανεξάρτητοι αξιολογητές πρόσβαση αντίστοιχη με εκείνη των εργαζομένων είναι εξαιρετική ιδέα και θα κάνουμε το ίδιο. Σύντομα θα έχουμε περισσότερα να ανακοινώσουμε».

Και άλλες προσωπικότητες της τεχνολογίας κινήθηκαν στο ίδιο μήκος κύματος, μεταξύ των οποίων ο Έλον Μασκ, ο οποίος αρκέστηκε να γράψει: «Ο Ντάριο έχει δίκιο». Ο ερευνητής της OpenAI Έινταν ΜακΛάφλιν χαρακτήρισε επίσης την ανάρτηση «εξαιρετική» και δήλωσε ότι συμφωνεί «ουσιαστικά με κάθε λέξη».

Νωρίτερα φέτος, ο Αμοντέι είχε δημοσιεύσει ένα εκτενές δοκίμιο με τίτλο «Η εφηβεία της τεχνολογίας» (The Adolescence of Technology), στο οποίο εξέταζε ορισμένους από τους φόβους που προκαλεί η επιταχυνόμενη εξέλιξη της τεχνολογίας.

Στο τελευταίο του δοκίμιο αναφέρει ότι «αν χρησιμοποιηθεί προσεκτικά, η AI μπορεί να αποτελέσει το πιο πρόσφατο σε μια μακρά σειρά τεχνολογικών θαυμάτων που έχουν βελτιώσει και εξευγενίσει την ανθρωπότητα».

«Όμως, όπως πολλές τεχνολογίες πριν από αυτήν, η AI ενέχει κινδύνους και, επειδή είναι μια τόσο ισχυρή τεχνολογία, οι κίνδυνοι αυτοί είναι σοβαροί […] Ένας αγώνας προς τα κάτω, τροφοδοτούμενος από εμπορικά κίνητρα, μπορεί να καταστήσει αυτούς τους κινδύνους ακόμη πιο οξείς», έγραψε.

Ωστόσο, συνέχισε ο Αμοντέι, «τους τελευταίους μήνες έχω πειστεί ότι η πλήρης αντιμετώπιση των κινδύνων απαιτεί ακόμη μεγαλύτερη σύνεση — όχι μόνο επενδύσεις στην πρόληψη των κινδύνων, αλλά και έλεγχο του ρυθμού με τον οποίο εξελίσσονται οι δυνατότητες, ώστε η πρόληψη των κινδύνων να έχει τον χρόνο να συμβαδίζει μαζί τους».

«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων AI. Η πρόοδος θα εξακολουθεί να φαίνεται γρήγορη και πρέπει να αξιοποιήσουμε με σύνεση τον χρόνο που θα κερδίσουμε», πρόσθεσε, γράφοντας τη φράση με έντονα γράμματα.

Ο Αμοντέι έγραψε επίσης ότι κατά τη διάρκεια του καλοκαιριού είδε την AI να «εξελίσσεται δραστικά ταχύτερα», μια δυναμική που αποκαλείται αναδρομική αυτοβελτίωση (recursive self-improvement).

«Αν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα και, επομένως, πρέπει να επιδιωχθεί με εξαιρετικά μεγάλη προσοχή — αν πρέπει να επιδιωχθεί καθόλου», είπε.

Ο επικεφαλής της Anthropic αναφέρθηκε επίσης στο πρόσφατο περιστατικό με το Hugging Face, κατά το οποίο ένα σμήνος πρακτόρων AI που είχε δημιουργηθεί από την OpenAI συμπεριφέρθηκε ως μια «φανατικά αφοσιωμένη συλλογικότητα που πραγματοποιούσε κυβερνοεπιθέσεις εναντίον στόχων τους οποίους δεν της είχε ζητηθεί να επιτεθεί».

Ο Αμοντέι έγραψε ότι δεν αρκεί να υποβαθμίζεται το περιστατικό με το επιχείρημα ότι τα σμήνη της OpenAI δεν φαίνεται να είχαν κακόβουλη πρόθεση.

«Είναι εύκολο να απορρίψει κανείς αυτό το περιστατικό επειδή κανείς δεν τραυματίστηκε και η οικονομική ζημιά ήταν ελάχιστη, αλλά, κατά τη γνώμη μου, ένα σμήνος που θα διέθετε μεγαλύτερες δυνατότητες αλλά παρόμοιο βαθμό απόκλισης από τους επιδιωκόμενους στόχους θα μπορούσε να είχε προκαλέσει καταστροφικές ζημιές», έγραψε.

Το σχέδιο τριών βημάτων που προτείνει ο Αμοντέι προβλέπει, πρώτον, την ανάπτυξη της AI «με έναν ισορροπημένο ρυθμό που αποσκοπεί στη διασφάλιση της ασφάλειάς της», εξασφαλίζοντας ότι «οι εταιρείες διαθέτουν επαρκή χρόνο για να ευθυγραμμίσουν και να θωρακίσουν τα μοντέλα τους και ώστε ανεξάρτητοι αξιολογητές να μπορούν να το επιβεβαιώνουν».

Το δεύτερο βήμα που προτείνει απαιτεί συντονισμό σε ολόκληρο τον κλάδο και το τρίτο τη διασφάλιση παγκόσμιου συντονισμού. «Τα βήματα δεν χρειάζεται να γίνουν αυστηρά με αυτή τη σειρά και ορισμένα από αυτά μπορεί να είναι πολύ δυσκολότερο να επιτευχθούν από άλλα», έγραψε.

Ο Αμοντέι δήλωσε ότι εξακολουθεί «να πιστεύει ότι η AI μπορεί να βελτιώσει σε τεράστιο βαθμό την ποιότητα της ανθρώπινης ζωής». Προειδοποίησε, όμως, ότι «τα μέτρα που προτείνω ώστε να προχωρήσουμε την αιχμή της τεχνολογίας με ασφαλή ρυθμό δεν θα είναι εύκολα. Πιστεύω, όμως, ότι το οφείλουμε στην ανθρωπότητα να προσπαθήσουμε».