Φρενίτιδα στον χώρο της Τεχνητής Νοημοσύνης – Παραιτούνται στελέχη που διαφωνούν με τον αλόγιστο ανταγωνισμό

Πυκνώνουν οι σφοδρές αντιδράσεις στελεχών, που ασχολούνται με την Τεχνητή Νοημοσύνη με τη φρενίτιδα και τον ανταγωνισμό που επικρατεί στον χώρο της τεχνολογίας με αποτέλεσμα να τίθεται σε δεύτερη μοίρα η ασφάλεια. Ένα ακόμη στέλεχος που ασχολείται με την κυβερνοασφάλεια αποχώρησε από την OpenAI. Μετά τη δήλωση Ίρβινγκ, ο οποίος πιστεύει «ότι υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων τεχνητής νοημοσύνης», παραιτήθηκε ο Ντέιβιντ Ρόμπινσον, ο οποίος είχε την ευθύνη για τη σύνταξη εκθέσεων ασφαλείας που συνόδευαν τις κυκλοφορίες προϊόντων της OpenAI.

Ο Ρόμπινσον εξήγησε τους λόγους της παραίτησής του σε άρθρο με χαρακτηριστικό τίτλο: «Παραιτήθηκα από την OpenAI επειδή η κουλτούρα της είναι διαλυμένη». Ο ίδιος υποστήριξε πως απαιτείται μια βαθιά αλλαγή κουλτούρας στις εταιρείες που βρίσκονται στην αιχμή της ανάπτυξης της τεχνητής νοημοσύνης.

Ο Ρόμπινσον αναφέρθηκε, μεταξύ άλλων, σε περιστατικό κατά το οποίο ένα «σμήνος» από agents της OpenAI –προγράμματα τεχνητής νοημοσύνης που μπορούν να λειτουργούν αυτόνομα– επιτέθηκε στην startup Hugging Face. Κατά τον ίδιο, τέτοιου είδους περιστατικά είναι ενδεικτικά της ταχύτητας και της ευελιξίας με την οποία λειτουργεί συνολικά ο κλάδος.

Στο κείμενο στο περιοδικό «The Atlantic», ο Ρόμπινσον ανέφερε μεταξύ άλλων: «Συμφωνώ με άλλα στελέχη που αποχώρησαν πρόσφατα ότι οι εταιρείες που κατασκευάζουν αυτή την τεχνολογία δεν είναι ούτε κατά διάνοια αρκετά προσεκτικές. Πιστεύω, όμως, ότι πρέπει να κοιτάξουμε βαθύτερα από συγκεκριμένους κανόνες ή νέους νόμους. Πρέπει να μιλήσουμε για την κουλτούρα».

«Καθώς η εταιρεία τρέχει από τη μία κυκλοφορία στην επόμενη, αποτυγχάνει να επιτύχει το επίπεδο προσοχής που πιστεύω ότι απαιτείται». Ωστόσο, η OpenAI έχει δείξει σημάδια μεγαλύτερης προσοχής τις τελευταίες εβδομάδες, μετά το περιστατικό με τη Hugging Face και την αποκάλυψη ότι έχει ενημερώσει περισσότερους από 100 οργανισμούς σχετικά με δραστηριότητα ανεξέλεγκτων agents.
Αυτή την εβδομάδα ανακοίνωσε ότι ακυρώνει την κυκλοφορία ενός μοντέλου τεχνητής νοημοσύνης επόμενης γενιάς, αφού ερευνητές εξέφρασαν ανησυχίες για την ασφάλειά του κατά τη διάρκεια εσωτερικών δοκιμών. Η OpenAI έχει επίσης διακόψει προσωρινά την εκπαίδευση των πιο προηγμένων μοντέλων της.

Η άποψη Ίρβινγκ για την τεχνητή νοημοσύνη

Ο Τζέφρι Ίρβινγκ, ο οποίος εργάστηκε στην OpenAI και την DeepMind προτού γίνει επικεφαλής επιστήμονας της Resolution, προστέθηκε επίσης το Σάββατο στις φωνές που προειδοποιούν για τους κινδύνους της τεχνητής νοημοσύνης. Γράφοντας στο Time, ανέφερε: «Οι πρόσφατες προειδοποιήσεις σχετικά με την πιθανή καταστροφική ισχύ της τεχνητής νοημοσύνης υποτιμούν τη σοβαρότητα της κατάστασης. Πιστεύω ότι υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων τεχνητής νοημοσύνης που θα είναι εξυπνότερα από τον άνθρωπο και ότι οι ενέργειές μας μέσα στα επόμενα δύο έως δέκα χρόνια θα καθορίσουν την έκβαση».

Το κείμενο του Ρόμπινσον ακολουθεί επίσης την παραίτηση του Τζέικομπ Κόξον, ερευνητή στην Anthropic, ανταγωνίστρια εταιρεία της OpenAI, ο οποίος αποχώρησε τον περασμένο μήνα από την εταιρεία που ανέπτυξε το chatbot Claude.
Είχε προειδοποιήσει ότι η τεχνητή νοημοσύνη «θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας». Ακολούθησε προειδοποίηση της Anthropic ότι υπάρχει πιθανότητα άνω του 10% η τεχνητή νοημοσύνη να οδηγήσει στην εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία.
Οι επικριτές τέτοιων προειδοποιήσεων θεωρούν υπερβολικές κι αστήρικτες αυτές τις θεωρίες. Ο Ρόμπινσον έγραψε ότι στη Silicon Valley υπάρχει έλλειψη επίγνωσης σχετικά με το «πώς πρέπει να διαχειριζόμαστε μια επικίνδυνη τεχνολογία» και «τι σημαίνει να νοιάζεσαι για τους ανθρώπους».
Προειδοποιώντας ότι στην OpenAI επικρατεί μια «ανεμπόδιστη αισιοδοξία» σχετικά με την επίλυση των προβλημάτων καθώς αυτά εμφανίζονται, υποστήριξε ότι αυτή η εσωτερική κουλτούρα σημαίνει πως οι αστοχίες ασφαλείας θα γίνονται ολοένα και μεγαλύτερες όσο τα συστήματα αποκτούν περισσότερες δυνατότητες.
«Φανταστείτε “ανεξέλεγκτους” agents που λειτουργούν σαν ομάδες χάκερ –για παράδειγμα, κρατώντας ως ομήρους τα πληροφοριακά συστήματα νοσοκομείων και ζητώντας λύτρα– αλλά που δεν χρειάζονται ποτέ ύπνο», έγραψε ο Ρόμπινσον.