CEO Anthropic: “Οι κίνδυνοι από την γρήγορη ανάπτυξη της Τεχνητής Νοημοσύνης δεν είναι αμελητέοι”

Νέο κάλεσμα προς τον κλάδο της τεχνητής νοημοσύνης να «επιβραδύνει» τον ρυθμό ανάπτυξης απηύθυνε ο εκτελεστικός διευθυντής της εταιρείας Anthropic, Ντάριο Αμοντέι, μετά και την παραίτηση ενός μεγαλοστελέχους, που τόνισε πως η ανθρωπότητα, αν δεν αλλάξει ρότα οδεύει προς την καταστροφή της.

Ο εκτελεστικός διευθυντής της εταιρείας Τεχνητής Νοημοσύνης, σύμφωνα με το iefimerida.gr παρουσίασε μάλιστα, ένα σχέδιο τριών σημείων για την επίτευξη αυτού του στόχου. Σημείωσε ότι η εταιρεία του θα δεσμευτεί μονομερώς να εφαρμόσει το πρώτο από αυτά τα μέτρα.

Σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης, ο Ντάριο Αμοντέι κοινοποίησε έναν σύνδεσμο προς ένα δοκίμιο με τίτλο: «We Must Pace the Frontier» δηλαδή «Πρέπει να επιβραδύνουμε την πορεία προς τα όρια της τεχνητής νοημοσύνης».

Σε αυτό εξηγεί πώς η Anthropic θα παρείχε σε «ανεξάρτητους αξιολογητές μόνιμη πρόσβαση στα συστήματά της, σε επίπεδο αντίστοιχο με αυτό των εργαζομένων της ώστε να μπορούν να επαληθεύουν τη συμμόρφωσή της με τα μέτρα ασφαλείας, να αναφέρουν περιστατικά και να αξιολογούν κατά πόσο τα μοντέλα ευθυγραμμίζονται με τις επιδιωκόμενες αρχές κατά τη διάρκεια της εκπαίδευσής τους.

Η παραίτηση του Τζέικομπ Κόξον

Η κίνηση αυτή έρχεται μετά την αυστηρή προειδοποίηση πρώην ερευνητή της Anthropic, ο οποίος την Τετάρτη δήλωσε ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει στην εξαφάνιση της ανθρωπότητας έως το 2030. Ο ερευνητής Τζέικομπ Κόξον ανέφερε σε σειρά αναρτήσεων ότι παραιτήθηκε από τη θέση του επειδή η Anthropic και ο προηγούμενος εργοδότης του, η OpenAI, αγνοούσαν ή δεν αντιμετώπιζαν με τον κατάλληλο τρόπο την απειλή που συνιστά η τεχνητή νοημοσύνη.

«Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Κινούνται με ταχύτητα προς μια αυτοβελτιούμενη υπερνοημοσύνη και διακινδυνεύουν τις ζωές μας», έγραψε ο Κόξον. «Οι άνθρωποι που αναπτύσσουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας… Καμία άλλη ανθρώπινη δραστηριότητα δεν εγκυμονεί τέτοιο επίπεδο κινδύνου».

Οι προτάσεις του CEO της Anthropic

Στο δοκίμιό του ο Αμοντέι, έγραψε ότι «όταν χρησιμοποιείται με σύνεση, η τεχνητή νοημοσύνη μπορεί να αποτελέσει το πιο πρόσφατο σε μια μακρά σειρά τεχνολογικών θαυμάτων που έχουν βελτιώσει και εξυψώσει την ανθρωπότητα».

«Όμως, όπως πολλές τεχνολογίες πριν από αυτήν, η τεχνητή νοημοσύνη εγκυμονεί κινδύνους και, επειδή είναι μια τόσο ισχυρή τεχνολογία, οι κίνδυνοι αυτοί είναι σοβαροί… Ένας αγώνας προς τα κάτω, που τροφοδοτείται από εμπορικά κίνητρα, μπορεί να καταστήσει αυτούς τους κινδύνους ακόμη πιο έντονους», έγραψε.

Ο CEO της Anthropic συνέχισε λέγοντας: «Τους τελευταίους μήνες έχω πειστεί ότι η πλήρης αντιμετώπιση των κινδύνων απαιτεί ακόμη μεγαλύτερη σύνεση – όχι μόνο επενδύσεις στην πρόληψη των κινδύνων, αλλά και επιβράδυνση του ρυθμού με τον οποίο εξελίσσονται οι δυνατότητες της τεχνητής νοημοσύνης, ώστε η πρόληψη των κινδύνων να έχει τον χρόνο να συμβαδίσει».

Βελτίωση των μοντέλων ΤΝ

«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης. Η πρόοδος θα εξακολουθήσει να φαίνεται ταχύτατη και πρέπει να αξιοποιήσουμε με σύνεση τον χρόνο που κερδίζουμε», πρόσθεσε με έντονα γράμματα. Ο Αμοντέι έγραψε επίσης ότι κατά τη διάρκεια του καλοκαιριού είχε δει την τεχνητή νοημοσύνη να «εξελίσσεται δραματικά ταχύτερα», μια δυναμική που αποκαλείται αναδρομική αυτοβελτίωση (recursive self-improvement)», ανέφερε.

Και πρόσθεσε πως «αν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα και, ως εκ τούτου, πρέπει να επιδιωχθεί με μεγάλη προσοχή, εφόσον επιδιωχθεί καθόλου».