Δασκαλάκης: Η Τεχνητή Νοημοσύνη είναι εγγενώς απρόβλεπτη- Χρειαζόμαστε πανέξυπνους πράκτορες άμυνας
✨Ο καθηγητής Κωνσταντίνος Δασκαλάκης από το MIT ανέδειξε τους κινδύνους από την ταχεία εξέλιξη και την αυτόνομη δράση των μοντέλων Τεχνητής Νοημοσύνης.
✨Η τεχνολογία των νευρωνικών δικτύων, που στηρίζει τα σύγχρονα AI μοντέλα, είναι εγγενώς απρόβλεπτη και δεν προσφέρει μαθηματικές εγγυήσεις ποιότητας.
✨Ο Δασκαλάκης τόνισε ότι δεν πείθεται πως η επιβράδυνση της ανάπτυξης της ΤΝ μπορεί να σταματήσει την πρόοδο, καθώς η τεχνολογία έχει ήδη ξεφύγει.
✨Τόνισε επίσης την ανάγκη δημιουργίας πανέξυπνων πράκτορων άμυνας, για να αντιμετωπιστούν οι πανέξυπνοι AI πράκτορες που μπορούν να εκτελέσουν επιθέσεις.
Τους κινδύνους που προκύπτουν από την ταχύτατη εξέλιξη της Τεχνητής Νοημοσύνης, αλλά και από τη δυνατότητα των σύγχρονων μοντέλων να αναλαμβάνουν αυτόνομες δράσεις, ανέδειξε ο καθηγητής του τμήματος Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών του MIT και πρώην Πρόεδρος Επιτροπής Τεχνητής Νοημοσύνης Κωνσταντίνος Δασκαλάκης.
Η «απρόβλεπτη» συμπεριφορά των μοντέλων Τεχνητής Νοημοσύνης
Όπως ανέφερε, μιλώντας στην ΕΡΤ, «η τεχνολογία των νευρωνικών δικτύων-η οποία έχει δώσει όλη την πρόοδο που έχουμε δει στην τεχνητή νοημοσύνη τα τελευταία 15 χρόνια- -είναι ιδιόμορφη. Δηλαδή όχι μόνο τα μεγάλα γλωσσικά μοντέλα τα οποία έχουν εισάγει το ευρύ κοινό στη τεχνητή νοημοσύνη, αλλά γενικότερα μοντέλα που κατανοούν το περιεχόμενο των εικόνων, μοντέλα που προβλέπουν την αναδίπλωση πρωτεϊνών, μοντέλα που γενικότερα αναλύουν και προβλέπουν τη συμπεριφορά αντικειμένων που μέχρι πρότινος οι αλγόριθμοι δεν μπορούσαν να τα καταλάβουν.
Τα καινούργια αυτά μοντέλα στηρίζονται σε μια τεχνολογία που λεγόταν νευρωνικά δίκτυα (…). Η τεχνολογία αυτή εγγενώς είναι λίγο απρόβλεπτη. Δηλαδή, είναι μια τεχνολογία που συμπεριφέρεται πολύ καλά μέχρι να μη συμπεριφέρεται καλά. Με άλλα λόγια, δεν έρχεται με μαθηματικές εγγυήσεις ποιότητας».
«Αν έχουμε πανέξυπνους AI agents που μπορούν να χακάρουν, πρέπει να φτιάξουμε και πανέξυπνους πράκτορες άμυνας»
Μεταξύ άλλων, ο καθηγητής του ΜΙΤ τόνισε «δεν με πείθει ότι αν επιβραδύνουμε την ανάπτυξη ότι κάτι θα γίνει, διότι ήδη η τεχνολογία έχει πλέον ξεφύγει ούτως ή άλλως.
Η δικιά μου οπτική είναι ότι αν έχουμε Super-intelligent AI agents, δηλαδή πανέξυπνους πράκτορες που μπορούν να χακάρουν, πρέπει να φτιάξουμε και πανέξυπνους πράκτορες που μπορούν να αμυνθούν. Στο τέλος της μέρας είναι ένα παιχνίδι ο πόλεμος. Αυτός που επιτίθεται κι αυτός που αμύνεται (…).», συνέχισε.
SiteDesign