ΓΕΝΙΚΑ
AI και ανθρωπότητα
Πάνω από 10% η πιθανότητα υπαρξιακής απειλής μέσα στην επόμενη δεκαετία
Περισσότερο από 10% εκτιμά την πιθανότητα η τεχνητή νοημοσύνη να εξελιχθεί σε υπαρξιακή απειλή για την ανθρωπότητα μέσα στα επόμενα δέκα χρόνια ο ερευνητής ασφάλειας της Anthropic, Έβαν Χούμπινγκερ.
Η εκτίμηση, ωστόσο, δεν αφορά τα σημερινά μοντέλα τεχνητής νοημοσύνης. Η ανησυχία επικεντρώνεται σε μελλοντικά συστήματα που θα είναι πολύ ισχυρότερα, θα διαθέτουν μεγαλύτερο βαθμό αυτονομίας και ενδεχομένως θα μπορούν να βελτιώνουν με ταχύτητα τις ίδιες τους τις δυνατότητες.
Σε ανάρτησή του στο X, ο Χούμπινγκερ ανέφερε ότι η Anthropic αντιμετωπίζει σοβαρά το ενδεχόμενο η AI να μπορούσε κάποια στιγμή να αποτελέσει απειλή για την επιβίωση του ανθρώπινου είδους. Παρά τις προσπάθειες της εταιρείας να αντιμετωπίσει τους συγκεκριμένους κινδύνους, όπως σημείωσε, δεν υπάρχει ακόμη ξεκάθαρη λύση για τον έλεγχο μιας πιθανής «υπερνοημοσύνης».
Στο επίκεντρο το AI alignment
Ένα από τα βασικά ζητήματα που απασχολούν τους ερευνητές είναι το λεγόμενο AI alignment, δηλαδή η προσπάθεια να διασφαλιστεί ότι ένα προηγμένο σύστημα θα συνεχίσει να ακολουθεί τους ανθρώπινους στόχους, κανόνες και περιορισμούς, ακόμη και όταν οι ικανότητές του ξεπεράσουν κατά πολύ τις σημερινές.
Οι φόβοι αφορούν σενάρια στα οποία εξαιρετικά ισχυρά συστήματα θα μπορούσαν να αποκτήσουν πρόσβαση σε περισσότερους υπολογιστικούς και άλλους πόρους, να λειτουργούν με μεγαλύτερη ανεξαρτησία ή ακόμη και να συμμετέχουν στην ανάπτυξη των επόμενων γενεών AI.
Η αποχώρηση που άνοιξε νέα συζήτηση
Οι δηλώσεις του Χούμπινγκερ έγιναν μετά την αποχώρηση του ερευνητή Τζέικομπ Κόξον από την Anthropic. Ο Κόξον, ο οποίος είχε εργαστεί στο παρελθόν και στην OpenAI, άσκησε δημόσια κριτική στις δύο εταιρείες, υποστηρίζοντας ότι δεν αντιμετωπίζουν με την απαιτούμενη σοβαρότητα τους κινδύνους που συνοδεύουν την ανάπτυξη ολοένα ισχυρότερων μοντέλων.
Στο επίκεντρο βρίσκονται μεταξύ άλλων οι πιθανότητες χρήσης της AI για την ενίσχυση κυβερνοεπιθέσεων, την επιτάχυνση της επιστημονικής έρευνας, αλλά και την αυτοματοποίηση τμημάτων της ίδιας της διαδικασίας ανάπτυξης νέων μοντέλων.
Η Anthropic έχει αναγνωρίσει ότι παρατηρεί πρώιμες ενδείξεις επιτάχυνσης των δυνατοτήτων των μοντέλων της. Παράλληλα, όμως, διατηρεί χαμηλή την εκτίμησή της για το ενδεχόμενο ένα σύστημα να ενεργήσει αυτόνομα ενάντια στους στόχους των χειριστών του ή να προκαλέσει από μόνο του καταστροφική βλάβη.
Το μεγάλο ερώτημα πλέον είναι αν εταιρείες και κυβερνήσεις θα καταφέρουν να δημιουργήσουν επαρκείς τεχνικές και θεσμικές δικλίδες ασφαλείας, πριν οι δυνατότητες των προηγμένων συστημάτων AI ξεπεράσουν την ανθρώπινη ικανότητα ελέγχου και αξιολόγησής τους.