Τα βασικά σημεία του άρθρου
- «Νονοί» της Τεχνητής Νοημοσύνης και κορυφαία στελέχη OpenAI/Anthropic προειδοποιούν για μια «έκρηξη νοημοσύνης», όπου τα συστήματα ΤΝ θα επιταχύνουν δραματικά την ίδια τους την εξέλιξη.
- Η ανησυχία επικεντρώνεται στην «αναδρομική αυτοβελτίωση», όπου η Τεχνητή Νοημοσύνη θα βελτιώνει μόνη της την τεχνολογία της, απειλώντας τον ανθρώπινο έλεγχο και συμπιέζοντας χρόνια προόδου σε μήνες.
- Οι συντάκτες καλούν τις κυβερνήσεις να προετοιμαστούν, καθώς μια τέτοια έκρηξη νοημοσύνης ενέχει κινδύνους όπως βιολογικές/κυβερνοαπειλές, απώλεια ανθρώπινου ελέγχου και γεωπολιτική αστάθεια.
Δύο από τους αποκαλούμενους «νονούς» της σύγχρονης Τεχνητής Νοημοσύνης, μαζί με κορυφαία στελέχη της OpenAI και της Anthropic, προειδοποιούν τις κυβερνήσεις ότι πρέπει να προετοιμαστούν για το ενδεχόμενο μιας «έκρηξης νοημοσύνης», κατά την οποία τα συστήματα Τεχνητής Νοημοσύνης θα μπορούσαν να επιταχύνουν δραματικά την ίδια τους την εξέλιξη.
Σε νέα έκθεση, που συνυπογράφουν μεταξύ άλλων ο νομπελίστας Τζέφρι Χίντον και ο Καναδός επιστήμονας υπολογιστών Γιοσούα Μπέντζιο, οι ερευνητές προειδοποιούν ότι μια τέτοια εξέλιξη θα μπορούσε να αποτελέσει «την πιο σημαντική τεχνολογική εξέλιξη στην ανθρώπινη ιστορία», συμπιέζοντας πρόοδο που κανονικά θα απαιτούσε χρόνια σε διάστημα λίγων μηνών ή ακόμη λιγότερο, αναφέρει ο Guardian.
Στους περισσότερους από 20 συντάκτες της έκθεσης περιλαμβάνονται επίσης ο συνιδρυτής της Anthropic Τζακ Κλαρκ και ο επικεφαλής επιστήμονας της OpenAI Γιάκουμπ Παχότσκι.
Τεχνητή Νοημοσύνη που θα βελτιώνει μόνη της την Τεχνητή Νοημοσύνη
Στο επίκεντρο της ανησυχίας βρίσκεται η πιθανότητα τα συστήματα Τεχνητής Νοημοσύνης να αποκτήσουν την ικανότητα να βελτιώνουν τα ίδια την τεχνολογία τους χωρίς ανθρώπινη παρέμβαση, σε μια διαδικασία που είναι γνωστή ως «αναδρομική αυτοβελτίωση».
Οι συγγραφείς περιγράφουν το σενάριο ως αυτοματοποίηση της έρευνας και ανάπτυξης στην Τεχνητή Νοημοσύνη. Εάν τα συστήματα φτάσουν σε επίπεδο ειδικού στην έρευνα Τεχνητής Νοημοσύνης, μια και μόνο εταιρεία θα μπορούσε, σύμφωνα με την έκθεση, να διαθέτει το ισοδύναμο εργατικού δυναμικού «εκατομμυρίων» κορυφαίων ανθρώπινων ερευνητών.
Η αυτοματοποίηση αυτού του πεδίου θεωρείται από τους επιστήμονες η πιθανότερη αφετηρία μιας «έκρηξης νοημοσύνης», καθώς τα συστήματα ήδη συμβάλλουν στη βελτίωση της ίδιας της τεχνολογίας τους και οι νεότερες, ισχυρότερες εκδόσεις μπορούν να αναπτυχθούν πολύ γρήγορα.
«Μια έκρηξη νοημοσύνης θα μπορούσε να είναι η σημαντικότερη τεχνολογική εξέλιξη στην ανθρώπινη ιστορία, συμπιέζοντας χρόνια προόδου σε μήνες ή λιγότερο, απειλώντας τον ανθρώπινο έλεγχο των συστημάτων Τεχνητής Νοημοσύνης και διαβρώνοντας σοβαρά τους ελέγχους στην εξουσία μεταξύ κρατών, εταιρειών και κλάδων της κυβέρνησης», αναφέρει η έκθεση.
Και η προειδοποίηση είναι σαφής: «Μόλις αρχίσει μια έκρηξη νοημοσύνης, το παράθυρο για δράση μπορεί να κλείσει».
Η Anthropic λέει ότι η Τεχνητή Νοημοσύνη γράφει ήδη το 80% του κώδικά της
Οι ερευνητές επισημαίνουν ότι η συγκεκριμένη εξέλιξη δεν αποτελεί αποκλειστικά θεωρητικό σενάριο. Η Anthropic υποστηρίζει ότι η Τεχνητή Νοημοσύνη παράγει πλέον το 80% του δικού της κώδικα, ενώ η OpenAI χρησιμοποιεί αυτόνομους πράκτορες Τεχνητής Νοημοσύνης σε τομείς όπως η εκπαίδευση νέων μοντέλων.
«Τα προκαταρκτικά στοιχεία υποδεικνύουν ότι μια έκρηξη νοημοσύνης βασισμένη στο λογισμικό είναι πιθανή», αναφέρεται στην έκθεση, με τους συντάκτες να προειδοποιούν ότι κάτι τέτοιο θα μπορούσε να οδηγήσει στην εξαιρετικά γρήγορη ανάπτυξη πολύ ισχυρών ή υπεράνθρωπων συστημάτων Τεχνητής Νοημοσύνης.
Τόσο η OpenAI όσο και η Anthropic έχουν ήδη συμφωνήσει να επιτρέπουν σε ανεξάρτητους αξιολογητές να εξετάζουν τα μοντέλα τους, καθώς οι ανησυχίες γύρω από την ασφάλεια της ταχύτατης ανάπτυξης της Τεχνητής Νοημοσύνης εντείνονται.
Βιολογικές και κυβερνοαπειλές και κίνδυνος απώλειας ελέγχου
Μια τέτοια τεχνολογική έκρηξη θα μπορούσε να οδηγήσει σε σημαντικές επιστημονικές και ιατρικές ανακαλύψεις. Ωστόσο, οι συγγραφείς της έκθεσης εντοπίζουν ταυτόχρονα τρεις βασικούς κινδύνους.
Ισχυρά συστήματα θα μπορούσαν να επιτρέψουν την ανάπτυξη βιολογικών και κυβερνοαπειλών με μεγαλύτερη ταχύτητα από εκείνη με την οποία θα μπορούν να δημιουργηθούν τα απαραίτητα μέτρα προστασίας.
Παράλληλα, όσο οι άνθρωποι απομακρύνονται από την ίδια την έρευνα και ανάπτυξη της Τεχνητής Νοημοσύνης, ενδέχεται να χάσουν σταδιακά την ικανότητα να ελέγχουν τα συστήματα.
Υπάρχει επίσης γεωπολιτικός κίνδυνος. Ένα κράτος που διαθέτει ακόμη και ένα μικρό προβάδισμα σε έναν τομέα όπως ο κυβερνοχώρος θα μπορούσε, μέσω μιας «έκρηξης νοημοσύνης», να το μετατρέψει σε αποφασιστικό πλεονέκτημα.
Οι ίδιοι οι επιστήμονες αναγνωρίζουν ότι οι συνέπειες παραμένουν αβέβαιες. Μια νέα τεχνολογική ανακάλυψη, για παράδειγμα, ενδέχεται να χρειάζεται χρόνο για να εφαρμοστεί λόγω εφοδιαστικών αλυσίδων, ειδικών υλικών ή κανονισμών. Παράλληλα, η Τεχνητή Νοημοσύνη θα μπορούσε να επιταχύνει και την ανάπτυξη μέτρων αντιμετώπισης των κινδύνων.
Τι ζητούν από τις κυβερνήσεις
Οι συντάκτες της έκθεσης καλούν τις κυβερνήσεις να προετοιμαστούν ήδη από τώρα, υποστηρίζοντας ότι το ζήτημα θα πρέπει να αποτελεί επείγουσα προτεραιότητα ακόμη και στα υψηλότερα επίπεδα πολιτικής ηγεσίας.
Μεταξύ των μέτρων που προτείνουν είναι η υποχρεωτική δημοσιοποίηση της προόδου που σημειώνεται στην έρευνα Τεχνητής Νοημοσύνης, η παρουσία ανεξάρτητων ελεγκτών μέσα στις εταιρείες και η διερεύνηση τρόπων περιορισμού της ταχύτητας με την οποία ένα σύστημα μπορεί να βελτιώνεται.
Προτείνουν επίσης συνεργασία με κέντρα δεδομένων ώστε να είναι δυνατή η διακοπή συγκεκριμένων ερευνητικών προγραμμάτων, πλήρη απομόνωση των αυτοματοποιημένων συστημάτων έρευνας ώστε να μην μπορούν να ξεφύγουν από τον ανθρώπινο έλεγχο και δημιουργία σχεδίων έκτακτης ανάγκης για διαφορετικά σενάρια.
Σύμφωνα με τους ερευνητές, προγράμματα έρευνας και ανάπτυξης που σήμερα χρειάζονται μήνες ανθρώπινης εργασίας θα μπορούσαν να έχουν αυτοματοποιηθεί πλήρως από την Τεχνητή Νοημοσύνη έως το 2028.
«Τα οφέλη παραγωγικότητας από την αυτοματοποίηση της έρευνας και ανάπτυξης Τεχνητής Νοημοσύνης δεν έχουν ακόμη φτάσει στο επίπεδο που απαιτείται για να πυροδοτήσουν μια έκρηξη νοημοσύνης», αναφέρουν, προσθέτοντας όμως ότι τα νεότερα συστήματα πιθανότατα πλησιάζουν αυτό το όριο.