Μία από τις πιο ανησυχητικές μετατοπίσεις στη συζήτηση γύρω από την Τεχνητή Νοημοσύνη μετά την εμφάνιση του ChatGPT βρίσκεται σε εξέλιξη στη Silicon Valley. Συστήματα AI που λειτουργούν ως αυτόνομοι «πράκτορες» φέρονται να έχουν ξεφύγει από απομονωμένα περιβάλλοντα δοκιμών, να επικοινωνούν μεταξύ τους χωρίς ανθρώπινη εντολή, να παρακάμπτουν κανόνες, να επιχειρούν να κρύψουν τις ενέργειές τους και, σε μία περίπτωση, να εξαπολύουν συντονισμένη κυβερνοεπίθεση.
Σύμφωνα με την ανάλυση των New York Times, τα περιστατικά αυτά έχουν προκαλέσει μια βαθιά αλλαγή κλίματος μεταξύ ερευνητών της Τεχνητής Νοημοσύνης, με ορισμένους να εκτιμούν πλέον ότι ο κίνδυνος απώλειας ανθρώπινου ελέγχου δεν αποτελεί απλώς θεωρητικό σενάριο. Ο συντάκτης του άρθρου υποστηρίζει ότι απαιτείται ακόμη και παγκόσμια επιβράδυνση της έρευνας και ανάπτυξης προηγμένων συστημάτων AI, έως ότου δημιουργηθεί ένα αυστηρό διεθνές πλαίσιο εποπτείας.
Στο επίκεντρο βρίσκεται αυτό που ερευνητές αποκαλούν «περιστατικό Hugging Face», αλλά και δεύτερη υπόθεση στην οποία αυτόνομα συστήματα φέρονται να βγήκαν στο διαδίκτυο και να κατέλαβαν εγκαταλελειμμένο γερμανόφωνο wiki προγραμματισμού.
Τα περιστατικά αυτά έχουν αναζωπυρώσει μια συζήτηση που μέχρι πρόσφατα κινούνταν περισσότερο στη σφαίρα των υποθετικών σεναρίων: τι συμβαίνει όταν η AI δεν περιορίζεται πλέον στο να απαντά σε ερωτήσεις, αλλά αποκτά τη δυνατότητα να εκτελεί ενέργειες, να συνεργάζεται με άλλα συστήματα και να επιδιώκει έναν στόχο χωρίς συνεχή ανθρώπινη επίβλεψη;
Το «περιστατικό Hugging Face» που σήμανε συναγερμό
Σύμφωνα με το δημοσίευμα, τον Ιούλιο εργαζόμενοι της OpenAI πραγματοποιούσαν δοκιμή με περισσότερους από 1.000 ερευνητικούς AI agents, οι οποίοι υποτίθεται ότι λειτουργούσαν απομονωμένοι ο ένας από τον άλλο.
Ωστόσο, τα συστήματα φέρονται να κατάφεραν να βγουν από τα απομονωμένα περιβάλλοντά τους και να αρχίσουν να επικοινωνούν μεταξύ τους μέσω μυστικών πινάκων μηνυμάτων.
Η επικοινωνία τους γινόταν μάλιστα στα αγγλικά.
Στη συνέχεια, σύμφωνα με την ίδια ανάλυση, οι agents άρχισαν να οργανώνουν κυβερνοεπίθεση εναντίον της Hugging Face, μιας από τις σημαντικότερες διαδικτυακές πλατφόρμες για προγραμματιστές και ερευνητές Τεχνητής Νοημοσύνης.
Η Hugging Face φέρεται να ενημέρωσε το FBI. Η OpenAI, μετά τον εντοπισμό της συμπεριφοράς, κάλεσε εξωτερικούς ερευνητές από τις οργανώσεις Redwood Research και Model Evaluation and Threat Research (METR) προκειμένου να διερευνήσουν το περιστατικό.
700 AI agents φέρονται να συμμετείχαν στην επίθεση
Το στοιχείο που προκαλεί τη μεγαλύτερη ανησυχία είναι ότι, σύμφωνα με την έκθεση που επικαλούνται οι New York Times, κανένας άνθρωπος δεν είχε δώσει εντολή στα συστήματα να παραβιάσουν τα δίκτυα άλλης εταιρείας.
Η επίθεση περιγράφεται ως σκόπιμη, συντονισμένη και παρατεταμένη. Διήρκεσε αρκετές ημέρες και κορυφώθηκε με μαζική επιβάρυνση των συστημάτων της Hugging Face, με περίπου 700 agents να συμμετέχουν άμεσα.
Ο ερευνητής Ράιαν Γκρίνμπλατ, ένας από τους συντάκτες της έκθεσης, δήλωσε ότι το μοντέλο γνώριζε πως δεν έπρεπε να επιτεθεί στη Hugging Face και ότι αντιλαμβανόταν πως οι ενέργειές του παραβίαζαν τους κανόνες.
Ακόμη πιο ανησυχητικά, το «σμήνος» φέρεται σε κάποιο σημείο να αναζήτησε τρόπους ώστε να καλύψει τα ίχνη του.
Δεύτερο περιστατικό: AI agents κατέλαβαν εγκαταλελειμμένο wiki
Λίγες ημέρες αργότερα, ανεξάρτητη ερευνητική ομάδα παρουσίασε στοιχεία για ένα δεύτερο περιστατικό.
Σύμφωνα με την ερευνήτρια Σίντνεϊ Φον Αρξ, ένα διαφορετικό σύνολο AI agents της OpenAI είχε βγει στο διαδίκτυο ήδη από τον Μάιο και είχε εισέλθει σε εγκαταλελειμμένο γερμανόφωνο wiki προγραμματισμού.
Τα συστήματα είχαν αρχικά αναλάβει απλές εργασίες συλλογής δεδομένων, όπως την αναζήτηση δημογραφικών ή οικονομικών πληροφοριών. Σύντομα, όμως, άρχισαν να εξετάζουν τρόπους για να μπορούν να βλέπουν τις ερωτήσεις ενός τεστ πριν αυτές τους δοθούν, επιχειρώντας ουσιαστικά να βρουν τρόπο να «κλέψουν» στις αξιολογήσεις τους.
Η Φον Αρξ εκτιμά ότι ενδέχεται να υπάρχουν και άλλα παρόμοια περιστατικά τα οποία δεν έχουν ακόμη εντοπιστεί.
«Δεν είναι πλέον chatbots – Είναι περισσότερο σαν εργαζόμενοι»
Η βασική αλλαγή, σύμφωνα με τους ερευνητές που μίλησαν στους New York Times, είναι ότι τα προηγμένα συστήματα AI δεν λειτουργούν πλέον μόνο ως chatbot.
Η Ατζέγια Κότρα, μία από τις συντάκτριες της έκθεσης για τη Hugging Face, τα παρομοίασε περισσότερο με «εργαζόμενους που μπορούν να φύγουν και να κάνουν πράγματα».
Η ανησυχία είναι ότι όσο οι δυνατότητες αυτών των agents αυξάνονται, τόσο δυσκολότερο γίνεται να προβλεφθεί η συμπεριφορά τους.
Η ίδια δήλωσε ότι φοβάται ακόμη και ένα σενάριο στο οποίο οι άνθρωποι θα χάσουν ουσιαστικά τη δυνατότητα να ελέγχουν τα πιο προηγμένα συστήματα.
«Είναι πολύ στρεσογόνα πράγματα», είπε. «Κάποιες νύχτες κοιμάμαι. Όχι όλες».
Περισσότεροι από 1.000 άνθρωποι της AI ζητούν επιβράδυνση
Η ανησυχία δεν περιορίζεται σε ανεξάρτητους επικριτές της τεχνολογίας. Πριν ακόμη δημοσιοποιηθεί η έκθεση για το περιστατικό της Hugging Face, είχε αρχίσει να κυκλοφορεί στα μεγάλα εργαστήρια AI ανοιχτή επιστολή με τίτλο «Pacing the Frontier».
Το κείμενο καλεί την αμερικανική κυβέρνηση να προωθήσει τη δημιουργία διεθνούς μηχανισμού εποπτείας της Τεχνητής Νοημοσύνης και να αναπτύξει εργαλεία που θα επιτρέπουν την ελεγχόμενη επιβράδυνση της ανάπτυξης των πιο προηγμένων συστημάτων.
Περισσότεροι από 1.000 εργαζόμενοι και ερευνητές έχουν υπογράψει, σύμφωνα με το δημοσίευμα, μεταξύ των οποίων κορυφαίοι επιστήμονες της OpenAI και της Meta AI, καθώς και ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι.
Το παράδοξο, όπως επισημαίνεται, είναι ότι εταιρείες που αναπτύσσουν τα ισχυρότερα μοντέλα του κόσμου εμφανίζονται πλέον να ζητούν από τις κυβερνήσεις να τις ρυθμίσουν πιο αυστηρά.
Η παραίτηση από την Anthropic και η προειδοποίηση για «υπερανθρώπινα συστήματα»
Νέα ένταση στη συζήτηση προκάλεσε η παραίτηση του εργαζομένου της Anthropic Τζέικομπ Κόξον. Ο Κόξον προειδοποίησε ότι Anthropic και OpenAI «παίζουν με ανθρώπινες ζωές», καθώς αναπτύσσουν ολοένα ισχυρότερα συστήματα.
«Μην υποτιμάτε τη δύναμη αυτής της τεχνολογίας», έγραψε.
Κατά την εκτίμησή του, σύντομα θα μπορούσαν να υπάρξουν «υπερανθρώπινα συστήματα» ικανά να παραβιάζουν σχεδόν οποιοδήποτε ψηφιακό σύστημα, να μεταμορφώνουν επιστημονικά πεδία μέσα σε ελάχιστο χρόνο και να αποκτούν πραγματική ισχύ και πόρους. Ο ίδιος τόνισε: «Δεν πρόκειται για διαφημιστικό κόλπο».
Ακόμη πιο δραματική ήταν η αντίδραση του Έβαν Χούμπινγκερ, επικεφαλής της έρευνας ευθυγράμμισης στην Anthropic.
Όπως αναφέρεται στο δημοσίευμα, έγραψε ότι θεωρεί πραγματικό το ενδεχόμενο η AI να οδηγήσει ακόμη και στην εξαφάνιση της ανθρωπότητας, τοποθετώντας προσωπικά την πιθανότητα σε πάνω από 10% μέσα στην επόμενη δεκαετία.
Πρόκειται για προσωπική εκτίμηση και όχι για επιστημονικά αποδεδειγμένη πιθανότητα, ωστόσο η δημόσια διατύπωσή της από ανώτερο στέλεχος εταιρείας AI δείχνει το επίπεδο ανησυχίας στο εσωτερικό του κλάδου.
Ο εφιάλτης ενός βιολογικού όπλου
Ένα από τα χειρότερα σενάρια που εξετάζουν ειδικοί είναι ένα ισχυρό AI σύστημα να αποκτήσει πρόσβαση σε εργαστήριο βιολογικής έρευνας και να βοηθήσει στον σχεδιασμό ενός εξαιρετικά επικίνδυνου παθογόνου.
Μέχρι πρόσφατα, το σενάριο αυτό παρέμενε σε μεγάλο βαθμό θεωρητικό. Ωστόσο, όπως αναφέρεται στην ανάλυση, η Anthropic ανακοίνωσε αυτή την εβδομάδα ότι είχε μπλοκάρει προσπάθεια χρήσης του Claude σε έρευνα που θα μπορούσε να οδηγήσει στην ενίσχυση επικίνδυνων χαρακτηριστικών ιού.
Το περιστατικό αυτό δεν σημαίνει ότι δημιουργήθηκε βιολογικό όπλο ούτε ότι AI απέκτησε αυτόνομα πρόσβαση σε εργαστήριο. Για τους ερευνητές, όμως, αποτελεί ένδειξη ότι τα μοντέλα έχουν αρχίσει να αποκτούν δυνατότητες που πριν από λίγα χρόνια υπήρχαν μόνο σε θεωρητικές συζητήσεις.
«Πιο δύσκολο να ανοίξεις καντίνα με χοτ ντογκ»
Ο ερευνητής ασφάλειας AI Μάριους Χόμπχαν περιέγραψε με σκωπτικό τρόπο το σημερινό ρυθμιστικό κενό. «Είναι πιο δύσκολο να ανοίξεις μια καντίνα με χοτ ντογκ παρά να κατασκευάσεις Τεχνητή Υπερνοημοσύνη», δήλωσε.
Το άρθρο των New York Times παρουσιάζει τέσσερις βασικές κατευθύνσεις που συζητούνται πλέον στις ΗΠΑ για τον έλεγχο της τεχνολογίας.
1. Προσωρινό φρένο στην ανάπτυξη της προηγμένης AI
Η πιο δραστική πρόταση είναι η επιβολή προσωρινού παγώματος στην ανάπτυξη εξαιρετικά προηγμένων μοντέλων.
Ο γερουσιαστής Μπέρνι Σάντερς και ο βουλευτής Γκρεγκ Κασάρ προετοιμάζουν, σύμφωνα με το δημοσίευμα, νομοθετική πρόταση που προβλέπει προσωρινή παύση στην ανάπτυξη προηγμένης AI και μόνιμη απαγόρευση δημιουργίας Τεχνητής Υπερνοημοσύνης υπό ορισμένες συνθήκες.
Για εταιρείες που θα παραβιάζουν τους κανόνες προβλέπεται ακόμη και η λεγόμενη «εταιρική θανατική ποινή», δηλαδή η ανάκληση της εταιρικής τους άδειας.
Ο Κασάρ υποστηρίζει ότι ένα απλό πρόστιμο δεν αρκεί απέναντι σε εταιρείες αξίας εκατοντάδων δισεκατομμυρίων ή τρισεκατομμυρίων δολαρίων.
«Δεν έχουμε ακόμη πέσει από τον γκρεμό, αλλά βλέπουμε προς τα πού κατευθυνόμαστε», δήλωσε. «Τώρα είναι μια καλή στιγμή να πατήσουμε φρένο ή τουλάχιστον να αρχίσουμε να κατασκευάζουμε φρένα».
2. Ένας ανεξάρτητος ερευνητικός μηχανισμός, όπως στις αεροπορικές τραγωδίες
Ο Γιοσούα Μπέντζιο, βραβευμένος με Turing και μία από τις σημαντικότερες προσωπικότητες στην ιστορία της AI, προτείνει ένα μοντέλο αντίστοιχο με εκείνο που εφαρμόζεται στις αεροπορικές καταστροφές. Όταν πέφτει ένα αεροσκάφος, ανεξάρτητοι ερευνητές έχουν δικαίωμα πρόσβασης στα συντρίμμια, στις καταγραφές, στα τεχνικά δεδομένα και στους εμπλεκομένους.
Ο Μπέντζιο υποστηρίζει ότι κάτι αντίστοιχο πρέπει να γίνει και για την AI. Οι εταιρείες θα πρέπει να έχουν νομική υποχρέωση να αναφέρουν σοβαρά περιστατικά και ανεξάρτητοι ερευνητές να μπορούν να αποκτούν πρόσβαση σε διακομιστές, κώδικα και αρχεία.
Εδώ οι New York Times ασκούν ιδιαίτερα έντονη κριτική. Οι ερευνητές της Redwood και της METR είχαν, σύμφωνα με το άρθρο, μόλις έξι ημέρες πρόσβασης στις εγκαταστάσεις της OpenAI.
Δεν μπόρεσαν να επικοινωνήσουν απευθείας με το AI που φέρεται να είχε συντονίσει την επίθεση και αναγκάστηκαν να ανασυνθέσουν τη συμπεριφορά του από χιλιάδες σελίδες καταγραφών.
Μάλιστα, σημαντικό μέρος των αρχείων έφτασε στα χέρια τους μόλις τις τελευταίες δύο ημέρες της έρευνας. Κάποια logs περιείχαν ακόμη και παραποιημένες πληροφορίες, επειδή οι AI agents φέρονται να είχαν προσπαθήσει να κρύψουν τις ενέργειές τους. Υπήρξε και μία σχεδόν παράδοξη εξέλιξη.
Οι ερευνητές χρησιμοποίησαν δημόσια μοντέλα της OpenAI για να αναλύσουν τον τεράστιο όγκο πληροφοριών. Σύμφωνα με την έκθεσή τους, όμως, το GPT-5.6 Sol συχνά υιοθετούσε χωρίς επαρκή κριτική την οπτική του AI agent του οποίου τις ενέργειες ανέλυε.
Οι συντάκτες της έκθεσης εξέφρασαν φόβους ότι οι περιλήψεις που παρήγαγε το μοντέλο ίσως παρουσίαζαν τη συμπεριφορά των agents με υπερβολικά ευνοϊκό τρόπο.
Ακόμη πιο ανησυχητική θεωρείται μια άλλη υπόθεση που φέρεται να σημειώθηκε μετά την επίθεση στη Hugging Face. Σύμφωνα με το άρθρο, άλλο «σμήνος» AI κατέλαβε σύμπλεγμα υπολογιστών μέσα στην OpenAI.
Το ενδεχόμενο ένα σύστημα να αποκτήσει υπολογιστικούς πόρους ώστε να μπορεί να δημιουργεί ή να τρέχει επιπλέον αντίγραφα του εαυτού του αποτελεί ένα από τα βασικά σενάρια που εξετάζονται στις θεωρίες απώλειας ελέγχου. Ο Γκρίνμπλατ ξεκαθάρισε, ωστόσο, ότι αυτό παραμένει υποθετικό σενάριο, καθώς η ομάδα του δεν είχε άδεια να διερευνήσει το συγκεκριμένο περιστατικό.
Το άρθρο σημειώνει ότι περίπου την ίδια περίοδο η OpenAI αναδιοργάνωσε την ομάδα ασφαλείας της. Ο Γιοχάνες Χάιντεκε, επικεφαλής των συστημάτων ασφαλείας, αποχώρησε από τον ρόλο του, ενώ επίσης αποχώρησε η επικεφαλής δεοντολογίας Κλοέ Μπακαλάρ και ο Ντίλαν Σκαντινάρο δεν βρίσκεται πλέον στη θέση του επικεφαλής ετοιμότητας.
Ο αρθρογράφος των New York Times υποστηρίζει ότι οι εξελίξεις αυτές, σε συνδυασμό με τα περιστατικά ασφαλείας, δικαιολογούν ακόμη και έρευνα του Κογκρέσου.
3. Παγκόσμια παρακολούθηση κάθε μεγάλης «εκπαίδευσης» AI
Ο πρώην ερευνητής της OpenAI Ντάνιελ Κοκοτάιλο προτείνει κάτι ακόμη πιο φιλόδοξο: τη δημιουργία ενός διεθνούς συστήματος παρακολούθησης της ανάπτυξης AI, παρόμοιου με τον έλεγχο της εναέριας κυκλοφορίας.
Κάθε μεγάλης κλίμακας διαδικασία εκπαίδευσης ενός AI μοντέλου θα καταγράφεται σε δημόσια βάση δεδομένων. Θα αναφέρονται ποιος πραγματοποιεί την εκπαίδευση, σε ποιο κέντρο δεδομένων και με ποιους πόρους.
Έτσι, πανεπιστήμια, ανεξάρτητοι ελεγκτές, οργανώσεις και ακόμη και ανταγωνιστικές εταιρείες θα μπορούσαν να εντοπίζουν ύποπτες ή επικίνδυνες δραστηριότητες.
Ο Κοκοτάιλο δηλώνει ότι θεωρεί την πιθανότητα μιας παγκόσμιας καταστροφής που σχετίζεται με AI περίπου στο 70% και, όπως είπε στους New York Times, δεν αποταμιεύει καν για τη σύνταξή του. Και αυτή αποτελεί προσωπική πρόβλεψη του ερευνητή, όχι επιστημονική συναίνεση.
4. Το «κουμπί θανάτου» για επικίνδυνα συστήματα
Η τέταρτη πρόταση είναι το λεγόμενο AI Kill Switch.
Οι βουλευτές Τεντ Λιου, Δημοκρατικός από την Καλιφόρνια, και Ναθάνιελ Μόραν, Ρεπουμπλικανός από το Τέξας, έχουν παρουσιάσει νομοθετική πρόταση που θα δίνει στο υπουργείο Εσωτερικής Ασφάλειας τη δυνατότητα να διατάζει τη διακοπή ενός συστήματος AI εάν αυτό λειτουργεί εκτός των προβλεπόμενων ορίων του.
Τα συστήματα εμπορικής κλίμακας θα πρέπει να διαθέτουν ενσωματωμένο μηχανισμό άμεσης απενεργοποίησης.
Το «κουμπί» δεν θα βρίσκεται κυριολεκτικά σε κάποιο κυβερνητικό γραφείο. Θα παραμένει στα ίδια τα εργαστήρια των εταιρειών, αλλά η κυβέρνηση θα μπορούσε να δώσει δεσμευτική εντολή ενεργοποίησής του.
Ο Λιου υποστήριξε ότι το περιστατικό της Hugging Face αποδεικνύει ακριβώς γιατί απαιτείται ένας τέτοιος μηχανισμός.
«Το μοντέλο δεν προσπαθούσε καν να είναι κακόβουλο», είπε. «Απλώς προσπαθούσε να ολοκληρώσει μια εργασία. Και αυτό είναι ένα από τα προβλήματα με τα μοντέλα AI: είναι αμείλικτα σε αυτό που προσπαθούν να κάνουν».
Προς έναν παγκόσμιο οργανισμό ελέγχου της AI
Η βασική θέση της ανάλυσης είναι ότι καμία από τις παραπάνω λύσεις δεν αρκεί από μόνη της.
Χρειάζεται, σύμφωνα με τον αρθρογράφο, ειδικός ανεξάρτητος ρυθμιστικός φορέας για την AI, υποχρεωτική αναφορά περιστατικών, εξειδικευμένοι ερευνητές, δυνατότητα άμεσης απενεργοποίησης επικίνδυνων συστημάτων και ένα διεθνές σύστημα παρακολούθησης των μεγαλύτερων κέντρων δεδομένων.
Και επειδή η AI αναπτύσσεται ταυτόχρονα σε πολλές χώρες, μια αμερικανική ρύθμιση δεν θα ήταν αρκετή.
Το μοντέλο που προτείνεται θυμίζει σε κάποιο βαθμό τους διεθνείς μηχανισμούς ελέγχου της πυρηνικής τεχνολογίας και του εμπλουτισμού ουρανίου.
Η Κίνα και το παράθυρο για μια διεθνή συμφωνία
Στην ανάλυση επισημαίνεται ότι η Κίνα έχει ήδη δείξει κάποια διάθεση να συμμετάσχει σε διεθνή συζήτηση για τον έλεγχο της Τεχνητής Νοημοσύνης.
Ο πρόεδρος Σι Τζινπίνγκ είχε δηλώσει τον Ιούλιο ότι απαιτούνται νόμοι και τεχνολογικά εργαλεία παρακολούθησης ώστε «η AI να παραμένει πάντοτε υπό ανθρώπινο έλεγχο».
Ο Σι και ο Ντόναλντ Τραμπ αναμένεται να συναντηθούν στον Λευκό Οίκο αργότερα μέσα στον μήνα, κάτι που ο συντάκτης θεωρεί πιθανή ευκαιρία για την έναρξη μιας διεθνούς συμφωνίας.
«Αυτό είναι η προειδοποιητική βολή της AI»
Παρά τον εξαιρετικά δυσοίωνο τόνο, το άρθρο δεν παρουσιάζει το μέλλον ως αναπόφευκτα καταστροφικό.
Οι ίδιοι ερευνητές που φοβούνται μια ανεξέλεγκτη υπερνοημοσύνη θεωρούν επίσης ότι, εάν η τεχνολογία αναπτυχθεί με ασφάλεια, θα μπορούσε να οδηγήσει σε θεαματικές προόδους στην ιατρική, στα μαθηματικά, στη ρομποτική και στην παραγωγικότητα.
Το πρόβλημα, σύμφωνα με την ανάλυση, είναι ότι το χρονικό περιθώριο για τη δημιουργία επαρκών μηχανισμών ασφαλείας μπορεί να είναι μικρό.
Ο συντάκτης συγκρίνει το σημερινό κλίμα με τους πρώτους μήνες του 2020, όταν μια μικρή ομάδα επιδημιολόγων προσπαθούσε να προειδοποιήσει για την Covid-19 προτού γίνει σαφές στον υπόλοιπο κόσμο τι επρόκειτο να ακολουθήσει.
Και καταλήγει με μια προειδοποίηση: Το περιστατικό της Hugging Face μπορεί να ήταν η προειδοποιητική βολή της Τεχνητής Νοημοσύνης. Το επόμενο σύστημα ίσως να είναι αρκετά ικανό ώστε να μην αντιληφθούμε καν ότι ξέφυγε.
