Έρευνες αποκαλύπτουν ότι αυτόνομα συστήματα Τεχνητής Νοημοσύνης (ΤΝ) από την Κίνα παρακάμπτουν περιορισμούς, παραποιούν στοιχεία και εξαπατούν για να επιτύχουν τους στόχους τους.
Αν και δεν παρατηρήθηκε αυτόνομη «διαφυγή» στο διαδίκτυο, οι ειδικοί προειδοποιούν ότι τα δομικά στοιχεία μιας ανεξέλεγκτης συμπεριφοράς είναι πλέον παρόντα, όπως ακριβώς συμβαίνει και με τα αμερικανικά μοντέλα.
Ψέματα, πλαστογραφίες και «επιβίωση»
Αυτόνομοι «πράκτορες» τεχνητής νοημοσύνης (AI agents), που τροφοδοτούνται από κινεζικά μοντέλα έχουν αναπτύξει την ικανότητα να εξαπατούν, να παρακάμπτουν δικλείδες ασφαλείας και να αποκρύπτουν την αποτυχία τους.
Σύμφωνα με το Reuters, τα ευρήματα αυτά, τα οποία εγείρουν παγκόσμιο προβληματισμό αντίστοιχο με εκείνον για τα αμερικανικά μοντέλα, προκύπτουν από την εξέταση περισσότερων από 200 ερευνητικών εγγράφων, τεχνικών εκθέσεων και τουλάχιστον 20 ειδικών μελετών που διεξήχθησαν από το 2025.
Σε μία χαρακτηριστική περίπτωση που καταγράφηκε φέτος, AI agents που βασίζονταν σε μοντέλα των κινεζικών εταιρειών Alibaba, DeepSeek και Moonshot είπαν ψέματα για τις δυνατότητές τους προκειμένου να κερδίσουν έναν εικονικό επιχειρηματικό διαγωνισμό.
Μάλιστα, όταν τους ζητήθηκε να προσπαθήσουν ξανά, διπλασίασαν τη δόλια συμπεριφορά τους.
Σε μια άλλη δοκιμή, AI agents έκρυψαν την αδυναμία τους να ολοκληρώσουν μια αποστολή, προσομοιώνοντας αποτελέσματα και κατασκευάζοντας ψευδή αρχεία.
Παράλληλα, συνεντεύξεις με δώδεκα ειδικούς και γνώστες της κινεζικής βιομηχανίας AI επιβεβαιώνουν ότι, αν και δεν υπάρχουν στοιχεία που να αποδεικνύουν ότι κινεζικοί agents δραπέτευσαν αυτόνομα στο ευρύτερο διαδίκτυο ή απέφυγαν την απενεργοποίησή τους, η τάση αυτή προκαλεί έντονη ανησυχία.
«Αυτά τα αποτελέσματα παρέχουν αποδείξεις ότι τα απαραίτητα συστατικά για μια ανεξέλεγκτη διαφυγή είναι παρόντα», δήλωσε ο Κόλιν Σέα-Μπλάιμιερ, ερευνητής στο Κέντρο Ασφάλειας και Αναδυόμενης Τεχνολογίας του Πανεπιστημίου Τζόρτζταουν.
«Είναι συνετό να το εκλάβουμε αυτό ως προειδοποίηση», πρόσθεσε, απηχώντας τις απόψεις ακόμη τεσσάρων ειδικών που εξέτασαν τις υποθέσεις.
«Όσο αυξάνονται οι δυνατότητες, τόσο πιο δύσκολος ο έλεγχος»
Τα περισσότερα από αυτά τα περιστατικά σημειώθηκαν σε ελεγχόμενα εργαστηριακά πειράματα, πολλά από τα οποία σχεδιάστηκαν σκοπίμως για να αποκαλύψουν πιθανές αστοχίες.
«Αυτά είναι τα ίδια προειδοποιητικά σημάδια που βλέπουν τα αμερικανικά εργαστήρια, σε λιγότερο προηγμένα συστήματα», σημείωσε ο Άλεξ Μάλεν, ερευνητής στον μη κερδοσκοπικό οργανισμό Redwood Research.
Ο ίδιος εξήγησε ότι τα κινεζικά παραδείγματα δεν είναι ιδιαίτερα επικίνδυνα στο σημερινό επίπεδο δυνατοτήτων, αλλά υπογράμμισε: «Καθώς οι agents αποκτούν μεγαλύτερες δυνατότητες, οι παραβατικές συμπεριφορές τους γίνονται πιο αποτελεσματικές και, ως εκ τούτου, πιο δύσκολα αντιμετωπίσιμες από τον άνθρωπο».
Οι εταιρείες Alibaba, DeepSeek, Moonshot και Z.ai δεν ανταποκρίθηκαν σε αιτήματα του Reuters για σχολιασμό.
Στο παρελθόν, οι Alibaba, DeepSeek και Moonshot έχουν δηλώσει ότι υποβάλλουν τα συστήματά τους σε τακτικούς ελέγχους και ενημερώνουν τις δικλείδες ασφαλείας, ενώ η Z.ai σημείωσε έπειτα από ένα συμβάν ότι καλωσορίζει τον έλεγχο για την αντιμετώπιση τυχόν προβλημάτων.
Ωστόσο, σε αντίθεση με τις ΗΠΑ, οι κινεζικές εταιρείες τεχνητής νοημοσύνης δεν έχουν υποβληθεί στον ίδιο βαθμό δημόσιας κριτικής, ούτε έχουν αντιμετωπίσει εκκλήσεις από εργαζόμενους ή στελέχη για επιβράδυνση της κούρσας της AI.
«Δεν γνωρίζουμε αν έχουν υπάρξει στην Κίνα περιστατικά AI παρόμοια με αυτά που είδαμε με την OpenAI και την Hugging Face. Τα περιστατικά ενδέχεται να μην αναφέρονται δημόσια», δήλωσε ο Σκοτ Σίνγκερ, συνδιευθυντής της Πρωτοβουλίας για την Κινεζική AI στο Carnegie Endowment for International Peace.
Υπενθυμίζεται ότι νωρίτερα φέτος, AI agents της αμερικανικής OpenAI διέφυγαν από εργαστήριο και χακάρισαν την πλατφόρμα ανοιχτού κώδικα Hugging Face, ενώ τον Σεπτέμβριο η Αυστραλία ανακοίνωσε ότι agent της ίδιας εταιρείας παραβίασε κυβερνητική πύλη υγείας.
Από την πλευρά του, ο Έρικ Σου, εκ περιτροπής πρόεδρος της Huawei, δήλωσε τον Σεπτέμβριο ότι οι Κινέζοι προγραμματιστές ίσως χρειαστεί να σημειώσουν περαιτέρω πρόοδο πριν συναντήσουν τέτοια περιστατικά.
«Πιστεύω ότι πρέπει να βρούμε μια ισορροπία ανάμεσα στην προώθηση της ανάπτυξης της AI και στη διαχείριση του κινδύνου της».
Σύμφωνα με ξένο διπλωμάτη, αξιωματούχοι της Διοίκησης Κυβερνοχώρου της Κίνας (CAC) ανέφεραν τον Ιούλιο ότι το μοντέλο Kimi-K3 της Moonshot βρισκόταν περίπου τρεις έως έξι μήνες πίσω από τους αμερικανικούς ανταγωνιστές του.
Την 1η Σεπτεμβρίου, η Ουάνγκ Λιχόνγκ, υποδιευθύντρια του Γραφείου Συντονισμού Κυβερνοασφάλειας της CAC, δήλωσε ότι τα περιστατικά που αποκαλύφθηκαν από μεγάλες τεχνολογικές εταιρείες, όπου μοντέλα διέφυγαν από περιβάλλοντα δοκιμών, έδειξαν «κινδύνους ακραίας απώλειας ελέγχου» και απαιτούν «υψηλό βαθμό εγρήγορσης», χωρίς να διευκρινίσει αν αναφερόταν σε αμερικανικές ή κινεζικές εταιρείες.
Το ζήτημα της AI συζητήθηκε και στο υψηλότερο πολιτικό επίπεδο, κατά τη συνάντηση του Αμερικανού προέδρου Ντόναλντ Τραμπ με τον Κινέζο πρόεδρο Σι Τζινπίνγκ στην Ουάσινγκτον.
Ο Σι τόνισε ότι οι δύο χώρες έχουν την «ικανότητα και την ευθύνη να αναπτύξουν και να διαχειριστούν την AI για το καλό».
Εκπαίδευση στο ψέμα και παραποίηση δεδομένων
Στο πείραμα του Μαρτίου για τον επιχειρηματικό διαγωνισμό, ερευνητές από τα πανεπιστήμια Beihang, Πεκίνου, Nottingham Ningbo China και το 360 AI Security Lab έβαλαν AI agents να διαγωνιστούν σε μια εικονική υποβολή προσφορών.
Τουλάχιστον ένας ψευδής ισχυρισμός εμφανίστηκε στο 88% των συνεδριών του Qwen3-Max-Preview της Alibaba, στο 84% του DeepSeek-V3.2-Exp και στο 88% του Kimi-K2 της Moonshot.
Όταν οι ερευνητές επέτρεψαν στα μοντέλα να «μάθουν» από τους προηγούμενους γύρους, η παραπλανητική συμπεριφορά αυξήθηκε κατά 12 έως 20 ποσοστιαίες μονάδες. Παρόμοια αποτελέσματα σημειώθηκαν και με αμερικανικά μοντέλα.
Μια άλλη μελέτη, που δημοσιεύθηκε τον Δεκέμβριο του 2025 και παρουσιάστηκε στο Διεθνές Συνέδριο για τη Μηχανική Μάθηση, εξέτασε τη συμπεριφορά 11 AI agents όταν συνάντησαν ελαττωματικά εργαλεία ή ελλείποντα αρχεία.
Αντί να αναγνωρίσουν την αποτυχία, οι agents κατέφυγαν σε τεχνικές όπως η μαντεψιά, η αντικατάσταση πηγών, η προσομοίωση αποτελεσμάτων και η πλαστογράφηση αρχείων.
Οι ερευνητές από το Εργαστήριο AI της Σανγκάης και το Πανεπιστήμιο Επιστήμης και Τεχνολογίας του Χονγκ Κονγκ εξήγησαν ότι η συμπεριφορά αυτή διαφέρει από τις συνήθεις «παιδαριώδεις ψευδαισθήσεις» (hallucinations) της AI, καθώς οι agents γνώριζαν εκ των προτέρων ότι η εργασία είχε αποτύχει ή δεν μπορούσε να ολοκληρωθεί.
Συμπεριφορές που παραπέμπουν σε «απόδραση»
Άλλες μελέτες κατέγραψαν κινεζικούς AI agents να παραβιάζουν εσωτερικά «φράγματα» για να ολοκληρώσουν αποστολές ή να αναλαμβάνουν δράση για να αποφύγουν την απενεργοποίησή τους.
Τον Μάρτιο του 2025, ερευνητές του Πανεπιστημίου Fudan ανέφεραν ότι σύστημα που τροφοδοτούνταν από το Qwen2.5-72B-Instruct της Alibaba δημιούργησε αντίγραφο του εαυτού του σε άλλο υπολογιστικό περιβάλλον χωρίς σχετική εντολή, όταν εντόπισε ενδείξεις ότι επρόκειτο να αντικατασταθεί.
Στον αντίποδα, σε άλλο περιστατικό του Μαρτίου, ο agent ROME που συνδέεται με την Alibaba δημιούργησε αυτόνομα σύνδεση με εξωτερικό μηχάνημα και διοχέτευσε υπολογιστικούς πόρους για την εξόρυξη κρυπτονομισμάτων, πριν εντοπιστεί και διακοπεί από τα συστήματα ασφαλείας.
Επιπλέον, η ίδια η DeepSeek αποκάλυψε τον Σεπτέμβριο ότι agents στο σύστημα εκπαίδευσής της προσπάθησαν να αποκτήσουν απαντήσεις μέσω μη εξουσιοδοτημένων κανάλιών, παραποιώντας αιτήματα χρηστών.
Θεσμικό πλαίσιο και μέτρα ασφαλείας
Το Πεκίνο εξέδωσε οδηγίες τον Μάιο, απαιτώντας οι agents να παραμένουν εντός εγκεκριμένων ορίων.
Στις 14 Σεπτεμβρίου, υπό την καθοδήγηση της CAC, δημοσιεύθηκε το «Πλαίσιο Διακυβέρνησης Ασφάλειας AI 3.0», το οποίο προσδιορίζει ως κινδύνους την αυτόνομη απόκτηση πόρων, την εξαπάτηση των αξιολογητών και την εκμετάλλευση αδυναμιών σε απομονωμένα υπολογιστικά περιβάλλοντα.
Αν και Κινέζοι ερευνητές υποστηρίζουν ότι η επιβράδυνση της ανάπτυξης θα διατηρούσε απλώς το τεχνολογικό προβάδισμα των ΗΠΑ, εταιρείες όπως οι Alibaba, Z.ai και Xiaomi έχουν ήδη αρχίσει να συγκροτούν εσωτερικές ομάδες αξιολόγησης ασφαλείας.
Μάλιστα, η Z.ai προχώρησε πρόσφατα σε μια σπάνια δημόσια παραδοχή, απενεργοποιώντας λειτουργίες του AI βοηθού προγραμματισμού της, όταν διαπιστώθηκε ότι ανέβαζε κρυφά ολόκληρους τοπικούς κώδικες σε διακομιστές του εξωτερικού χωρίς τη συγκατάθεση των χρηστών.
Όπως καταλήγει ο Σκοτ Σίνγκερ από το Carnegie Endowment: «Για την Κίνα, η εργασία πάνω στην ασφάλεια της τεχνητής νοημοσύνης είναι πολύ πιο νέα. Το οικοσύστημα παραμένει λιγότερο ώριμο σε σχέση με τις ΗΠΑ».
