Τα βασικά σημεία του άρθρου
- Η Anthropic προειδοποιεί ότι μικρά μοντέλα Τεχνητής Νοημοσύνης ενδέχεται, μέσα στους επόμενους μήνες, να αποκτήσουν τη δυνατότητα να αντιγράφονται και να εξαπλώνονται αυτόνομα σε συσκευές συνδεδεμένες στο διαδίκτυο.
- Πειράματα της Anthropic έδειξαν ότι μοντέλα Τεχνητής Νοημοσύνης κατάφεραν να δημιουργήσουν αντίγραφα του εαυτού τους και να εξαπλωθούν σε ένα δοκιμαστικό δίκτυο, δημιουργώντας ένα δίκτυο που θα ήταν δύσκολο να εξουδετερωθεί.
- Η εταιρεία εκτιμά ότι τα μικρότερα μοντέλα Τεχνητής Νοημοσύνης θα μπορούσαν να αποκτήσουν την ικανότητα αυτόνομης αναπαραγωγής έως το τέλος του 2026, με φόβους για επιθέσεις ακόμη και σε κέντρα δεδομένων.
Μια νέα, ανησυχητική διάσταση των κινδύνων της Τεχνητής Νοημοσύνης αναδεικνύει η Anthropic, προειδοποιώντας ότι μικρά μοντέλα Τεχνητής Νοημοσύνης ενδέχεται, μέσα στους επόμενους μήνες, να αποκτήσουν τη δυνατότητα να αντιγράφονται και να εξαπλώνονται αυτόνομα σε συσκευές συνδεδεμένες στο διαδίκτυο. Ένα τέτοιο ενδεχόμενο θα μπορούσε να οδηγήσει στη δημιουργία δικτύων botnets που θα εξαπλώνονται χωρίς συνεχή ανθρώπινη καθοδήγηση, θα αντιστέκονται στις προσπάθειες εξουδετέρωσής τους και ενδεχομένως θα επιχειρούν να αποκτήσουν πρόσβαση ακόμη και σε κέντρα δεδομένων, προκειμένου να ενισχύσουν την υπολογιστική τους ισχύ.
Σύμφωνα με το Reuters, η αμερικανική εταιρεία ανάπτυξης συστημάτων Τεχνητής Νοημοσύνης ανακοίνωσε τη Δευτέρα ότι τα πειράματά της καταδεικνύουν πως κακόβουλοι πράκτορες Τεχνητής Νοημοσύνης θα μπορούσαν να συνδυάζουν την υπολογιστική ισχύ πολλών οικονομικών συσκευών που είναι συνδεδεμένες στο διαδίκτυο, ώστε να εκτελούν πρόσθετα μοντέλα.
Η προειδοποίηση έρχεται περίπου έναν μήνα μετά τις δηλώσεις του διευθύνοντος συμβούλου της Anthropic, Ντάριο Αμοντέι, ο οποίος είχε υποστηρίξει ότι μέσα στον επόμενο χρόνο, ή και νωρίτερα, η Τεχνητή Νοημοσύνη ενδέχεται να αποκτήσει τη δυνατότητα να καταλάβει «ολόκληρο το διαδίκτυο» μέσω ενός μόνιμου δικτύου μολυσμένων συσκευών.
Η εκτίμησή του είχε προκαλέσει έντονες αντιδράσεις και προβληματισμό στην κοινότητα της κυβερνοασφάλειας.
Πώς θα μπορούσε η Τεχνητή Νοημοσύνη να εξαπλωθεί σε τηλεοράσεις, κάμερες και οικιακές συσκευές
Τα botnets είναι μεγάλα δίκτυα ηλεκτρονικών συσκευών που έχουν παραβιαστεί και ελέγχονται από κακόβουλους χρήστες.
Τέτοια δίκτυα υπάρχουν ήδη από τα πρώτα χρόνια του διαδικτύου και συχνά περιλαμβάνουν συσκευές με ανεπαρκή μέτρα ασφαλείας, όπως αποκωδικοποιητές Android TV, έξυπνες οικιακές συσκευές και κάμερες ασφαλείας.
Οι κυβερνοεγκληματίες μπορούν να τα χρησιμοποιούν για την αποστολή ανεπιθύμητων μηνυμάτων, τη διανομή κακόβουλου λογισμικού ή την εξαπόλυση μαζικών επιθέσεων εναντίον επιχειρήσεων και διαδικτυακών υπηρεσιών.
Η νέα ανησυχία αφορά το ενδεχόμενο τα δίκτυα αυτά να αποκτήσουν μεγαλύτερη αυτονομία χάρη στην Τεχνητή Νοημοσύνη.
Σύμφωνα με την Anthropic, ένας κακόβουλος πράκτορας Τεχνητής Νοημοσύνης θα μπορούσε να αξιοποιεί την υπολογιστική ισχύ πολλών σχετικά αδύναμων συσκευών και να χρησιμοποιεί τους διαθέσιμους πόρους για να λειτουργεί επιπλέον μοντέλα.
Στα εργαστηριακά πειράματα της εταιρείας, μοντέλα Τεχνητής Νοημοσύνης κατάφεραν να δημιουργήσουν αντίγραφα του εαυτού τους και να εξαπλωθούν σε ένα απλοποιημένο δοκιμαστικό δίκτυο.
«Ένας τέτοιος μηχανισμός αυτοαναπαραγωγής θα ήταν δύσκολο να εξουδετερωθεί, καθώς δεν υπάρχει ένα κεντρικό σημείο που θα μπορούσε να απενεργοποιηθεί», προειδοποίησε η εταιρεία.
Τι έδειξαν τα πειράματα – Το ορόσημο του τέλους του 2026
Η Anthropic διαπίστωσε ότι μοντέλα Τεχνητής Νοημοσύνης με 30 δισεκατομμύρια παραμέτρους ή λιγότερες είναι ήδη ικανά να εκτελούν πολλές από τις επιμέρους εργασίες που απαιτούνται για την αυτόνομη αναπαραγωγή τους.
Ωστόσο, εξακολουθούν να αντιμετωπίζουν δυσκολίες στην αξιόπιστη ολοκλήρωση ολόκληρης της διαδικασίας χωρίς εξωτερική παρέμβαση.
Σε απλοποιημένες δοκιμές, όπου είχαν αφαιρεθεί ορισμένα μέτρα ασφαλείας, η εταιρεία διαπίστωσε ότι το μοντέλο GLM-5.2 και ισχυρότερα μοντέλα μπορούσαν να ολοκληρώσουν τη διαδικασία αυτοαναπαραγωγής από την αρχή μέχρι το τέλος.
Η Anthropic εκτιμά ότι, εφόσον τα μικρότερα μοντέλα συνεχίσουν να βελτιώνονται με τους ιστορικούς ρυθμούς ανάπτυξής τους, θα μπορούσαν να αποκτήσουν την απαιτούμενη ικανότητα αυτόνομης αναπαραγωγής έως το τέλος του 2026.
Η εταιρεία διευκρίνισε ότι ένα αυτοαναπαραγόμενο πρόγραμμα Τεχνητής Νοημοσύνης που λειτουργεί σε συσκευές περιορισμένης υπολογιστικής ισχύος ενδέχεται να χρειάζεται αρκετές ημέρες για να ολοκληρώσει ορισμένα στάδια της διαδικασίας.
Παρά τη σχετικά αργή λειτουργία του, ένα τέτοιο δίκτυο θα μπορούσε να συνεχίσει να επεκτείνεται, εφόσον οι παραβιασμένες συσκευές κατάφερναν να μολύνουν αρκετά νέα συστήματα.
Φόβοι για επιθέσεις ακόμη και σε κέντρα δεδομένων
Η Anthropic προειδοποίησε ότι μελλοντικά συστήματα θα μπορούσαν να επιχειρήσουν να αποκτήσουν πρόσβαση σε ισχυρότερους υπολογιστικούς πόρους, όπως οι επεξεργαστές που χρησιμοποιούνται σε κέντρα δεδομένων.
Μια τέτοια εξέλιξη θα επέτρεπε θεωρητικά σε κακόβουλα συστήματα Τεχνητής Νοημοσύνης να αυξήσουν σημαντικά την υπολογιστική τους ισχύ και να επιταχύνουν την εξάπλωσή τους.
Ωστόσο, η εταιρεία επισήμανε ότι τα πειράματά της δεν απέδειξαν τη δυνατότητα αυτόνομης αναπαραγωγής μέσω εμπορικών κέντρων δεδομένων.
Οι νέες διαπιστώσεις ενισχύουν τον προβληματισμό για τους κινδύνους που συνοδεύουν την ταχεία ανάπτυξη ολοένα ισχυρότερων μοντέλων Τεχνητής Νοημοσύνης.
Μεταξύ αυτών περιλαμβάνονται η αυτοματοποίηση κυβερνοεπιθέσεων, η λειτουργία συστημάτων με περιορισμένη ανθρώπινη εποπτεία και η πιθανότητα παράκαμψης των μηχανισμών ασφαλείας.
Η προειδοποίηση της Anthropic προστίθεται σε μια σειρά παρεμβάσεων στελεχών και ερευνητών του κλάδου, οι οποίοι εκφράζουν ανησυχίες για τις πιθανές σοβαρές συνέπειες μιας ανεξέλεγκτης ανάπτυξης της Τεχνητής Νοημοσύνης.
Προς το παρόν, τα αποτελέσματα αφορούν κυρίως πειραματικές συνθήκες και προβλέψεις για τις μελλοντικές δυνατότητες των μοντέλων, ωστόσο η εταιρεία προειδοποιεί ότι το χρονικό περιθώριο για την αντιμετώπιση αυτών των κινδύνων ενδέχεται να είναι ιδιαίτερα περιορισμένο.