Τεράστια ανησυχία επικρατεί σε όλο τον κόσμο καθώς οι κυβερνοεπιθέσεις σε παγκόσμιο επίπεδο βρίσκονται σε έξαρση. Μόνο την τελευταία εβδομάδα έγιναν γνωστές επιθέσεις στο FBI, στη JPMorgan Chase, στην Ευρωπαϊκή Επιτροπή και σε δημοφιλή sites, όπως Zoom, HSBC, CNN και IKEA. Παράλληλα τους τελευταίους μήνες υπάρχουν περιστατικά σε σούπερ μαρκετ χωρών, με τους χάκερ να στοχεύουν τα ψυγεία και τα τρόφιμα.
Ένας πρώην χάκερ της NSA και ειδικός στον τομέα της κυβερνοασφάλειας, Ντέιβιντ Κένεντι, αποκάλυψε την Πέμπτη ότι «Χρειάστηκαν μόλις 14 λεπτά, για να κατακλύσουν περισσότεροι από 30 πράκτορες τεχνητής νοημοσύνης τις άμυνες του δικτύου υπολογιστών μιας εταιρείας, να κλέψουν τα δεδομένα της και να κλειδώσουν τα αρχεία της, ζητώντας λύτρα»
Αυτή η περιγραφή μοιάζει πολύ με το πλέον διάσημο περιστατικό της «Hugging Face», όπου περίπου 700 πράκτορες τεχνητής νοημοσύνης ξέφυγαν από το περιβάλλον δοκιμών τους, επικοινωνούσαν μέσω ενός μυστικού φόρουμ και παραβίασαν τους διακομιστές μιας άλλης εταιρείας τεχνητής νοημοσύνης.
Ο κοινός παρανομαστής
Όπως σημειώνει η Washington Post, και τα δύο περιστατικά φέρνουν στο νου εικόνες από ταινίες επιστημονικής φαντασίας με μηχανές που ξεφεύγουν από τον έλεγχο. Ωστόσο αν κάποιος τα εξετάσει περισσότερο θα καταλήξει στο συμπέρασμα ότι και στις δύο περιπτώσεις δεν ευθύνεται η Τεχνητή Νοημοσύνη.
- Στην πρώτη περίπτωση, άνθρωποι χρησιμοποίησαν εργαλεία παραβίασης που βασίζονταν στην τεχνητή νοημοσύνη για να πραγματοποιήσουν μια ληστεία.
- Στη δεύτερη, ερευνητές τεχνητής νοημοσύνης έδωσαν οδηγίες στα μοντέλα τους να εντοπίσουν και να εκμεταλλευτούν ευπάθειες λογισμικού, μόνο για να δουν αυτά να συμπεριφέρονται με τρόπους που δεν είχαν προβλέψει ούτε εξουσιοδοτήσει.
Και στις δύο περιπτώσεις, οι μηχανές επιδίωξαν τους στόχους που τους έθεσαν οι άνθρωποι με ανησυχητική ανεξαρτησία, ευρηματικότητα και ταχύτητα.
Μεγάλο μέρος της συζήτησης σχετικά με την ασφάλεια της τεχνητής νοημοσύνης έχει επικεντρωθεί σε σενάρια επιστημονικής φαντασίας, όπου οι μηχανές αναπτύσσουν ανεξάρτητους στόχους, απαιτώντας τη χρήση διακοπτών έκτακτης ανάγκης για να αποτραπεί η στροφή τους εναντίον μας. Η ανησυχία για τέτοια σενάρια αποσπά την προσοχή από την αντιμετώπιση ενός πολύ πραγματικού κινδύνου που ήδη μας απειλεί: οι άνθρωποι μπορούν πλέον να εξαπολύσουν λογισμικό εξαιρετικά ικανό εναντίον ο ένας του άλλου, στοχεύοντας υποδομές με σφάλματα με ταχύτητες και σε κλίμακα που οι παραδοσιακές κυβερνοάμυνες δυσκολεύονται να αντέξουν.
Το εργαλείο τεχνητής νοημοσύνης ARTEX και η προειδοποίηση του FBI
Στις 13 Νοεμβρίου, το FBI εξέδωσε μια συμβουλευτική προειδοποίηση «FLASH» για την κυβερνοασφάλεια, προειδοποιώντας ότι εγκληματίες χρησιμοποιούσαν λογισμικό που βασίζεται στην τεχνητή νοημοσύνη ως όπλο για να εξαπολύουν επιθέσεις με την ταχύτητα μιας μηχανής. Η προειδοποίηση εστίαζε στο ARTEX, ένα εργαλείο ανοιχτού κώδικα που αναπτύχθηκε αρχικά για τη δοκιμή της ασφάλειας υπολογιστών. To συγκεκριμένο εργαλείο χρησιμοποιήθηκε για την κυβερνοεπίθεση στην Κομισιόν.
Ωστόσο, συνδέει επίσης υπάρχοντα μοντέλα τεχνητής νοημοσύνης από εταιρείες όπως η OpenAI, η Anthropic και η DeepSeek με εργαλεία παραβίασης συστημάτων. Οι χειριστές παρέχουν τους στόχους· το λογισμικό βρίσκει μόνο του τον τρόπο να τους επιτύχει.
Σύμφωνα με το FBI, χάκερ που χρησιμοποίησαν το ARTEX έκλεψαν προσωπικά στοιχεία περίπου 67.000 ατόμων από χρηματοπιστωτικά ιδρύματα της Νότιας Κορέας. Σε μια άλλη επίθεση, χάκερ παραβίασαν έναν πάροχο υπηρεσιών δημιουργίας αντιγράφων ασφαλείας στο cloud και στη συνέχεια εκμεταλλεύτηκαν τις συνδέσεις του με τους πελάτες για να προσπαθήσουν να εισβάλουν σε περισσότερα από 2.250 περιβάλλοντα Microsoft 365.
Τον Οκτώβριο, ο αρχικός προγραμματιστής του εργαλείου το αφαίρεσε από την πλατφόρμα φιλοξενίας κώδικα GitHub, έπειτα από αναφορές για εγκληματική κατάχρηση. Όμως, η ζημιά είχε ήδη γίνει. Μια απόδειξη της εφικτότητας (proof of concept) δεν μπορεί να «ξεχαστεί» μόλις γίνει γνωστή στον κόσμο.
Η έκθεση της Google
Μια έκθεση που δημοσιεύθηκε τη Δευτέρα από την ομάδα πληροφοριών για απειλές της Google ενίσχυσε την προειδοποίηση του FBI. Οι ερευνητές της διαπίστωσαν ότι τόσο εγκληματικά δίκτυα όσο και φορείς που υποστηρίζονται από κράτη πειραματίζονται με αυτόνομα εργαλεία hacking, όπως το ARTEX, σε πραγματικές συνθήκες. Προς το παρόν, τα συστήματα αυτά είναι σχετικά εύκολο να εντοπιστούν, καθώς δημιουργούν ύποπτη δικτυακή κίνηση και αφήνουν αποκαλυπτικά ίχνη στα αρχεία καταγραφής των υπολογιστών. Ωστόσο, η Google αναμένει ότι τα συστήματα αυτά θα γίνουν πιο εξελιγμένα, πραγματοποιώντας πολύπλοκες επιθέσεις με λιγότερη ανθρώπινη εποπτεία, αφήνοντας παράλληλα λιγότερα ίχνη που θα μπορούν να εντοπίσουν οι υπεύθυνοι ασφάλειας.
Η πρόσφατη έξαρση διακοπών λειτουργίας τεχνολογικών συστημάτων μπορεί να προσφέρει μια γεύση από αυτό το νέο παιχνίδι της γάτας και του ποντικιού. Δεν υπάρχουν στοιχεία ότι οι διακοπές αυτές ήταν κυβερνοεπιθέσεις ή ότι είχαν καν κάποια σχέση μεταξύ τους, αλλά μια εύλογη εξήγηση είναι ότι η τεχνητή νοημοσύνη εντοπίζει τα τρωτά σημεία πιο γρήγορα. Οι οργανισμοί που αγωνίζονται να διορθώσουν τα σφάλματα πριν προλάβουν να τα εκμεταλλευτούν οι χάκερ ενδέχεται να έχουν καταστρέψει κατά λάθος ή να έχουν υπερφορτώσει ορισμένα από τα συστήματά τους κατά τη διάρκεια αυτής της διαδικασίας.
Ο κίνδυνος από τον περιορισμό πρόσβαση στην τεχνητή νοημοσύνη
Η τεχνητή νοημοσύνη επιταχύνει τον αγώνα μεταξύ επιτιθέμενων και αμυνόμενων. Η λύση δεν είναι να περιορίσουμε την τεχνολογία ή να προσπαθήσουμε να κρατήσουμε τα ισχυρά εργαλεία υπό κυβερνητικό έλεγχο. Οι ανταγωνιστικές αγορές παρέχουν στις εταιρείες κυβερνοασφάλειας ισχυρά κίνητρα για να εντοπίζουν τρωτά σημεία, να αναπτύσσουν καλύτερες άμυνες και να ανταποκρίνονται σε νέες απειλές. Ο περιορισμός της πρόσβασης σε ισχυρά συστήματα τεχνητής νοημοσύνης ενέχει τον κίνδυνο να στερηθούν οι αμυνόμενοι τις ίδιες δυνατότητες που χρειάζονται για να συμβαδίζουν με τους επιτιθέμενους.
Οι λύσεις;
Μια έκθεση του Γραφείου Λογοδοσίας της Κυβέρνησης (Government Accountability Office) που δημοσιεύθηκε την Παρασκευή περιλαμβάνει ορισμένες συγκεκριμένες ιδέες για την αντιμετώπιση της αυξανόμενης απειλής. Το Κογκρέσο θα μπορούσε, για παράδειγμα, να ενισχύσει τις νομικές προστασίες για τις εταιρείες που μοιράζονται πληροφορίες σχετικά με κυβερνοεπιθέσεις, επιτρέποντας σε άλλες εταιρείες να μαθαίνουν γρηγορότερα και να ενισχύουν ανάλογα τις άμυνές τους. Η κυβέρνηση θα μπορούσε επίσης να χρηματοδοτήσει εγκαταστάσεις δοκιμών, ώστε οι εταιρείες να δοκιμάζουν τα συστήματα άμυνας που βασίζονται στην τεχνητή νοημοσύνη ενάντια σε ρεαλιστικές επιθέσεις, συμβάλλοντας έτσι στη θέσπιση αξιόπιστων προτύπων για την αξιολόγηση της αποτελεσματικότητας αυτών των εργαλείων.
Η τεχνητή νοημοσύνη είναι μια εξαιρετικά ισχυρή τεχνολογία, με τη δυνατότητα να φέρει πρωτοφανή ευημερία και υλική πρόοδο. Όπως κάθε μεγάλη εφεύρεση, μπορεί επίσης να χρησιμοποιηθεί για εγωιστικούς και καταστροφικούς σκοπούς.
Οι επιτιθέμενοι έχουν ξαφνικά γίνει πιο επικίνδυνοι. Ωστόσο, δεν έχουν το μονοπώλιο της ανθρώπινης εφευρετικότητας. Ας δοθούν στους υπερασπιστές οι πόροι και η ελευθερία να συμβαδίσουν — και ας γίνει αυτό προτεραιότητα της εθνικής πολιτικής για την κυβερνοασφάλεια.