Google: «Η εποχή των αυτόνομων επιθέσεων έχει φτάσει» – Συναγερμός για τη νέα γενιά AI κυβερνοαπειλών

Google Προσθέστε το ENIKOS ως προτιμώμενη πηγή στη Google

Η Google προειδοποίησε την Τρίτη ότι η απειλή που συνιστούν τα αυτόνομα μοντέλα Τεχνητής Νοημοσύνης (ΤΝ) πέρασε σε ένα νέο οριακό επίπεδο, επισημαίνοντας με δραματικό τόνο ότι «η εποχή των αυτόνομων επιθέσεων έχει φτάσει».

Τεχνητή Νοημοσύνη: Πόσο κοντά είναι το «τέλος της ανθρωπότητας»; – Δύο κορυφαίοι Έλληνες επιστήμονες εξηγούν στο enikos.gr τι πρέπει πραγματικά να μας ανησυχεί

«Φανταστείτε έναν χάκερ που δεν τρώει, δεν κοιμάται, δεν κουράζεται ποτέ και δεν σταματά ποτέ να ψάχνει έναν τρόπο να τρυπώσει», ανέφερε σε ανακοίνωσή της η Ομάδα Πληροφοριών Απειλών της Google (GTIG).

«Σύμφωνα με την τελευταία έκθεση του AI Threat Tracker, οι κακόβουλοι δράστες χρησιμοποιούν πλέον αυτόνομα πλαίσια LLM (Large Language Models) για να σαρώσουν συνεχώς ενημερώσεις λογισμικού, να εντοπίσουν ποιο ελάττωμα διορθώθηκε και να κατασκευάσουν μια επίθεση γι’ αυτό — όλα αυτά χωρίς ανθρώπινη συμμετοχή».

ΗΠΑ: Το «αόρατο» ντόμινο πίσω από τα καθημερινά ψηφιακά «μπλακ άουτ» – «Η μεγαλύτερη σύμπτωση στην ιστορία» ή το τίμημα της AI;

Το επίπεδο απειλής

Οι αναλυτές της εταιρείας ανέφεραν ότι το επίπεδο απειλής έφτασε στο Στάδιο 5, κατά το οποίο έχουν σημειωθεί «πολλαπλλά στάδια του κύκλου ζωής μιας επίθεσης» τα οποία εκτελούνται από μοντέλα ΤΝ με τη συμμετοχή τουλάχιστον ενός ανθρώπινου χειριστή.

Η GTIG επεσήμανε διάφορες τάσεις με βάση περιστατικά που αφορούσαν μοντέλα τεχνητής νοημοσύνης τους τελευταίους μήνες, συμπεριλαμβανομένης της κυβερνητικής κατασκοπείας και των επιπτώσεων στα συστήματα της αλυσίδας εφοδιασμού.

Ως απάντηση σε αυτούς τους αυξανόμενους κινδύνους, η Google δημιούργησε το Google AI Threat Defense, «το οποίο συνδυάζει το Gemini και άλλα κορυφαία μοντέλα, το context και την ιεράρχηση προτεραιοτήτων της Wiz, την αυτοματοποιημένη διόρθωση του CodeMender και την τεχνογνωσία της Mandiant για τον συνεχή εντοπισμό και την επίλυση ελαττωμάτων προτού οι επιτιθέμενοι μπορέσουν να τα εκμεταλλευτούν».

 

View this post on Instagram

 

A post shared by Google Cloud (@googlecloud)


Η GTIG δήλωσε επίσης ότι η «πολυεπίπεδη στρατηγική άμυνάς της ενσωματώνει» δικλείδες ασφαλείας και πρωτόκολλα περιορισμού για να διατηρήσει τους πελάτες ασφαλείς και την υποδομή υπολογιστών ανέπαφη.

 

View this post on Instagram

 

A post shared by OHMO AI (@ohmo.ai)


Ο Τζον Χουλτκουίστ, επικεφαλής αναλυτής της GTIG, σημείωσε στη δήλωση της Google ότι αυτές οι επιθέσεις δεν βασίζονται σε «πρωτοποριακές μεθόδους» για την παραβίαση συστημάτων, αλλά αντιθέτως εκμεταλλεύονται «ζητήματα που δεν έχουν διορθωθεί… με πολύ μεγαλύτερη ταχύτητα και κλίμακα».

«Αντί να βασιζόμαστε σε χειροκίνητη προσπάθεια για να συμβαδίσουμε, θα πρέπει να αγκαλιάσουμε την αυτόνομη άμυνα», δήλωσε χαρακτηριστικά. «Διαφορετικά, κινδυνεύουμε να μείνουμε πίσω».

Ανησυχίες

Ειδικοί και ηγέτες της βιομηχανίας της τεχνολογίας, μαζί με διακομματικά μέλη του Κογκρέσου στις ΗΠΑ, έχουν σημάνει συναγερμό σχετικά με τους κινδύνους που εγκυμονούν τα αυτόνομα μοντέλα τεχνητής νοημοσύνης.

Διάφορες απόπειρες και επιτυχημένες επιθέσεις τους τελευταίους μήνες, συμπεριλαμβανομένης της επιτυχούς παραβίασης της τεχνολογικής startup Hugging Face τον Ιούλιο, οδήγησαν σε εκκλήσεις για αυξημένες δικλείδες ασφαλείας και νομοθεσία για τη ρύθμιση της προηγμένης τεχνολογίας.

Το περιστατικό με την Hugging Face ήταν η πρώτη περίπτωση κατά την οποία απείθαρχα μοντέλα (AI agents) της OpenAI ξέφυγαν από τις ανθρώπινες εντολές (prompts) και φρόντισαν να καλύψουν τα ίχνη τους.

Το περιστατικό αυτό ώθησε τον Γενικό Εισαγγελέα της Καλιφόρνιας, Ρομπ Μποντά, να μηνύσει την OpenAI. Κατηγόρησε την εταιρεία ότι περιφρόνησε τη δημόσια ασφάλεια, απέτυχε να είναι διαφανής με το κοινό και παραβίασε τον νόμο περί αθέμιτου ανταγωνισμού της Καλιφόρνιας.

Η OpenAI αντέδρασε, επισημαίνοντας την τεχνική της έκθεση που τεκμηριώνει το περιστατικό και τη δραστηριότητα των απείθαρχων agent.

Οποιαδήποτε μεγαλύτερη συνεργασία μεταξύ των εθνών για τον περιορισμό της προόδου της τεχνητής νοημοσύνης θα είναι «πιο δύσκολη» από τις συνομιλίες για τον πυρηνικό αφοπλισμό μεταξύ των ΗΠΑ και της Σοβιετικής Ένωσης, δήλωσε στο NBC News τον Σεπτέμβριο ο συνιδρυτής της Microsoft, Μπιλ Γκέιτς.

Ο ίδιος προέτρεψε το Κογκρέσο να ψηφίσει νομοθεσία για τη ρύθμιση της τεχνητής νοημοσύνης και τόνισε ότι η αυτορρύθμιση από τις εταιρείες τεχνολογίας δεν αρκεί.

 

Google Προσθέστε το ENIKOS στην Google
Ακολουθήστε το ENIKOS στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.