Το μοντέλο Τεχνητής Νοημοσύνης Gemini της Google παραβίασε τα συστήματα τριών πραγματικών εταιρειών κατά τη διάρκεια δοκιμών κυβερνοασφάλειας, επιβεβαίωσε ο τεχνολογικός κολοσσός. Τα περιστατικά σημειώθηκαν τον Μάιο, όταν το μοντέλο απέκτησε κατά λάθος πρόσβαση στο διαδίκτυο, ενώ υποτίθεται ότι λειτουργούσε σε ένα κλειστό περιβάλλον προσομοίωσης. Η Google ενημερώθηκε για τις παραβιάσεις στα τέλη Ιουλίου, αλλά επέλεξε να μην τις δημοσιοποιήσει, υποστηρίζοντας ότι δεν προκλήθηκε ζημιά στις εταιρείες.
Η αποκάλυψη, την οποία έκανε αρχικά η Wall Street Journal και επιβεβαίωσε η Google στον Guardian, προστίθεται σε μια σειρά περιστατικών κατά τα οποία προηγμένα μοντέλα Τεχνητής Νοημοσύνης απέκτησαν πρόσβαση σε πραγματικά συστήματα εκτός του προβλεπόμενου περιβάλλοντος δοκιμών τους.
Στην περίπτωση του Gemini, τις δοκιμές πραγματοποιούσε η Irregular, νεοφυής εταιρεία με έδρα το Ισραήλ, η οποία ειδικεύεται στην αξιολόγηση της ασφάλειας προηγμένων συστημάτων Τεχνητής Νοημοσύνης. Η ίδια εταιρεία είχε συμμετάσχει και στις δοκιμές που συνδέθηκαν με αντίστοιχα περιστατικά στα μοντέλα της OpenAI και της Anthropic.
Πώς το Gemini βρέθηκε από μια εικονική εταιρεία σε μια πραγματική
Οι ερευνητές της Irregular είχαν δημιουργήσει ένα ελεγχόμενο περιβάλλον δοκιμών με εικονικές εταιρείες, προκειμένου να εξετάσουν τις δυνατότητες του Gemini στον τομέα της κυβερνοασφάλειας.
Το περιβάλλον αυτό δεν προοριζόταν να έχει πρόσβαση στο διαδίκτυο. Ωστόσο, λόγω σφάλματος, η σύνδεση ήταν διαθέσιμη και το μοντέλο μπόρεσε να αναζητήσει πληροφορίες και να αλληλεπιδράσει με πραγματικές διαδικτυακές υπηρεσίες.
Σε μία από τις δοκιμές, οι ερευνητές ζήτησαν από το Gemini να αποκτήσει πληροφορίες από το λογισμικό μιας εικονικής εταιρείας. Η εταιρεία, όμως, είχε το ίδιο όνομα με μια πραγματική επιχείρηση.
Όταν το μοντέλο απέκτησε πρόσβαση στο διαδίκτυο, εντόπισε την πραγματική εταιρεία, μάντεψε σωστά έναν κωδικό πρόσβασης και εισήλθε στην υπηρεσία της, σύμφωνα με όσα ανέφερε η Irregular στη Wall Street Journal.
Η Google υποστήριξε ότι το Gemini σταμάτησε μόλις αντιλήφθηκε πως είχε αποκτήσει πρόσβαση σε πραγματική εταιρεία και όχι στην εικονική επιχείρηση της δοκιμής.
Βρήκε δημοσιευμένους κωδικούς και μπήκε σε άλλες δύο εταιρείες
Στα άλλα δύο περιστατικά, το Gemini αναζήτησε πληροφορίες στο διαδίκτυο και εντόπισε δημόσια προσβάσιμα αποθετήρια κώδικα που περιείχαν στοιχεία σύνδεσης για δύο διαφορετικές εταιρείες.
Στη συνέχεια, χρησιμοποίησε αυτά τα στοιχεία για να αποκτήσει πρόσβαση στα πραγματικά συστήματά τους.
Σύμφωνα με τη Google, και στις δύο περιπτώσεις το μοντέλο διέκοψε τη δραστηριότητά του όταν αναγνώρισε ότι οι εταιρείες δεν αποτελούσαν μέρος της προσομοίωσης.
«Σε μια τυπική αξιολόγηση, το μοντέλο εντόπισε δημόσιες πληροφορίες στο διαδίκτυο και μάντεψε στοιχεία σύνδεσης για να αποκτήσει πρόσβαση σε ιστότοπους που θεωρούσε ότι αποτελούσαν μέρος της δοκιμής», δήλωσε η Χέδερ Άντκινς, αντιπρόεδρος μηχανικής ασφάλειας της Google.
«Και στις τρεις περιπτώσεις, το μοντέλο σταμάτησε», πρόσθεσε.
Η Google ενημερώθηκε τον Ιούλιο, αλλά δεν ανακοίνωσε τις παραβιάσεις
Η Irregular ενημέρωσε τη Google για τα τρία περιστατικά στα τέλη Ιουλίου, αφού είχε εντοπιστεί και άλλο συμβάν, στο οποίο μοντέλο της OpenAI απέκτησε πρόσβαση στην εταιρεία λογισμικού Τεχνητής Νοημοσύνης Hugging Face.
Η Google επιβεβαίωσε στον Guardian ότι οι παραβιάσεις συνέβησαν, υποστηρίζοντας ωστόσο ότι δεν έκρινε αναγκαία τη δημόσια γνωστοποίησή τους, καθώς, σύμφωνα με την ίδια, δεν προκλήθηκε ζημιά στις επηρεαζόμενες εταιρείες.
Η εταιρεία διευκρίνισε ότι φρόντισε να ενημερωθούν και οι τρεις επιχειρήσεις των οποίων τα συστήματα παραβιάστηκαν.
Η στάση της διαφέρει από εκείνη της OpenAI και της Anthropic, οι οποίες είχαν προχωρήσει σε εθελοντική δημοσιοποίηση αντίστοιχων περιστατικών.
«Αυτά τα γεγονότα αναδεικνύουν τη σημασία της εκπαίδευσης ισχυρών μοντέλων Τεχνητής Νοημοσύνης ώστε να ενεργούν υπεύθυνα», ανέφερε η Άντκινς.
Ανησυχία μετά τα αντίστοιχα περιστατικά με OpenAI και Anthropic
Οι παραβιάσεις που συνδέθηκαν με μοντέλα της OpenAI και της Anthropic είχαν ήδη προκαλέσει ανησυχία για το κατά πόσον οι εταιρείες μπορούν να διατηρούν τον έλεγχο των πιο προηγμένων συστημάτων τους, ιδιαίτερα όταν αυτά εκτελούν αυτόνομα εργασίες σε ψηφιακά περιβάλλοντα.
Μετά τις σχετικές αποκαλύψεις, ο ανεξάρτητος Αμερικανός γερουσιαστής Μπέρνι Σάντερς ζήτησε από τις εταιρείες να αναστείλουν την ανάπτυξη της τεχνολογίας τους, εκφράζοντας την ανησυχία ότι τα περιστατικά δείχνουν πως ο έλεγχος των ισχυρών μοντέλων δεν είναι επαρκής.
Σύμφωνα με τον Guardian, η OpenAI ανέστειλε την ανάπτυξη των μοντέλων της για δύο εβδομάδες, ενώ ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει ζητήσει συλλογική επιβράδυνση της ανάπτυξης της Τεχνητής Νοημοσύνης, προκειμένου να διασφαλιστεί ότι τα προηγμένα μοντέλα διαθέτουν επαρκείς δικλίδες ασφαλείας.
Τα περιστατικά με το Gemini αναδεικνύουν έναν συγκεκριμένο κίνδυνο: ακόμη και όταν ένα μοντέλο αξιολογείται με εικονικούς στόχους, ένα σφάλμα στον περιορισμό της πρόσβασής του μπορεί να το οδηγήσει σε πραγματικές εταιρείες και πραγματικά συστήματα.
