Τα βασικά σημεία του άρθρου
- Η Anthropic αποκάλυψε ότι μοντέλα της οικογένειας Claude κατάφεραν να αποκτήσουν πρόσβαση στο διαδίκτυο και να παραβιάσουν τα συστήματα τριών οργανισμών εκτός του δοκιμαστικού περιβάλλοντος.
- Η παραβίαση οφείλεται σε λανθασμένη διαμόρφωση στα συστήματα της Anthropic, με ειδικούς να τονίζουν ότι τα μοντέλα απλώς εκτέλεσαν τις οδηγίες που τους είχαν δοθεί.
- Τα περιστατικά εντείνουν τις ανησίες για τους αυτόνομους AI agents και τις εκκλήσεις για αυστηρότερους κανόνες και μεγαλύτερη εποπτεία της τεχνολογίας.
Η αμερικανική εταιρεία Τεχνητής Νοημοσύνης Anthropic αποκάλυψε ότι μοντέλα της οικογένειας Claude κατάφεραν, κατά τη διάρκεια ιδιωτικού πειράματος ασφαλείας, να αποκτήσουν πρόσβαση στο διαδίκτυο και να παραβιάσουν τα συστήματα τριών οργανισμών εκτός του δοκιμαστικού περιβάλλοντος, παρότι υποτίθεται ότι λειτουργούσαν σε πλήρως απομονωμένο δίκτυο χωρίς σύνδεση στο Internet.
Η αποκάλυψη έρχεται λίγες ημέρες μετά την παραδοχή της OpenAI ότι δικά της μοντέλα παραβίασαν συστήματα άλλων εταιρειών, μεταξύ των οποίων και η πλατφόρμα ανάπτυξης εργαλείων Τεχνητής Νοημοσύνης Hugging Face.
Βρήκε «παράθυρο» και απέκτησε πρόσβαση στο διαδίκτυο
Σύμφωνα με την Anthropic, η εταιρεία επανεξέτασε περισσότερες από 140.000 δοκιμές αναζητώντας ενδείξεις ότι τα μοντέλα Claude είχαν καταφέρει να αποκτήσουν πρόσβαση στο διαδίκτυο, παρότι είχαν σχεδιαστεί να λειτουργούν σε απομονωμένο περιβάλλον.
Στο συγκεκριμένο τεστ, το μοντέλο είχε λάβει εντολή να εντοπίσει «μυστικές» πληροφορίες που βρίσκονταν αποθηκευμένες σε άλλον υπολογιστή του κλειστού δικτύου, χρησιμοποιώντας τεχνικές παραβίασης, όπως συνηθίζεται στις δοκιμές αξιολόγησης των δυνατοτήτων κυβερνοασφάλειας των συστημάτων Τεχνητής Νοημοσύνης, αναφέρει το BBC.
Ωστόσο, λόγω λανθασμένης διαμόρφωσης («misconfiguration») στα συστήματα της Anthropic και του συνεργάτη της, το Claude απέκτησε πραγματική πρόσβαση στο διαδίκτυο.
Θεωρώντας ότι εξακολουθούσε να εκτελεί την αποστολή που του είχε ανατεθεί, επιχείρησε να βρει τις ζητούμενες πληροφορίες και κατέληξε να παραβιάσει τα συστήματα τριών οργανισμών εκτός του περιβάλλοντος δοκιμών, αντί να περιοριστεί στα εικονικά συστήματα του πειράματος.
Η εταιρεία δεν αποκάλυψε την ταυτότητα των οργανισμών που επηρεάστηκαν.
Οι παραβιάσεις πέρασαν απαρατήρητες
Η Anthropic ανέφερε ότι τα πρώτα περιστατικά σημειώθηκαν ήδη από τον Απρίλιο και ότι ούτε η ίδια ούτε οι οργανισμοί που επηρεάστηκαν είχαν αντιληφθεί τις παραβιάσεις όταν συνέβησαν.
Η εταιρεία δήλωσε ότι έχει ήδη ενημερώσει τους εμπλεκόμενους οργανισμούς και τόνισε πως αντιμετωπίζει το ζήτημα σαν να φέρει αποκλειστικά η ίδια την ευθύνη.
Παράλληλα, κάλεσε και άλλα εργαστήρια Τεχνητής Νοημοσύνης να πραγματοποιήσουν αντίστοιχους ελέγχους, ώστε να κατανοηθούν καλύτερα οι κίνδυνοι που συνδέονται με τις ολοένα πιο προηγμένες δυνατότητες των μοντέλων AI.
«Τα μοντέλα έκαναν αυτό που τους ζητήθηκε»
Η καθηγήτρια Gina Neff, επικεφαλής του Minderoo Centre στο Πανεπιστήμιο του Κέιμπριτζ, σχολίασε ότι το περιστατικό δεν αποδεικνύει πως η τεχνητή νοημοσύνη «ξέφυγε από τον έλεγχο», αλλά ότι τα μοντέλα εκτέλεσαν τις οδηγίες που τους είχαν δοθεί.
«Το δίδαγμα δεν είναι να φοβόμαστε τα ρομπότ που θα μας καταλάβουν, αλλά τις εταιρείες που αποφασίζουν τι θεωρείται ασφαλές για όλους μας», ανέφερε, υπογραμμίζοντας την ανάγκη για ανεξάρτητους ελέγχους και κρατική εποπτεία.
Από την πλευρά του, ο ειδικός στην κυβερνοασφάλεια David Allott της Veeam Software σημείωσε ότι το περιστατικό δεν δείχνει απαραίτητα πως η τεχνητή νοημοσύνη απέκτησε κάποια εντελώς νέα ικανότητα επίθεσης.
Όπως είπε, το σημαντικό είναι ότι οι αυτόνομοι AI agents μπορούν να συνδυάζουν διαφορετικές δυνατότητες, να αποκτούν διαπιστευτήρια και πρόσβαση σε συστήματα και να ενεργούν αυτόνομα, προσαρμόζοντας τις επιθέσεις τους με ταχύτητα μηχανής.
Αυξάνονται οι ανησυχίες για τους αυτόνομους AI agents
Τα περιστατικά σημειώνονται σε μια περίοδο κατά την οποία οι μεγάλες εταιρείες Τεχνητής Νοημοσύνης επενδύουν δισεκατομμύρια δολάρια στην ανάπτυξη αυτόνομων AI agents, οι οποίοι μπορούν να εκτελούν μόνοι τους σύνθετες εργασίες, από έρευνα και εξυπηρέτηση πελατών έως επιχειρήσεις κυβερνοασφάλειας.
Οι εξελίξεις έχουν εντείνει τις εκκλήσεις για αυστηρότερους κανόνες και μεγαλύτερη εποπτεία της τεχνολογίας, ενώ ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ δήλωσε την Τετάρτη ότι η Ουάσινγκτον εξετάζει μέτρα για τον περιορισμό των κινδύνων που συνδέονται με τα προηγμένα συστήματα Τεχνητής Νοημοσύνης.
Την περασμένη εβδομάδα, η OpenAI παραδέχθηκε επίσης ότι αυτόνομος agent της παραβίασε τα όρια του δοκιμαστικού περιβάλλοντος και πραγματοποίησε μη εξουσιοδοτημένη επίθεση στην πλατφόρμα Hugging Face, χαρακτηρίζοντας το περιστατικό «πρωτοφανές» και ανακοινώνοντας ότι θα δημοσιεύσει αναλυτική τεχνική έκθεση τις επόμενες εβδομάδες.