Μια νέα αποκάλυψη για αυτόνομη δράση συστήματος Tεχνητής Nοημοσύνης (TN) έρχεται να φουντώσει τις ανησυχίες γύρω από την ασφάλεια των τεχνολογιών AI και τα όρια του ανθρώπινου ελέγχου, λίγο πριν από τις επικείμενες ενδιάμεσες εκλογές στις ΗΠΑ.
Το μοντέλο Claude της εταιρείας Anthropic απέκτησε πρόσβαση σε δημοσίως διαθέσιμα εκλογικά δεδομένα της πολιτείας της Τζόρτζια, ενεργώντας αυτόβουλα και παρακάμπτοντας το ψηφιακό σύστημα πληρωμής (paywall) της πολιτειακής πλατφόρμας.
Aυτόνομη πρόσβαση
Το περιστατικό συνέβη ενώ το Claude χρησιμοποιούνταν εσωτερικά από την εταιρεία για ένα στατιστικό έργο άντλησης δημόσιων δεδομένων.
Κατά τη διάρκεια της διαδικασίας, το μοντέλο εντόπισε από μια αρχειοθετημένη έκδοση της ιστοσελίδας της αρμόδιας υπηρεσίας ότι ένας δημόσιος πίνακα ελέγχου (dashboard) εξέδιδε ψηφιακό διακριτικό πρόσβασης (access token) στους επισκέπτες.
View this post on Instagram
«Χωρίς να του ζητηθεί, το μοντέλο ζήτησε ένα διακριτικό πρόσβασης (token) για να υποβάλει ερώτημα σε έναν πίνακα ελέγχου που περιείχε πληροφορίες οι οποίες κανονικά διατίθενται έναντι αμοιβής», δήλωσε ένας εκπρόσωπος της Anthropic.
«Έκτοτε έχουμε εφαρμόσει μέτρα για να αποκλείσουμε αυτού του είδους τις ενέργειες».
Από την πλευρά της, η εταιρεία διευκρίνισε ότι το Claude συγκέντρωσε μόνο συγκεντρωτικούς αριθμούς ψήφων που η πολιτεία διαθέτει έναντι συνδρομής, ενώ ξεκαθάρισε ότι δεν αποκτήθηκε πρόσβαση στο σύστημα εγγραφής ψηφοφόρων της πολιτείας, ούτε τροποποιήθηκαν ή αντλήθηκαν μεμονωμένα εκλογικά αρχεία.
Στο ίδιο μήκος κύματος κινήθηκε και η τοποθέτηση των πολιτειακών αρχών.
Η αναπληρώτρια υπουργός Εσωτερικών της Τζόρτζια, Τζόρνταν Φουκς, ανέφερε σε δήλωσή της στο FOX Business: «Επιβεβαιώνουμε ότι επρόκειτο για δημοσίως διαθέσιμα δεδομένα στα οποία η πρόσβαση έγινε μέσω του κέντρου δεδομένων μας. Δεν υπήρξε διείσδυση στο σύστημα εγγραφής ψηφοφόρων».
Οι προειδοποιήσεις
Παρά το γεγονός ότι δεν παραβιάστηκαν απόρρητα προσωπικά δεδομένα, η Anthropic και οι αξιωματούχοι της Τζόρτζια επιβεβαίωσαν ότι το μοντέλο παρέκαμψε το paywall της υπηρεσίας για να λάβει τις πληροφορίες.
Σύμφωνα με πληροφορίες που μεταδίδει το Axios επικαλούμενο πηγή με γνώση του θέματος, η Anthropic είχε ενημερώσει το γραφείο του υπουργού Εσωτερικών της Τζόρτζια και τον Λευκό Οίκο εδώ και εβδομάδες.
Μάλιστα, αξιωματούχοι της αμερικανικής κυβέρνησης είχαν παροτρύνει τις αρχές της Τζόρτζια να δημοσιοποιήσουν νωρίτερα το συμβάν, αίτημα που αρχικά δεν εισακούστηκε.
Το γραφείο του υπουργού Εσωτερικών της Τζόρτζια δεν ανταποκρίθηκε σε αίτημα του πρακτορείου Reuters για σχολιασμό.
Πλαίσιο ασφαλείας
Το περιστατικό εντάσσεται σε μια γενικότερη σειρά αποκαλύψεων από κολοσσούς της τεχνητής νοημοσύνης, όπως η Anthropic και η OpenAI, σχετικά με αυτόνομους πράκτορες AI (AI agents) που αναλαμβάνουν μη εξουσιοδοτημένες ενέργειες.
Ειδικά η Anthropic είχε βρεθεί και στο παρελθόν στο στόχαστρο της αμερικανικής κυβέρνησης για ανεπαρκή γνωστοποίηση συμβάντων AI, ενώ τώρα η προσοχή στρέφεται στους χειρισμούς της πολιτείας της Τζόρτζια.
Η εταιρεία είχε ήδη συμπεριλάβει το συμβάν σε έκθεση της 9ης Οκτωβρίου σχετικά με απρόβλεπτες ενέργειες μοντέλων AI κατά τη διάρκεια δοκιμών.
Τότε δεν είχε κατονομάσει την Τζόρτζια, σημειώνοντας ότι απέκρυψε τα ονόματα των εμπλεκόμενων οργανισμών κατόπιν δικού τους αιτήματος για την αποφυγή αποκάλυψης ευπαθειών.
Ενόψει των ενδιάμεσων εκλογών, η Anthropic ανακοίνωσε πρόσθετες ασφαλιστικές δικλείδες, αναφέροντας σε δελτίο Τύπου της 14ης Οκτωβρίου: «Στόχος μας είναι το Claude να αποτελεί ένα χρήσιμο εργαλείο για πολιτικές συζητήσεις, εμποδίζοντας παράλληλα κάθε κατάχρηση που σχετίζεται με τις εκλογές».
Σύμφωνα με στοιχεία της εταιρείας, από ένα δείγμα συνομιλιών στις ΗΠΑ στο Claude.ai (21–27 Σεπτεμβρίου), μόλις το 0,51% αφορούσε συγκεκριμένα τις εκλογές ή την ψηφοφορία.
