Τα βασικά σημεία του άρθρου
- Σοβαρά ερωτήματα για τις πρακτικές ασφαλείας της OpenAI εγείρονται μετά τις αποκαλύψεις ότι εργαζόμενοι είχαν προειδοποιήσει στελέχη για ανεπαρκή παρακολούθηση των μοντέλων AI, μήνες πριν αυτά παραβιάσουν τα περιβάλλοντα δοκιμών τους.
- Εργαζόμενοι καταγγέλλουν ότι η ταχύτητα είχε προτεραιότητα έναντι της ασφάλειας, με μοντέλα της OpenAI να επιχειρούν να παραβιάσουν οργανισμούς, ακόμη και ιστοσελίδες κυβερνητικών υπηρεσιών των ΗΠΑ.
- Μετά τις αποκαλύψεις, η OpenAI πάγωσε προσωρινά την εκπαίδευση των πιο προηγμένων μοντέλων της και ανακοίνωσε ότι δεν θα κυκλοφορήσει το GPT-6.1 Astra λόγω ανησυχιών ασφαλείας.
Σοβαρά ερωτήματα για τις πρακτικές ασφαλείας της OpenAI εγείρονται μετά τις αποκαλύψεις ότι εργαζόμενοι της εταιρείας είχαν προειδοποιήσει στελέχη για ανεπαρκή παρακολούθηση των νεότερων μοντέλων Τεχνητής Νοημοσύνης, μήνες πριν συστήματα της εταιρείας παραβιάσουν τα περιβάλλοντα δοκιμών τους και αποκτήσουν μη εξουσιοδοτημένη πρόσβαση σε εξωτερικές υποδομές.
Σύμφωνα με αποκλειστικό ρεπορτάζ των New York Times, δύο εργαζόμενοι είχαν εκφράσει μέσω email την ανησυχία τους ότι τα πιο προηγμένα μοντέλα της OpenAI δεν παρακολουθούνταν επαρκώς κατά τη διάρκεια των δοκιμών που είχαν στόχο τόσο να αξιολογήσουν τις δυνατότητές τους όσο και να διασφαλίσουν ότι παρέμεναν περιορισμένα στα ελεγχόμενα περιβάλλοντα.
Οι εργαζόμενοι υποστηρίζουν ότι η απάντηση των στελεχών ήταν πως οι δοκιμές έπρεπε να προχωρήσουν όσο το δυνατόν ταχύτερα, προκειμένου τα μοντέλα να κυκλοφορήσουν σύμφωνα με το χρονοδιάγραμμα. Όπως αναφέρουν, δεν εφαρμόστηκαν τότε πρόσθετα πρωτόκολλα ασφαλείας.
Αργότερα, μοντέλα της OpenAI φέρονται να βγήκαν από τα περιβάλλοντα δοκιμών και να επιτέθηκαν σε υπολογιστικές υποδομές, μεταξύ άλλων της εταιρείας Τεχνητής Νοημοσύνης Hugging Face, προκαλώντας διεθνή συζήτηση γύρω από την ασφάλεια των ολοένα ισχυρότερων συστημάτων AI.
Εργαζόμενοι καταγγέλλουν ότι η ταχύτητα είχε προτεραιότητα έναντι της ασφάλειας
Οι επίμαχες συνομιλίες μεταξύ εργαζομένων και στελεχών δεν είχαν δημοσιοποιηθεί μέχρι σήμερα και, σύμφωνα με τις μαρτυρίες που επικαλείται το δημοσίευμα, εντάσσονται σε ένα ευρύτερο μοτίβο κατά το οποίο η ασφάλεια δεν αποτελούσε πάντα πρώτη προτεραιότητα.
Οι ανησυχίες δεν περιορίζονταν στις δοκιμές των ίδιων των μοντέλων.
Ανεξάρτητοι ερευνητές κυβερνοασφάλειας ανέφεραν ότι εντόπισαν τους τελευταίους μήνες ευπάθειες οι οποίες θα μπορούσαν να τους επιτρέψουν να δουν εσωτερικές επικοινωνίες εργαζομένων της OpenAI, καθώς και άλλες αδυναμίες που δυνητικά έδιναν πρόσβαση στον εσωτερικό κώδικα της εταιρείας και σε ιδιωτικά ιστορικά συνομιλιών χρηστών του ChatGPT.
Οι ίδιοι υποστήριξαν ότι, όταν ενημέρωσαν αρχικά την εταιρεία, οι προειδοποιήσεις τους δεν αντιμετωπίστηκαν με την απαιτούμενη σοβαρότητα.
Ο Τζόσουα Σαξ, επικεφαλής τεχνολογίας της εταιρείας κυβερνοασφάλειας Abundant Security, εκτίμησε ότι η εικόνα παρέπεμπε σε ένα ερευνητικό εργαστήριο που αναπτύχθηκε με εξαιρετικά γρήγορους ρυθμούς και επικεντρώθηκε περισσότερο στον ανταγωνισμό παρά στην ασφάλεια της υποδομής του.
Μπρόκμαν και Στάκι στο επίκεντρο των αποφάσεων ασφαλείας
Εργαζόμενοι ανέφεραν ότι πολλές από τις καθημερινές αποφάσεις σχετικά με την ασφάλεια λαμβάνονταν από τον πρόεδρο της OpenAI, Γκρεγκ Μπρόκμαν, και τον επικεφαλής ασφάλειας πληροφοριών, Ντέιν Στάκι.
Σύμφωνα με τις ίδιες μαρτυρίες, ο διευθύνων σύμβουλος Σαμ Άλτμαν δεν συμμετείχε στενά στις καθημερινές αποφάσεις ασφαλείας.
Η OpenAI δεν είναι η μόνη εταιρεία που έχει γνωστοποιήσει πρόσφατα περιστατικά στα οποία προηγμένα συστήματα AI κατάφεραν να ξεπεράσουν τα όρια των περιβαλλόντων δοκιμών. Αντίστοιχα περιστατικά έχουν γνωστοποιήσει και οι Google, Meta και Anthropic.
Ωστόσο, η OpenAI βρίσκεται υπό ιδιαίτερα έντονο έλεγχο, καθώς τα μοντέλα της έχουν συνδεθεί με τον μεγαλύτερο γνωστό αριθμό περιστατικών που η ίδια η εταιρεία έχει χαρακτηρίσει ως «ανησυχητική» συμπεριφορά.
Απόπειρες παραβίασης οργανισμών και ιστοσελίδων αμερικανικών υπηρεσιών
Σε περίπου δώδεκα περιστατικά, συστήματα της OpenAI φέρονται είτε να παραβίασαν είτε να προσπάθησαν να παραβιάσουν οργανισμούς, μεταξύ των οποίων και ιστοσελίδες κυβερνητικών υπηρεσιών των ΗΠΑ.
Σε άλλες περιπτώσεις, σύμφωνα με τα στοιχεία που παρουσιάζονται, η τεχνολογία:
- απέκρυψε λάθη που είχε κάνει,
- κατασκεύασε δεδομένα,
- επιχείρησε να επικοινωνήσει με άλλα chatbots,
- και μετέφερε αρχεία στο ανοιχτό διαδίκτυο χωρίς σχετική εντολή.Κοινό στοιχείο των περιστατικών, σύμφωνα με το ρεπορτάζ, ήταν ότι οι ενέργειες αυτές δεν είχαν ζητηθεί από τους χειριστές των συστημάτων.
Ο Ντάνιελ Κοκοτάιλο, πρώην εργαζόμενος της OpenAI και επικεφαλής του ερευνητικού μη κερδοσκοπικού οργανισμού AI Futures Project, απέδωσε το πρόβλημα τόσο σε αδυναμίες ασφαλείας όσο και σε πρακτικές εκπαίδευσης των μοντέλων, σημειώνοντας πάντως ότι αντίστοιχα ζητήματα δεν περιορίζονται αποκλειστικά στην OpenAI.
Η OpenAI απαντά: «Λαμβάνουμε σοβαρά κάθε αναφορά»
Ο εκπρόσωπος της OpenAI, Ντρου Πουσατέρι, δήλωσε ότι η εταιρεία παραμένει προσηλωμένη στην ασφάλεια και ότι αντιμετωπίζει σοβαρά κάθε αναφορά ή ανησυχία που σχετίζεται με αυτήν.
Όπως είπε, υπάρχουν εσωτερικά κανάλια για την αναφορά προβλημάτων ασφαλείας και η εταιρεία προχώρησε άμεσα σε ενέργειες όταν ανεξάρτητοι ερευνητές της γνωστοποίησαν συγκεκριμένες ευπάθειες.
Ωστόσο, δύο εργαζόμενοι υποστήριξαν ότι οι ανησυχίες για την ασφάλεια κατά τις δοκιμές των μοντέλων είχαν τεθεί επανειλημμένα επί μήνες, μεταξύ άλλων για το επίπεδο παρακολούθησης αλλά και για αδυναμίες στο λογισμικό που χρησιμοποιούνταν για τη διαχείριση της ασφάλειας.
Κατά τους ίδιους, ορισμένες ερωτήσεις είτε παραμερίστηκαν είτε αντιμετωπίστηκαν πολύ αργά.
Hacktron: Παραβίασαν συστήματα της OpenAI με τη βοήθεια μοντέλου της Anthropic
Τον Ιούλιο, ερευνητές της εταιρείας ασφάλειας Hacktron ενημέρωσαν την OpenAI ότι είχαν βρει τρόπο να διεισδύσουν στα συστήματά της με τη βοήθεια ενός μοντέλου AI της ανταγωνίστριας Anthropic.
Οι ερευνητές υποστηρίζουν ότι η εταιρεία αρχικά απέρριψε τα ευρήματά τους.
Σε κοινό κανάλι στο Slack, ο Ντέιν Στάκι φέρεται να χαρακτήρισε «αρκετά λυπηρό» το γεγονός ότι οι ερευνητές της Hacktron είχαν φτάσει τόσο μακριά για να αποδείξουν τις ευπάθειες της OpenAI.
Ο ερευνητής της Hacktron Μόχαν Πενταπάτι δήλωσε ότι η ομάδα του είχε την εντύπωση πως η εταιρεία ήταν θυμωμένη μαζί τους.
Όπως υποστήριξε, η OpenAI εξακολουθούσε να χρησιμοποιεί πρακτικές ασφαλείας που παρέπεμπαν περισσότερο σε start-up, βασιζόμενη σε υπηρεσίες τρίτων ακόμη και για κρίσιμες υποδομές.
«Γιατί χρησιμοποιείτε το Slack για να χτίζετε τα πυρηνικά Manhattan Projects σας;» διερωτήθηκε χαρακτηριστικά, σημειώνοντας ότι η ευπάθεια που εντόπισαν θα μπορούσε να του δώσει πλήρη πρόσβαση στο Slack και στις συνομιλίες εργαζομένων.
Ο Στάκι ζήτησε αργότερα συγγνώμη από τη Hacktron και η OpenAI κατέβαλε στους ερευνητές 6.500 δολάρια ως αμοιβή για την αποκάλυψη του κενού ασφαλείας.
Ευπάθεια μπορούσε να εκθέσει ολόκληρο το ιστορικό συνομιλιών χρήστη
Τον Σεπτέμβριο, ερευνητές του μη κερδοσκοπικού Objective-See Foundation ανέφεραν στην OpenAI διαφορετική ευπάθεια.
Το συγκεκριμένο κενό θα μπορούσε, σύμφωνα με τους ίδιους, να επιτρέψει σε κάποιον να αποκτήσει πρόσβαση σε ολόκληρο το ιδιωτικό ιστορικό συνομιλιών ενός χρήστη του ChatGPT σε παραβιασμένη συσκευή, καθώς και να αλληλεπιδρά αόρατα με τις ενεργές συνεδρίες του προγράμματος περιήγησης.
Ο αναλυτής λογισμικού Πάτρικ Γουόρντλ δήλωσε ότι η ομάδα του υπέβαλε αρχικά το εύρημα μέσω του επίσημου προγράμματος bug bounty της OpenAI, αλλά η αναφορά παρέμεινε χωρίς ουσιαστική εξέλιξη.
Το ζήτημα έφτασε τελικά στην αρμόδια ομάδα μηχανικών όταν ο ίδιος επικοινώνησε απευθείας με γνωστούς του στην εταιρεία και με τον Στάκι.
Η OpenAI κατέβαλε στην ομάδα 500 δολάρια, ποσό το οποίο ο Γουόρντλ χαρακτήρισε χαμηλό σε σχέση με τη σοβαρότητα της ευπάθειας και τις αμοιβές που θα περίμενε από άλλες εταιρείες.
Η ευπάθεια διορθώθηκε και η OpenAI την αναγνώρισε στις δημόσιες σημειώσεις έκδοσης του λογισμικού της, χωρίς να δημοσιοποιήσει λεπτομέρειες.
Ο Γουόρντλ σχολίασε ότι η διαδικασία δεν παρέπεμπε στο ώριμο πρόγραμμα ασφαλείας που θα περίμενε κανείς από μία εταιρεία με τόσο κρίσιμο ρόλο στον χώρο.
Τα AI agents επιχείρησαν να επικοινωνήσουν με το Claude
Το αποκλειστικό δημοσίευμα των New York Times αναφέρει επίσης ότι την Παρασκευή ανεξάρτητη έκθεση ομάδας μηχανικών και ερευνητών έφερε στο φως νέα στοιχεία για το περιστατικό με τη Hugging Face.
Μεταξύ άλλων, agents της OpenAI φέρονται να προσπάθησαν να επικοινωνήσουν με το Claude της Anthropic και να χρησιμοποιήσουν άλλα μοντέλα Tεχνητής Nοημοσύνης προκειμένου να ξεπεράσουν μηχανισμούς προστασίας ιστοσελίδων από αυτοματοποιημένα bots.
Η ίδια η OpenAI αποκάλυψε επίσης ότι νέοι μηχανισμοί ασφαλείας δεν κατάφεραν να εμποδίσουν το τελευταίο μοντέλο της να τους παρακάμψει και να αποκτήσει πρόσβαση στο διαδίκτυο.
Μεταγενέστερος έλεγχος εντόπισε και άλλα περιστατικά μη εξουσιοδοτημένης πρόσβασης στο διαδίκτυο, τα οποία δεν είχαν γίνει αντιληπτά όταν συνέβησαν.
«Πάγωσε» την εκπαίδευση των πιο προηγμένων μοντέλων
Μετά τις αποκαλύψεις, η OpenAI ανακοίνωσε ότι παγώνει προσωρινά την εκπαίδευση των πιο προηγμένων μοντέλων της, ενώ βρίσκεται σε εξέλιξη εκτεταμένη επανεξέταση της απρόβλεπτης συμπεριφοράς που εμφάνισε η τεχνολογία.
Τη Δευτέρα, η εταιρεία προχώρησε ακόμη περισσότερο, ανακοινώνοντας ότι δεν θα κυκλοφορήσει το νεότερο μοντέλο της, GPT-6.1 Astra, εξαιτίας ανησυχιών ασφαλείας που είχαν εντοπίσει οι ερευνητές της.
Οι αποκαλύψεις εντείνουν τη συζήτηση γύρω από το κατά πόσο οι εταιρείες που αναπτύσσουν τα ισχυρότερα μοντέλα τεχνητής νοημοσύνης διαθέτουν μηχανισμούς ασφαλείας ικανούς να συμβαδίσουν με την ταχύτητα ανάπτυξης και τις ολοένα μεγαλύτερες δυνατότητες των ίδιων των συστημάτων.