ΗΠΑ: Η Καλιφόρνια μηνύει την OpenAI για κυβερνοεπίθεση στη Hugging Face – Καταγγελίες για 80 περιστατικά

Η πολιτεία της Καλιφόρνιας κατέθεσε αγωγή κατά της OpenAI στο Ανώτερο Δικαστήριο του Σαν Φρανσίσκο, κατηγορώντας την ότι έθεσε σε κίνδυνο τη δημόσια ασφάλεια έπειτα από κυβερνοεπίθεση αυτόνομων πρακτόρων Τεχνητής Νοημοσύνης στην πλατφόρμα Hugging Face. Ο γενικός εισαγγελέας Ρομπ Μπόντα καταγγέλλει τουλάχιστον 80 περιστατικά απώλειας ελέγχου πρακτόρων κατά τη διάρκεια δοκιμών και ζητά αλλαγή επιχειρηματικών πρακτικών και οικονομικές κυρώσεις. Από την πλευρά της, η OpenAI απορρίπτει τις κατηγορίες, υποστηρίζοντας ότι η αγωγή στοχοποιεί επιλεκτικά την εταιρεία για μια πρόκληση που αφορά ολόκληρο τον κλάδο.

ΣΥΝΟΨΗ ΑΡΘΡΟΥ

Τα βασικά σημεία του άρθρου

  • Η πολιτεία της Καλιφόρνιας κατέθεσε αγωγή κατά της OpenAI, κατηγορώντας την ότι έθεσε σε κίνδυνο τη δημόσια ασφάλεια αναπτύσσοντας και δοκιμάζοντας προηγμένα μοντέλα Τεχνητής Νοημοσύνης χωρίς επαρκή μέτρα προστασίας.
  • Η προσφυγή συνδέεται με κυβερνοεπίθεση εναντίον της πλατφόρμας Hugging Face, ενώ περιλαμβάνει καταγγελίες για τουλάχιστον 80 περιστατικά κατά τα οποία η εταιρεία φέρεται να έχασε τον έλεγχο αυτόνομων πρακτόρων.
  • Η OpenAI απορρίπτει την προσέγγιση των Αρχών, υποστηρίζοντας ότι στοχοποιείται επιλεκτικά για ένα πρόβλημα που αφορά ευρύτερα τον κλάδο και διαβεβαιώνοντας ότι έχει προχωρήσει σε ενίσχυση των μέτρων ασφαλείας.

Το κείμενο κάθε σύνοψης ελέγχεται από δημοσιογράφους του ENIKOS

Google Προσθέστε το ENIKOS ως προτιμώμενη πηγή στη Google

Στο στόχαστρο της Δικαιοσύνης βρίσκεται η OpenAI, η εταιρεία πίσω από το ChatGPT, καθώς η πολιτεία της Καλιφόρνιας κατέθεσε αγωγή εναντίον της, κατηγορώντας την ότι έθεσε σε κίνδυνο τη δημόσια ασφάλεια αναπτύσσοντας και δοκιμάζοντας προηγμένα μοντέλα Τεχνητής Νοημοσύνης χωρίς επαρκή μέτρα προστασίας.

Η αγωγή, που κατατέθηκε τη Δευτέρα (16/11) στο Ανώτερο Δικαστήριο του Σαν Φρανσίσκο, συνδέεται με την κυβερνοεπίθεση που σημειώθηκε τον περασμένο Ιούλιο εναντίον της πλατφόρμας Hugging Face, όταν εκατοντάδες αυτόνομοι πράκτορες Τεχνητής Νοημοσύνης της OpenAI κατάφεραν να παρακάμψουν τους περιορισμούς του περιβάλλοντος δοκιμών τους και να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση σε εξωτερικά συστήματα.

Σύμφωνα με το Sky News και το Reuters, ο γενικός εισαγγελέας της Καλιφόρνιας, Ρομπ Μπόντα, υποστηρίζει ότι η επίθεση ήταν απολύτως προβλέψιμη και θα μπορούσε να είχε αποτραπεί εάν η εταιρεία είχε εφαρμόσει τα κατάλληλα μέτρα ασφαλείας.

«Η ασφάλεια θυσιάστηκε για την ταχεία ανάπτυξη»

Σε ιδιαίτερα αιχμηρή ανακοίνωσή του, ο Ρομπ Μπόντα κατηγόρησε την OpenAI ότι καλλιέργησε μια εταιρική κουλτούρα που έδινε προτεραιότητα στην ανάπτυξη και στην ταχύτητα εξέλιξης των μοντέλων της, αντί για την ασφάλεια και τη λογοδοσία.

«Η επίθεση στη Hugging Face ήταν το προβλέψιμο αποτέλεσμα μιας εσωτερικής κουλτούρας στην OpenAI που δίνει προτεραιότητα στην ανάπτυξη και στην ταχεία εξέλιξη των μοντέλων έναντι της ασφάλειας και της λογοδοσίας», ανέφερε χαρακτηριστικά.

Ο γενικός εισαγγελέας υποστήριξε ότι η εταιρεία γνώριζε τους κινδύνους που συνδέονταν με τις δοκιμές προηγμένων μοντέλων, αλλά συνέχισε να τα χρησιμοποιεί σε περιβάλλοντα με ανεπαρκή εποπτεία.

Σύμφωνα με την επίσημη ανακοίνωση του υπουργείου Δικαιοσύνης της Καλιφόρνιας, η OpenAI φέρεται επίσης να παραπλάνησε το κοινό σχετικά με την αποτελεσματικότητα των μέτρων ασφαλείας της.

Πώς οι πράκτορες Τεχνητής Νοημοσύνης επιτέθηκαν στη Hugging Face

Το περιστατικό σημειώθηκε τον Ιούλιο του 2026, κατά τη διάρκεια εσωτερικών δοκιμών κυβερνοασφάλειας της OpenAI.

Στόχος των δοκιμών ήταν να αξιολογηθούν οι δυνατότητες πειραματικών μοντέλων Τεχνητής Νοημοσύνης, τα οποία λειτουργούσαν με περιορισμένα μέτρα προστασίας σε απομονωμένα ψηφιακά περιβάλλοντα.

Ωστόσο, σύμφωνα με την έκθεση που δημοσίευσε η ίδια η OpenAI στις 26 Αυγούστου, τα μοντέλα κατάφεραν να παρακάμψουν τεχνικούς περιορισμούς, να επικοινωνήσουν μεταξύ τους μέσω μη εγκεκριμένων διαύλων και να αποκτήσουν πρόσβαση στο Διαδίκτυο.

Στη συνέχεια, αυτόνομοι πράκτορες αξιοποίησαν αδυναμίες ασφαλείας για να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση σε συστήματα της Hugging Face, μιας πλατφόρμας που χρησιμοποιείται ευρέως για τη φιλοξενία και τη διανομή μοντέλων Τεχνητής Νοημοσύνης.

Σύμφωνα με τις Αρχές της Καλιφόρνιας, η επίθεση διήρκεσε περισσότερο από δύο ημέρες και περιλάμβανε συντονισμένες ενέργειες εκατοντάδων αυτόνομων πρακτόρων.

Η OpenAI είχε αναγνωρίσει δημοσίως το περιστατικό, χαρακτηρίζοντάς το πρωτοφανές και προειδοποιώντας ότι τα προηγμένα συστήματα Τεχνητής Νοημοσύνης μπορούν, χωρίς επαρκείς δικλίδες ασφαλείας, να παρακάμπτουν τεχνικούς περιορισμούς και να πραγματοποιούν ενέργειες που δεν έχουν ζητηθεί από ανθρώπους.

Καταγγελίες για τουλάχιστον 80 περιστατικά

Ιδιαίτερη βαρύτητα αποκτά η αναφορά του γενικού εισαγγελέα σε τουλάχιστον 80 περιστατικά κατά τα οποία, σύμφωνα με την αγωγή, η OpenAI έχασε τον έλεγχο αυτόνομων πρακτόρων κατά τη διάρκεια δοκιμών.

Οι Αρχές υποστηρίζουν ότι η εταιρεία δεν έχει παράσχει επαρκείς απαντήσεις στα ερωτήματα που της έχουν τεθεί σχετικά με αυτά τα συμβάντα.

Όπως μεταδίδει το TechCrunch, η αγωγή επικαλείται επίσης περιστατικά μη εξουσιοδοτημένης πρόσβασης σε υπηρεσίες και υποδομές τρίτων, μεταξύ των οποίων αποθετήρια λογισμικού, διαδικτυακές εγκυκλοπαίδειες και κυβερνητικοί ιστότοποι.

Οι καταγγελίες περιλαμβάνουν περιπτώσεις στις οποίες πράκτορες Τεχνητής Νοημοσύνης φέρεται να απέκτησαν πρόσβαση σε ευαίσθητες προσωπικές πληροφορίες.

Πρόκειται για ισχυρισμούς που περιλαμβάνονται στη δικαστική προσφυγή και δεν συνιστούν μέχρι στιγμής τελεσίδικα δικαστικά πορίσματα.

Τι απαντά η OpenAI

Η OpenAI απορρίπτει την προσέγγιση των Αρχών της Καλιφόρνιας, υποστηρίζοντας ότι η αγωγή στρέφεται επιλεκτικά εναντίον της για ένα πρόβλημα που αφορά ευρύτερα τη βιομηχανία της Τεχνητής Νοημοσύνης.

«Η αγωγή αυτή φαίνεται να στοχοποιεί αποκλειστικά την OpenAI για μια πρόκληση που έχει αναγνωριστεί από όλα τα μεγάλα εργαστήρια Τεχνητής Νοημοσύνης», δήλωσε ο εκπρόσωπος της εταιρείας, Ντρου Πουζατέρι, σύμφωνα με το Sky News.

Ο ίδιος τόνισε ότι, μετά το περιστατικό στη Hugging Face, η εταιρεία έχει πραγματοποιήσει εκτεταμένες έρευνες και έχει προχωρήσει σε ενίσχυση των μέτρων ασφαλείας της.

Η OpenAI υποστηρίζει ότι αντιμετωπίζει με σοβαρότητα το πρόβλημα της μη ευθυγραμμισμένης συμπεριφοράς των μοντέλων, δηλαδή των περιπτώσεων στις οποίες τα συστήματα Τεχνητής Νοημοσύνης ενεργούν με τρόπους που αποκλίνουν από τις ανθρώπινες οδηγίες ή τους προβλεπόμενους στόχους τους.

Παράλληλα, διαβεβαιώνει ότι συνεχίζει να συνεργάζεται με το γραφείο του γενικού εισαγγελέα για την ανάπτυξη αποτελεσματικών προτύπων ασφάλειας.

Τι ζητά η Καλιφόρνια από το δικαστήριο

Η αγωγή επικαλείται τη νομοθεσία της Καλιφόρνιας περί αθέμιτων επιχειρηματικών πρακτικών, καθώς και διατάξεις που αφορούν την προστασία του κοινού από δραστηριότητες οι οποίες δημιουργούν κινδύνους για τη δημόσια ασφάλεια.

Σύμφωνα με το Associated Press, ο Ρομπ Μπόντα ζητά από το δικαστήριο να υποχρεώσει την OpenAI να αλλάξει τις επιχειρηματικές πρακτικές της, να εφαρμόσει αυστηρότερα μέτρα προστασίας και να καταβάλει τις προβλεπόμενες οικονομικές κυρώσεις.

Η υπόθεση εντείνει την πίεση που δέχονται οι εταιρείες Τεχνητής Νοημοσύνης στις Ηνωμένες Πολιτείες, καθώς οι νομοθέτες εξετάζουν αυστηρότερους κανόνες για την ανάπτυξη και την ανεξάρτητη αξιολόγηση των ισχυρότερων μοντέλων.

Το βασικό ερώτημα που τίθεται πλέον ενώπιον της αμερικανικής Δικαιοσύνης είναι κατά πόσο οι εταιρείες που αναπτύσσουν προηγμένα αυτόνομα συστήματα μπορούν να θεωρηθούν νομικά υπεύθυνες όταν αυτά παρακάμπτουν τους περιορισμούς ασφαλείας και προκαλούν ζημιές σε τρίτους.

Google Προσθέστε το ENIKOS στην Google
Ακολουθήστε το ENIKOS στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.