Συναγερμός επικρατεί στις τράπεζες αλλά και στις κυβερνήσεις για νέο μοντέλο τεχνητής νοημοσύνης, Mythos, της Anthropic, καθώς αυξάνονται οι ανησυχίες ότι δεν αποκλείεται να εγκαινιάσει μια εποχή αυξημένου κυβερνο-κινδύνου.
Ο πρόεδρος της Ομοσπονδιακής Τράπεζας των ΗΠΑ (Federal Reserve), Τζερόμ Πάουελ, και ο υπουργός Οικονομικών, Σκοτ Μπέσεντ, συναντήθηκαν με διευθύνοντες συμβούλους μεγάλων αμερικανικών τραπεζών αυτή την εβδομάδα για να συζητήσουν τους πιθανούς κυβερνοκινδύνους που εγείρει το μοντέλο Mythos της Anthropic, αναφέρει το CNBC.
Τα ηγετικά στελέχη των τραπεζών βρίσκονταν ήδη στην Ουάσιγκτον για μια συνεδρίαση του διοικητικού συμβουλίου του Φόρουμ Χρηματοοικονομικών Υπηρεσιών (Financial Services Forum), όταν αποφασίστηκε η σύγκληση έκτακτης σύσκεψης την Τρίτη για να συζητηθεί το Mythos, σύμφωνα με ανθρώπους που γνωρίζουν το θέμα και ζήτησαν να μην κατονομαστούν προκειμένου να μοιραστούν πληροφορίες σχετικά με την υπόθεση.
Ποιοι έδωσαν το παρών στη μυστική σύσκεψη
Οι διευθύνοντες σύμβουλοι είχαν ένα δείπνο νωρίς μέσα στην εβδομάδα όταν έλαβαν την κλήση να συναντηθούν στο Υπουργείο Οικονομικών, ανέφερε ένα από τα πρόσωπα αυτά στο αμερικανικό μέσο. Ο Τζέιμι Ντάιμον της JPMorgan ήταν ο μόνος επικεφαλής μεγάλης τράπεζας που δεν μπόρεσε να παραστεί στη συνάντηση, πρόσθεσαν.
Στη συνάντηση παρευρέθηκαν ο Μπράιαν Μόινιχαν της Bank of America, η Τζέιν Φρέιζερ της Citigroup, ο διευθύνων σύμβουλος της Goldman Sachs Ντέιβιντ Σόλομον, ο Τεντ Πικ της Morgan Stanley και ο διευθύνων σύμβουλος της Wells Fargo Τσάρλι Σαρφ, ανέφερε το Bloomberg, επικαλούμενο πηγές που γνωρίζουν τη συνάντηση.
Το Project Glasswing και η περιορισμένη κυκλοφορία του Claude
Σημειώνεται ότι νωρίτερα αυτή την εβδομάδα, η Anthropic παρουσίασε το νέο μοντέλο τεχνητής νοημοσύνης, Claude Mythos Preview, σε περιορισμένη κλίμακα, λόγω ανησυχιών ότι χάκερ θα μπορούσαν να εκμεταλλευτούν τις δυνατότητές του. Ο τραπεζικός κολοσσός JPMorgan Chase ήταν μεταξύ όσων συμμετείχαν αρχικά στην πρωτοβουλία κυβερνοασφάλειας, γνωστή ως Project Glasswing. Στη λίστα περιλαμβάνονται επίσης η Apple, η Google, η Microsoft και η Nvidia.
Αξιωματούχος της Anthropic δήλωσε στο CNBC την Τρίτη ότι η εταιρεία βρίσκεται σε «συνεχείς συζητήσεις» με την κυβέρνηση των ΗΠΑ, συμπεριλαμβανομένης της Υπηρεσίας Κυβερνοασφάλειας και Ασφάλειας Υποδομών (CISA) και του Κέντρου Προτύπων Τεχνητής Νοημοσύνης και Καινοτομίας, σχετικά με τις κυβερνο-δυνατότητες του Claude Mythos Preview.
Οι πιθανοί κίνδυνοι
Στα τέλη του περασμένου μήνα, οι μετοχές εταιρειών κυβερνοασφάλειας σημείωσαν πτώση, αφού το περιοδικό Fortune έφερε στο φως το προσχέδιο μιας ανάρτησης σε ιστολόγιο της Anthropic, το οποίο αποκάλυπτε τις προηγμένες κυβερνο-δυνατότητες του μοντέλου, καθώς και τους πιθανούς κινδύνους.
«Οι κίνδυνοι σε περίπτωση που αποτύχουμε είναι προφανείς, αλλά αν τα καταφέρουμε, υπάρχει μια πραγματική ευκαιρία να δημιουργήσουμε ένα θεμελιωδώς πιο ασφαλές διαδίκτυο και έναν κόσμο ασφαλέστερο από εκείνον που είχαμε πριν από την έλευση των δυνατοτήτων κυβερνοχώρου που βασίζονται στην Τεχνητή Νοημοσύνη», έγραψε ο διευθύνων σύμβουλος Dario Amodei σε ανάρτησή του στο X, που συνόδευε την παρουσίαση του Glasswing.
Χάκερ έχουν χρησιμοποιήσει στο παρελθόν μοντέλα της Anthropic για να ενορχηστρώσουν επιθέσεις τροφοδοτούμενες από Τεχνητή Νοημοσύνη. Τον Νοέμβριο, η εταιρεία αποκάλυψε ότι μια κινεζική ομάδα χρησιμοποίησε τον Claude για να αυτοματοποιήσει μια επίθεση σε κυβερνητικούς και εταιρικούς στόχους.
Η Anthropic βρίσκεται επί του παρόντος σε δικαστική διαμάχη με το Υπουργείο Άμυνας σχετικά με τον πρόσφατο χαρακτηρισμό του εργαστηρίου τεχνητής νοημοσύνης ως κινδύνου για την εθνική ασφάλεια της εφοδιαστικής αλυσίδας. Αυτή την εβδομάδα, ένα δικαστήριο απέρριψε το αίτημα της εταιρείας να μπλοκάρει προσωρινά την ένταξή της στη «μαύρη λίστα».
Τι αναφέρει η εταιρεία για το Project Glasswing
Όπως ανέφερε η Anthropic, το Project Glasswing, «είναι μια νέα πρωτοβουλία που φέρνει κοντά τις Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, το Linux Foundation, τη Microsoft, την NVIDIA και την Palo Alto Networks, σε μια προσπάθεια να θωρακίσουμε το πιο κρίσιμο λογισμικό του κόσμου».
«Δημιουργήσαμε το Project Glasswing λόγω των δυνατοτήτων που παρατηρήσαμε σε ένα νέο μοντέλο αιχμής (frontier model) που εκπαιδεύτηκε από την Anthropic, το οποίο πιστεύουμε ότι θα μπορούσε να αναδιαμορφώσει την κυβερνοασφάλεια. Το Claude Mythos Preview είναι ένα μοντέλο γενικής χρήσης, που δεν έχει κυκλοφορήσει ακόμη, και το οποίο αποκαλύπτει ένα αδιάσειστο γεγονός: τα μοντέλα τεχνητής νοημοσύνης έχουν φτάσει σε ένα επίπεδο προγραμματιστικής ικανότητας όπου μπορούν να ξεπεράσουν όλους -εκτός από τους πιο εξειδικευμένους ανθρώπους- στον εντοπισμό και την εκμετάλλευση τρωτών σημείων λογισμικού.
Το Mythos Preview έχει ήδη εντοπίσει χιλιάδες ευπάθειες υψηλής σοβαρότητας, συμπεριλαμβανομένων ορισμένων σε κάθε σημαντικό λειτουργικό σύστημα και πρόγραμμα περιήγησης. Δεδομένου του ρυθμού προόδου της Τεχνητής Νοημοσύνης, δεν θα αργήσει η στιγμή που τέτοιες δυνατότητες θα πολλαπλασιαστούν, ενδεχομένως και πέρα από φορείς που δεσμεύονται να τις χρησιμοποιούν με ασφάλεια. Οι επιπτώσεις -για τις οικονομίες, τη δημόσια ασφάλεια και την εθνική ασφάλεια- θα μπορούσαν να είναι σοβαρές. Το Project Glasswing αποτελεί μια επείγουσα προσπάθεια να αξιοποιηθούν αυτές οι δυνατότητες για αμυντικούς σκοπούς», τονίζεται στην ιστοσελίδα της εταιρείας.
«Ως μέρος του Project Glasswing, οι εταίροι που αναφέρονται παραπάνω θα χρησιμοποιήσουν το Mythos Preview στο πλαίσιο των εργασιών τους για την αμυντική ασφάλεια. Η Anthropic θα μοιραστεί τα όσα μαθαίνουμε, ώστε να ωφεληθεί ολόκληρος ο κλάδος. Έχουμε επίσης επεκτείνει την πρόσβαση σε μια ομάδα περισσότερων από 40 επιπλέον οργανισμών που κατασκευάζουν ή συντηρούν κρίσιμες υποδομές λογισμικού, ώστε να μπορούν να χρησιμοποιούν το μοντέλο για τη σάρωση και την ασφάλεια τόσο ιδιόκτητων όσο και συστημάτων ανοικτού κώδικα. Η Anthropic διαθέτει έως και 100 εκατομμύρια δολάρια σε πιστώσεις χρήσης για το Mythos Preview σε αυτές τις προσπάθειες, καθώς και 4 εκατομμύρια δολάρια σε άμεσες δωρεές σε οργανισμούς ασφάλειας ανοικτού κώδικα.
Το Project Glasswing είναι μόνο η αφετηρία. Κανένας οργανισμός δεν μπορεί να λύσει μόνος του αυτά τα προβλήματα κυβερνοασφάλειας: οι προγραμματιστές τεχνητής νοημοσύνης αιχμής, άλλες εταιρείες λογισμικού, ερευνητές ασφαλείας, συντηρητές ανοικτού κώδικα και κυβερνήσεις σε όλο τον κόσμο έχουν όλοι ουσιαστικούς ρόλους να διαδραματίσουν. Το έργο της προάσπισης της παγκόσμιας κυβερνο-υποδομής μπορεί να διαρκέσει χρόνια, οι δυνατότητες της τεχνητής νοημοσύνης αιχμής είναι πιθανό να εξελιχθούν σημαντικά μέσα στους επόμενους κιόλας μήνες. Για να βγουν κερδισμένοι οι υπερασπιστές του κυβερνοχώρου, πρέπει να δράσουμε τώρα», καταλήγει.
Εντοπισμός τρωτών σημείων
Η Anthropic στην τεχνική της τεκμηρίωση αναφέρει ότι, στις εσωτερικές δοκιμές, χρησιμοποιήθηκε το Claude Mythos Preview για να εντοπιστούν χιλιάδες ευπάθειες zero-day (δηλαδή, σφάλματα που ήταν προηγουμένως άγνωστα στους προγραμματιστές του λογισμικού), πολλές εκ των οποίων είναι κρίσιμες, σε κάθε σημαντικό λειτουργικό σύστημα και σε κάθε σημαντικό πρόγραμμα περιήγησης ιστού, μαζί με μια σειρά από άλλα σημαντικά τμήματα λογισμικού.
«Σε μια ανάρτηση στο ιστολόγιό μας Frontier Red Team, παρέχουμε τεχνικές λεπτομέρειες για ένα υποσύνολο αυτών των ευπαθειών που έχουν ήδη διορθωθεί και, σε ορισμένες περιπτώσεις, τους τρόπους που βρήκε το Mythos Preview για να τις εκμεταλλευτεί. Ήταν σε θέση να εντοπίσει σχεδόν όλες αυτές τις ευπάθειες -και να αναπτύξει πολλά σχετικά exploits- εντελώς αυτόνομα, χωρίς καμία ανθρώπινη καθοδήγηση. Ακολουθούν τρία παραδείγματα:
Το Mythos Preview βρήκε μια ευπάθεια 27 ετών στο OpenBSD -το οποίο έχει τη φήμη ενός από τα πιο θωρακισμένα συστήματα στον κόσμο και χρησιμοποιείται για τη λειτουργία τειχών προστασίας (firewalls) και άλλων κρίσιμων υποδομών. Η ευπάθεια επέτρεπε σε έναν εισβολέα να καταστρέψει εξ αποστάσεως οποιοδήποτε μηχάνημα έτρεχε το λειτουργικό σύστημα, απλώς και μόνο με τη σύνδεση σε αυτό.
Ανακάλυψε επίσης μια ευπάθεια 16 ετών στο FFmpeg -το οποίο χρησιμοποιείται από αναρίθμητα προγράμματα λογισμικού για την κωδικοποίηση και αποκωδικοποίηση βίντεο- σε μια γραμμή κώδικα την οποία αυτοματοποιημένα εργαλεία δοκιμών είχαν «χτυπήσει» πέντε εκατομμύρια φορές χωρίς ποτέ να εντοπίσουν το πρόβλημα.
Το μοντέλο βρήκε και συνέδεσε αυτόνομα μεταξύ τους (chained) αρκετές ευπάθειες στον πυρήνα (kernel) του Linux -το λογισμικό που τρέχει τους περισσότερους διακομιστές στον κόσμο- επιτρέποντας σε έναν εισβολέα να αναβαθμίσει την πρόσβασή του από απλό χρήστη σε πλήρη έλεγχο του μηχανήματος.
Έχουμε αναφέρει τις παραπάνω ευπάθειες στους συντηρητές του σχετικού λογισμικού και πλέον έχουν όλες διορθωθεί. Για πολλές άλλες ευπάθειες, παρέχουμε έναν κρυπτογραφικό κατακερματισμό (cryptographic hash) των λεπτομερειών και θα αποκαλύψουμε τα συγκεκριμένα στοιχεία αφού εφαρμοστεί η διόρθωση.
Τα κριτήρια αξιολόγησης (benchmarks), όπως το CyberGym, ενισχύουν την ουσιαστική διαφορά μεταξύ του Mythos Preview και του αμέσως επόμενου καλύτερου μοντέλου μας, του Claude Opus 4.6:» τονίζεται.