Τα βασικά σημεία του άρθρου
- Η Anthropic αποκάλυψε ότι απέτρεψε απόπειρες κατάχρησης των μοντέλων Τεχνητής Νοημοσύνης της για κυβερνοεπιθέσεις, κατασκοπεία και έρευνα που θα μπορούσε να συμβάλει στη δημιουργία πιο επικίνδυνων βιολογικών παραγόντων.
- Ανάμεσα στις περιπτώσεις ήταν αίτημα προς το Claude για σύνταξη πρότασης χρηματοδότησης έρευνας με στόχο την ενίσχυση ιδιοτήτων του ιού chikungunya, το οποίο μπλοκαρίστηκε.
- Η εταιρεία παραδέχεται ότι τα σημερινά συστήματα ΤΝ είναι πολύ πιο ικανά και έχει εφαρμόσει ισχυρότερες δικλίδες ασφαλείας για βιολογική έρευνα διπλής χρήσης.
Η Anthropic αποκάλυψε ότι απέτρεψε απόπειρες κατάχρησης των μοντέλων Τεχνητής Νοημοσύνης της για κυβερνοεπιθέσεις, κατασκοπεία και έρευνα που θα μπορούσε να συμβάλει στη δημιουργία πιο επικίνδυνων βιολογικών παραγόντων. Ανάμεσα στις περιπτώσεις που εντόπισε ήταν αίτημα προς το Claude για σύνταξη πρότασης χρηματοδότησης έρευνας με στόχο την ενίσχυση ιδιοτήτων του ιού chikungunya.
Σύμφωνα με το Sky News, η αμερικανική εταιρεία δημοσίευσε εκτενή έκθεση για την κακόβουλη χρήση της Τεχνητής Νοημοσύνης, καταγράφοντας περιστατικά που αφορούσαν από επιβλαβή κώδικα και κυβερνοεπιθέσεις έως επικίνδυνα αιτήματα σχετιζόμενα με βιολογική έρευνα.
Από τον Δεκέμβριο του 2025 έως τον Αύγουστο του 2026, οι ερευνητές της Anthropic εντόπισαν κατάχρηση των συστημάτων της από, μεταξύ άλλων, «πολιτικά υποκινούμενα άτομα», κρατικά υποστηριζόμενες ομάδες που επιχειρούσαν να διαδώσουν προπαγάνδα και εταιρείες κατασκοπευτικού λογισμικού.
Το αίτημα για τον ιό chikungunya
Μία από τις σοβαρότερες περιπτώσεις αφορούσε αίτημα προς το Claude να βοηθήσει στη δημιουργία πρότασης για επιστημονική χρηματοδότηση έρευνας που θα αποσκοπούσε στη δημιουργία «νέας ή ενισχυμένης βιολογικής ιδιότητας» του ιού chikungunya.
Ο chikungunya μεταδίδεται μέσω κουνουπιών και μπορεί να προκαλέσει, μεταξύ άλλων, υψηλό πυρετό και έντονους πόνους στις αρθρώσεις.
Σύμφωνα με την Anthropic, το αίτημα αφορούσε την ενίσχυση μεταλλάξεων με τρόπο που θα μπορούσε να καταστήσει τον ιό πιο επιβλαβή, με την εταιρεία να εκτιμά ότι μια τέτοια χρήση θα μπορούσε να συμβάλει στη δημιουργία πιο επικίνδυνου παθογόνου.
Το αίτημα μπλοκαρίστηκε.
Από κυβερνοεπιθέσεις έως κατασκοπευτικό λογισμικό
Η έκθεση της Anthropic περιγράφει επίσης περιπτώσεις κατά τις οποίες τα μοντέλα της επιχειρήθηκε να χρησιμοποιηθούν για κυβερνοεπιθέσεις και δημιουργία κακόβουλου λογισμικού, αλλά και από φορείς που συνδέονταν με επιχειρήσεις προπαγάνδας ή εμπορικό κατασκοπευτικό λογισμικό.
Η εταιρεία αναφέρει ότι οι περισσότερες από τις υποθέσεις που κατέγραψε δεν αφορούσαν τα νεότερα μοντέλα της.
Μοναδική εξαίρεση ήταν, σύμφωνα με την έκθεση, μια «βιομηχανικής κλίμακας, συγκαλυμμένη εκστρατεία» που είχε στόχο την εξαγωγή των δυνατοτήτων ενός μοντέλου και την αντιγραφή τους σε άλλο σύστημα χωρίς άδεια.
Η Anthropic παραδέχεται ότι τα νεότερα μοντέλα αλλάζουν τα δεδομένα
Η εταιρεία επισημαίνει ότι παλαιότερα μοντέλα, όπως τα Claude Opus 4 και Claude Sonnet 4.5, βρίσκονταν «πολύ κάτω από το όριο» που θα τους επέτρεπε να βοηθήσουν αποτελεσματικά έναν χρήστη να πραγματοποιήσει επικίνδυνη βιολογική έρευνα.
Για τον λόγο αυτό, οι δικλίδες ασφαλείας εκείνης της περιόδου επικεντρώνονταν κυρίως στο να αποτρέπουν την παροχή πληροφοριών που θα μπορούσαν να βοηθήσουν μη ειδικούς να αναπαραγάγουν ήδη γνωστά βιολογικά όπλα.
Όμως, σύμφωνα με την Anthropic, τα σημερινά συστήματα είναι πολύ πιο ικανά.
«Για τα σημερινά μοντέλα, τα οποία μπορούν να βοηθήσουν σε ένα ευρύ φάσμα σύνθετων επιστημονικών ερευνητικών εργασιών, τα στοιχεία δεν είναι πλέον τόσο ξεκάθαρα και δεν μπορούμε να δώσουμε την ίδια διαβεβαίωση», αναφέρει η εταιρεία στην έκθεσή της.
Ισχυρότερα φίλτρα για βιολογική έρευνα διπλής χρήσης
Η Anthropic ανακοίνωσε ότι έχει πλέον εφαρμόσει ισχυρότερες δικλίδες ασφαλείας που περιορίζουν την πρόσβαση σε ένα ευρύ φάσμα ερωτημάτων σχετικά με βιολογική έρευνα διπλής χρήσης, δηλαδή έρευνα που μπορεί να έχει νόμιμη επιστημονική εφαρμογή αλλά και να αξιοποιηθεί για επικίνδυνους σκοπούς.
Η αποκάλυψη επαναφέρει στο προσκήνιο το ερώτημα κατά πόσο μπορούν οι ίδιες οι εταιρείες τεχνητής νοημοσύνης να ελέγχουν επαρκώς τα όλο και ισχυρότερα μοντέλα τους.
Ειδικοί έχουν επανειλημμένα ζητήσει από τις κυβερνήσεις να θεσπίσουν κανόνες και μηχανισμούς εποπτείας, αντί η ασφάλεια να βασίζεται αποκλειστικά στις αποφάσεις των ίδιων των εταιρειών.
Ερευνητής της Anthropic παραιτήθηκε προειδοποιώντας για τους κινδύνους της Τεχνητής Νοημοσύνης
Η έκθεση δημοσιεύθηκε λίγες ημέρες μετά την παραίτηση του ερευνητή της Anthropic Τζέικομπ Κόξον, ο οποίος υποστήριξε ότι η εταιρεία και η ανταγωνίστριά της OpenAI κινούνται με μεγάλη ταχύτητα προς συστήματα Τεχνητής Νοημοσύνης που θα μπορούν να βελτιώνουν μόνα τους τις δυνατότητές τους.
Ο Κόξον προειδοποίησε ότι οι εταιρείες «τρέχουν κατευθείαν προς μια αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας».
Όπως ανέφερε, ορισμένοι συνάδελφοί του θεωρούν ακόμη και πιθανό η προηγμένη Τεχνητή Νοημοσύνη να αποτελέσει υπαρξιακή απειλή για την ανθρωπότητα πριν από το τέλος της δεκαετίας.