Η Τεχνητή Νοημοσύνη δεν έχει μετατρέψει ακόμη έναν μεμονωμένο χρήστη σε «κατασκευαστή» θανατηφόρων παθογόνων, όμως η ταχύτατη ανάπτυξης εξειδικευμένων μοντέλων βιολογίας δημιουργεί έναν πολύ πιο ανησυχητικό ορίζοντα: συστήματα που μπορούν να σχεδιάζουν νέα γονιδιώματα, να προβλέπουν πιο μεταδοτικές ή θανατηφόρες παραλλαγές και, χωρίς ισχυρές δικλίδες ασφαλείας, να χρησιμοποιηθούν στο μέλλον για την ανάπτυξη βιολογικών όπλων. Την ανησυχία εντείνουν πρόσφατα αιτήματα από το εξωτερικό προς μοντέλα της Anthropic, τα οποία φαίνεται ότι προήλθαν από κρατικά εργαστήρια και αφορούσαν παθογόνα.
Σύμφωνα με ανάλυση των New York Times, ο κίνδυνος δεν βρίσκεται τόσο στα σημερινά chatbots όσο σε μια νέα γενιά μοντέλων Τεχνητής Νοημοσύνης που εκπαιδεύονται απευθείας πάνω σε δεδομένα DNA, κυττάρων και γονιδιωμάτων. Τα συστήματα αυτά δεν περιορίζονται στην αναζήτηση ήδη υπάρχουσας επιστημονικής γνώσης, αλλά μπορούν να ανακαλύπτουν βιολογικά μοτίβα και να παράγουν νέες αλληλουχίες που δεν υπάρχουν στη φύση.
Οι φόβοι έχουν ενταθεί μέσα σε λίγους μόνο μήνες. Τον Απρίλιο, ειδικοί στη βιοασφάλεια προειδοποίησαν ότι ήταν ανησυχητικά εύκολο να αποσπαστούν από chatbots πληροφορίες για τρόπους με τους οποίους παθογόνα θα μπορούσαν να γίνουν πιο επικίνδυνα.
Τον Ιούνιο, επιστήμονες και στελέχη εταιρειών Τεχνητής Νοημοσύνης υπέγραψαν ανοικτή επιστολή ζητώντας αυστηρότερους ελέγχους στην κατασκευή συνθετικού DNA, καθώς η Τεχνητή Νοημοσύνη μπορεί πλέον να επιταχύνει τον σχεδιασμό τοξινών και ιών.
Τον Αύγουστο, επιστήμονες ανακοίνωσαν ότι χρησιμοποίησαν Τεχνητή Νοημοσύνη για να δημιουργήσουν ιούς που δεν είχαν υπάρξει στη φύση.
Και την περασμένη Πέμπτη, η Anthropic ανακοίνωσε ότι είχε μπλοκάρει αρκετές απόπειρες χρήσης των μοντέλων της από άτομα που ενδεχομένως επιχειρούσαν να αξιοποιήσουν παθογόνα ως όπλα.
Ντάριο Αμοντέι: Να απαγορευτεί η χρήση AI για βιολογικά όπλα
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, επανήλθε το Σάββατο ζητώντας επιβράδυνση της ανάπτυξης των πλέον προηγμένων συστημάτων Τεχνητής Νοημοσύνης και ισχυρότερες δικλίδες ασφαλείας.
Μεταξύ των μέτρων που πρότεινε ήταν η απαγόρευση της χρήσης Τεχνητής Νοημοσύνης για την παραγωγή βιολογικών όπλων, καθώς και της δυνατότητας των εταιρειών να επιτρέπουν στους χρήστες τους να αξιοποιούν τα συστήματά τους για τέτοιους σκοπούς.
Όμως οι ειδικοί που μίλησαν στους New York Times προειδοποιούν ότι η σημερινή εικόνα είναι πιο σύνθετη από το σενάριο ενός οποιουδήποτε χρήστη που ανοίγει ένα chatbot και δημιουργεί έναν νέο θανατηφόρο ιό.
«Ο κίνδυνος από τα σημερινά chatbots παραμένει σχετικά περιορισμένος»
Ο Ντρου Έντι, συνθετικός βιολόγος στο Πανεπιστήμιο Στάνφορντ και συντάκτης έκθεσης για τη βιοασφάλεια, εκτιμά ότι μοντέλα όπως το Claude της Anthropic δεν έχουν ακόμη αλλάξει ριζικά το επίπεδο κινδύνου.
Όπως είπε, ο καθαρός αντίκτυπός τους στον σημερινό κίνδυνο για τη βιοασφάλεια είναι «σχετικά περιορισμένος». Αυτό, ωστόσο, μπορεί να αλλάξει όσο εξελίσσονται τα μοντέλα που έχουν σχεδιαστεί ειδικά για τη βιολογική έρευνα.
Ήδη υπάρχουν συστήματα που μπορούν να δημιουργούν γονιδιώματα βιώσιμων ιών οι οποίοι δεν έχουν εμφανιστεί ποτέ στη φύση. Θεωρητικά, ένα μελλοντικό μοντέλο θα μπορούσε να χρησιμοποιήσει παρόμοιες δυνατότητες για την ανάπτυξη ενός νέου βιολογικού όπλου.
Τι ακριβώς είναι ένα βιολογικό όπλο;
Ένα βιολογικό όπλο μπορεί να βασίζεται σε έναν ιό ή άλλο παθογόνο οργανισμό, όπως ένα βακτήριο ή έναν μύκητα, ο οποίος έχει σχεδιαστεί ή χρησιμοποιείται ώστε να εξαπολυθεί εναντίον στρατιωτικών δυνάμεων ή αμάχων.
Μπορεί επίσης να περιλαμβάνει τοξίνες που παράγονται από ζωντανούς οργανισμούς, όπως η αλλαντική τοξίνη που παράγεται από βακτήρια ή η ρικίνη που προέρχεται από το φυτό ρετσινολαδιά.
Τα βιολογικά όπλα διαφέρουν από τα χημικά όπλα, όπως τα νευροπαραλυτικά αέρια, τα οποία συντίθενται εργαστηριακά ως χημικές ουσίες.
Βιολογικός πόλεμος πολύ πριν από την Τεχνητή Νοημοσύνη
Οι βιολογικοί κίνδυνοι, βέβαια, δεν γεννήθηκαν με την OpenAI ή την Anthropic. Οι New York Times υπενθυμίζουν ότι ήδη από τον Μεσαίωνα στρατοί επιχειρούσαν να χρησιμοποιήσουν ασθένειες ως όπλα.
Το 1346, σύμφωνα με ιστορικές αναφορές, οι Μογγόλοι εκτόξευσαν με καταπέλτες πτώματα ανθρώπων που είχαν πεθάνει από βουβωνική πανώλη μέσα στην πολιορκημένη πόλη Κάφα, στη Μαύρη Θάλασσα.
Πέντε αιώνες αργότερα, αφού η επιστήμη είχε αναπτύξει τη μικροβιακή θεωρία των ασθενειών, οι προσπάθειες έγιναν πολύ πιο συστηματικές.
Κατά τον Α’ Παγκόσμιο Πόλεμο, Γερμανοί πράκτορες μετέφεραν κρυφά βακτήρια στις Ηνωμένες Πολιτείες και σε άλλες χώρες, χρησιμοποιώντας τα για να σκοτώσουν χιλιάδες άλογα και μουλάρια.
Παρότι το Πρωτόκολλο της Γενεύης απαγόρευσε τον βιολογικό πόλεμο, οι μεγάλες δυνάμεις συνέχισαν να αναπτύσσουν τέτοια όπλα.
Οι ΗΠΑ και η Σοβιετική Ένωση απέκτησαν τεράστια αποθέματα, τα οποία περιλάμβαναν από βόμβες με άνθρακα έως μέσα φορτωμένα με μύκητες που μπορούσαν να καταστρέψουν καλλιέργειες σιταριού.
Μετά την υπογραφή της Σύμβασης για τα Βιολογικά Όπλα το 1975, οι Ηνωμένες Πολιτείες κατέστρεψαν τα μεγάλα αποθέματά τους, αλλά συνέχισαν να μελετούν τα βιολογικά όπλα με στόχο την ανάπτυξη αμυντικών μέτρων.
Η Σοβιετική Ένωση, αντίθετα, συνέχισε μυστικά εκτεταμένες έρευνες πάνω σε παθογόνα, μεταξύ των οποίων και ο ιός της ευλογιάς, με στόχο μια νέα γενιά βιολογικών όπλων.
Το παράδοξο: Τεράστιες δυνατότητες, αλλά ελάχιστα γνωστά θύματα
Παρά τη μακρά ιστορία των προγραμμάτων βιολογικού πολέμου, τα βιολογικά όπλα έχουν προκαλέσει, τουλάχιστον σύμφωνα με όσα είναι δημόσια γνωστά, πολύ λίγους θανάτους μετά τον Β’ Παγκόσμιο Πόλεμο. Οι λόγοι παραμένουν ασαφείς.
Ο Τόμας Ίνγκλεσμπι, διευθυντής του Johns Hopkins Center for Health Security, επισημαίνει ότι δεν γνωρίζουμε πόσα σχέδια επιχειρήθηκαν και απέτυχαν, πόσα αποτράπηκαν και πόσα εγκαταλείφθηκαν επειδή αποδείχθηκαν τεχνικά υπερβολικά δύσκολα.
Αυτό όμως δεν σημαίνει ότι η απειλή έχει εξαφανιστεί.
Αντίθετα, κάποιος που θα επιχειρούσε σήμερα να αναπτύξει βιολογικά όπλα διαθέτει εργαλεία τα οποία οι προηγούμενες γενιές ερευνητών μπορούσαν μόνο να φανταστούν.
Η σύνθεση DNA έγινε φθηνότερη και ευκολότερη
Χαρακτηριστικό παράδειγμα είναι η δυνατότητα παραγγελίας και σύνθεσης DNA. Το 2016, Καναδοί επιστήμονες κατάφεραν να αναδημιουργήσουν τον ιό της ευλογιάς των αλόγων, συγγενικό με τον ιό της ανθρώπινης ευλογιάς και εξαφανισμένο από τη φύση εδώ και δεκαετίες.
Οι ερευνητές χώρισαν το γονιδίωμα του ιού σε μικρότερα τμήματα και έστειλαν τις αλληλουχίες ηλεκτρονικά σε εταιρεία κατασκευής DNA.
Η εταιρεία παρήγαγε τα μόρια DNA και τα επέστρεψε στους επιστήμονες, οι οποίοι τα συναρμολόγησαν σε πλήρες ιικό γονιδίωμα και τα εισήγαγαν σε κύτταρα.
Τα μολυσμένα κύτταρα στη συνέχεια παρήγαγαν πραγματικούς ιούς horsepox. Αυτό που τότε θεωρήθηκε εξαιρετικά προηγμένο και ταυτόχρονα ανησυχητικό επιστημονικό επίτευγμα έχει σήμερα γίνει φθηνότερο και τεχνικά ευκολότερο, χάρη στην πρόοδο στη σύνθεση DNA και σε άλλες βιοτεχνολογίες.
Τι προσθέτουν τα chatbots στον κίνδυνο
Ένα σημερινό chatbot μπορεί να αναζητήσει την επιστημονική βιβλιογραφία και να συγκεντρώσει πληροφορίες που θα ενδιέφεραν κάποιον ο οποίος επιδιώκει να αναπτύξει βιολογικό όπλο.
Ο Ίνγκλεσμπι επισημαίνει ότι αυτό μπορεί να προσφέρει πολύ περισσότερα σε έναν κακόβουλο χρήστη από μια απλή διαδικτυακή αναζήτηση.
Η ουσιαστική διαφορά είναι ότι ένα σύστημα Τεχνητής Νοημοσύνης μπορεί να συνομιλεί επανειλημμένα με τον χρήστη, να απαντά σε απεριόριστο αριθμό διευκρινιστικών ερωτήσεων, να βοηθά στην αντιμετώπιση προβλημάτων και να εξηγεί τεχνικά ζητήματα όλο και πιο αναλυτικά.
Παράλληλα, μπορεί να εντοπίζει και να παρουσιάζει τις κατάλληλες επιστημονικές πηγές και τεχνικό υλικό ώστε οι πληροφορίες να γίνονται περισσότερο αξιοποιήσιμες.
Όπως το έθεσε ο Ίνγκλεσμπι, η Τεχνητή Νοημοσύνη έχει σχεδιαστεί ώστε η πληροφορία που παρέχει να μπορεί να χρησιμοποιηθεί πρακτικά, ενώ επιτρέπει στον χρήστη να επιστρέφει ξανά και ξανά με νέες ερωτήσεις για να διορθώνει προβλήματα.
Ο Έντι, από την πλευρά του, χαρακτήρισε θετικό το γεγονός ότι η Anthropic παρακολουθεί τα αιτήματα προς τα μοντέλα της για ενδείξεις επικίνδυνων προθέσεων.
Όπως είπε, εφόσον η εικόνα που παρουσιάζει η εταιρεία είναι ακριβής, η ομάδα της Anthropic φαίνεται να προσπαθεί να λειτουργήσει υπεύθυνα απέναντι σε ένα νέο και δυνητικά επικίνδυνο εργαλείο.
Το επόμενο επίπεδο: AI που «μαθαίνει» βιολογία από DNA
Ο μεγαλύτερος προβληματισμός αφορά όμως όχι τα συμβατικά μεγάλα γλωσσικά μοντέλα, αλλά τα νέα επιστημονικά μοντέλα Τεχνητής Νοημοσύνης.
Τα συνηθισμένα chatbots εκπαιδεύονται σε τεράστιες ποσότητες κειμένου, μεταξύ των οποίων και επιστημονικές δημοσιεύσεις και τα καταγεγραμμένα αποτελέσματα προηγούμενων γενεών επιστημόνων.
Μπορούν να ανακτήσουν πληροφορίες πολύ γρήγορα ή να εντοπίσουν συνδέσεις μεταξύ ερευνητικών ευρημάτων που είχαν περάσει απαρατήρητες. Δεν διαθέτουν, όμως, βαθιά βιολογική κατανόηση πέρα από όσα έχουν ήδη ανακαλύψει οι επιστήμονες.
Άλλα μοντέλα εκπαιδεύονται απευθείας πάνω σε ακατέργαστα δεδομένα DNA και κυττάρων και μπορούν, έως έναν βαθμό, να ανακαλύπτουν μόνα τους βιολογικά πρότυπα.
Το Evo2 δημιούργησε νέους ιούς που δεν υπήρχαν στη φύση
Επιστήμονες του Στάνφορντ και του Arc Institute ανέπτυξαν ένα τέτοιο μοντέλο, το Evo2, εκπαιδεύοντάς το σε αλληλουχίες DNA από εκατομμύρια είδη.
Το Evo2 κατάφερε να εντοπίσει κρυμμένα μοτίβα στα γονίδια και να χρησιμοποιηθεί για τη δημιουργία νέων τύπων ενζύμων.
Οι επιστήμονες στη συνέχεια αναρωτήθηκαν εάν θα μπορούσε να δημιουργήσει ολόκληρα γονιδιώματα ικανά να υποστηρίξουν ζωή. Το μοντέλο πέρασε από έναν επιπλέον γύρο εκπαίδευσης πάνω στα γονιδιώματα μιας ομάδας στενά συγγενικών ιών, των microvirids.
Οι συγκεκριμένοι ιοί είναι ακίνδυνοι για τον άνθρωπο και μολύνουν μόνο βακτήρια Escherichia coli. Το Evo2 παρήγαγε εκατοντάδες χιλιάδες νέα γονιδιώματα microvirids. Από αυτά, 16 οδήγησαν στη δημιουργία πραγματικών, λειτουργικών ιών.
Θα μπορούσε ένα μελλοντικό μοντέλο να σχεδιάσει κάτι σαν την ευλογιά;
Οι δημιουργοί του Evo2 έχουν λάβει μέτρα ασφαλείας και δεν το έχουν εκπαιδεύσει πάνω σε ιούς που μολύνουν ανθρώπους ή συγγενικά είδη.
Θεωρητικά, όμως, ένα μοντέλο εκπαιδευμένο με διαφορετικά δεδομένα θα μπορούσε να επιχειρήσει να δημιουργήσει μια νέα παραλλαγή ιού όπως εκείνος της ευλογιάς.
Αυτό παραμένει εξαιρετικά δύσκολο. Το γονιδίωμα της ευλογιάς είναι περίπου 35 φορές μεγαλύτερο από εκείνο των microvirids που χρησιμοποίησαν οι ερευνητές.
Και ακόμη και αν ένα τέτοιο εγχείρημα πετύχαινε, θα επρόκειτο αρχικά για παραλλαγή ενός παθογόνου που είχε ήδη μετατραπεί σε βιολογικό όπλο από προηγούμενες δεκαετίες.
Ο Ίνγκλεσμπι ανησυχεί περισσότερο για το επόμενο στάδιο. Με αρκετά δεδομένα εκπαίδευσης, εκτιμά ότι τα συστήματα Τεχνητής Νοημοσύνης θα μπορούσαν να κάνουν προβλέψεις για πιο θανατηφόρες, πιο μεταδοτικές ή περισσότερο ικανές να διαφεύγουν από το ανοσοποιητικό σύστημα, παραλλαγές.
Ακόμη πιο ανησυχητικό θα ήταν το ενδεχόμενο να δημιουργούν στο μέλλον ιούς που δεν αποτελούν απλώς παραλλαγές γνωστών παθογόνων, αλλά είναι ριζικά διαφορετικοί από οτιδήποτε υπάρχει στη φύση.
Η Anthropic εντόπισε αιτήματα που φαίνεται να προέρχονται από κρατικά εργαστήρια
Η πιο άμεση ανησυχία, σύμφωνα με τους New York Times, προκύπτει από τις πρόσφατες αποκαλύψεις της Anthropic.
Αιτήματα από το εξωτερικό για πληροφορίες σχετικά με τη γρίπη και άλλα παθογόνα φαίνεται ότι προήλθαν από κρατικά εργαστήρια και όχι από μεμονωμένους biohackers.
Οι New York Times δεν παρουσιάζουν το ζήτημα απλώς ως απειλή από μεμονωμένους χρήστες με κακόβουλες προθέσεις. Η πιθανότητα να εξετάζουν τις δυνατότητες της Τεχνητής Νοημοσύνης φορείς που συνδέονται με κυβερνήσεις μεταφέρει τη συζήτηση σε τελείως διαφορετική κλίμακα.
Αυτό αλλάζει σημαντικά τη διάσταση του προβλήματος. «Το πώς ένας διδακτορικός φοιτητής μπορεί μόνος του να χρησιμοποιήσει καταχρηστικά ένα μοντέλο είναι μόνο ένα μικρό μέρος του προβλήματος», σημείωσε ο Ίνγκλεσμπι.
Για τον Έντι, ο μεγαλύτερος φόβος είναι ότι η χρήση Τεχνητής Νοημοσύνης από κυβερνήσεις για έρευνα βιολογικού πολέμου θα μπορούσε να αναζωπυρώσει μια διεθνή κούρσα βιολογικών εξοπλισμών, αντίστοιχη με εκείνες που αναπτύχθηκαν μεταξύ μεγάλων δυνάμεων κατά τον 20ό αιώνα.
Αλληλοκατηγορίες ΗΠΑ, Ρωσίας, Κίνας, Ιράν και Βόρειας Κορέας
Ο Έντι επισημαίνει ότι το γεωπολιτικό κλίμα έχει ήδη αλλάξει. Οι ΗΠΑ κατηγορούν τη Βόρεια Κορέα και τη Ρωσία ότι διατηρούν προγράμματα βιολογικών όπλων και εκφράζουν υποψίες για Ιράν και Κίνα.
Η Κίνα, από την άλλη πλευρά, διατυπώνει κατηγορίες εναντίον των Ηνωμένων Πολιτειών και της Ρωσίας. Όπως σημειώνει ο επιστήμονας, τέτοιου είδους αλληλοκατηγορίες δεν βρίσκονταν στο ίδιο επίπεδο πριν από μία δεκαετία.
Το ενδεχόμενο η Τεχνητή Νοημοσύνη να επιταχύνει στρατιωτική βιολογική έρευνα δημιουργεί τον κίνδυνο ενός νέου κύκλου καχυποψίας, μυστικών προγραμμάτων και ανταγωνισμού.
Το κενό στους ελέγχους για το συνθετικό DNA
Οι δύο επιστήμονες θεωρούν ότι υπάρχουν ακόμη σημαντικά περιθώρια πρόληψης.
Οι κυβερνήσεις έχουν συνάψει στο παρελθόν διεθνείς συμφωνίες για τα βιολογικά όπλα και, όπως υποστηρίζουν, μπορούν να επιχειρήσουν κάτι αντίστοιχο για τις νέες τεχνολογίες.
Η κυβέρνηση Μπάιντεν είχε θεσπίσει κανόνες βάσει των οποίων οι εταιρείες σύνθεσης DNA έπρεπε να ελέγχουν τις παραγγελίες τους για ύποπτες γενετικές αλληλουχίες.
Η κυβέρνηση Τραμπ ανέστειλε τους συγκεκριμένους κανόνες το 2025 και, σύμφωνα με την ανάλυση, δεν έχει ακόμη εκδώσει νέα πρότυπα.
Αυτό αποκτά ιδιαίτερη σημασία καθώς η δυνατότητα σχεδιασμού νέων αλληλουχιών μέσω Τεχνητής Νοημοσύνης συναντά την ολοένα φθηνότερη και ευκολότερη δυνατότητα φυσικής κατασκευής συνθετικού DNA.
«Δεν αρκεί να εμποδίσουμε το όπλο, πρέπει να θωρακίσουμε τη βιολογία»
Για τον Ντρου Έντι, η απάντηση δεν μπορεί να περιοριστεί στην προσπάθεια εντοπισμού ενός επικίνδυνου χρήστη την τελευταία στιγμή.
«Πρέπει να πάμε ένα βήμα πιο μπροστά και να ασφαλίσουμε τη βιολογία», υποστηρίζει. Αυτό σημαίνει την ανάπτυξη συστημάτων άμυνας απέναντι σε κάθε είδους επιδημία, είτε ένας παθογόνος οργανισμός έχει κατασκευαστεί από ανθρώπους είτε έχει περάσει φυσικά από τα ζώα στον άνθρωπο.
Μία από τις προτάσεις του είναι να εγκατασταθούν σε χώρους όπως νοσοκομεία και σχολεία αισθητήρες που θα μπορούν να εντοπίζουν αερομεταφερόμενες βιολογικές απειλές.
Η λογική είναι ότι όσο αυξάνεται η δυνατότητα κατασκευής νέων παθογόνων, τόσο μεγαλύτερη πρέπει να γίνει και η ικανότητα μιας κοινωνίας να τα εντοπίζει αμέσως.
Όπως εξήγησε ο Έντι, εάν κάποιος μπορεί να γνωρίζει ότι υπάρχει ένας αερομεταφερόμενος ιός στον χώρο όπου βρίσκεται, μπορεί να αντιδράσει ανάλογα. Οι βιολογικοί κίνδυνοι, όπως τόνισε, «δεν είναι μαγικοί» και μπορούν να αντιμετωπιστούν με κατάλληλα συστήματα έγκαιρης ανίχνευσης και άμυνας.
Η εικόνα που προκύπτει από την ανάλυση των New York Times δεν είναι ότι τα σημερινά chatbots μπορούν ξαφνικά να παραδώσουν σε οποιονδήποτε ένα έτοιμο βιολογικό όπλο. Είναι όμως ότι τρεις τεχνολογικές εξελίξεις αρχίζουν να συναντώνται: η Τεχνητή Νοημοσύνη που κατανοεί όλο και περισσότερο τη βιολογία, η δυνατότητα σχεδιασμού γονιδιωμάτων που δεν υπάρχουν στη φύση και η φθηνή σύνθεση DNA.
Και εάν αυτές οι δυνατότητες περάσουν από την επιστημονική έρευνα στον στρατιωτικό ανταγωνισμό κρατών, ο κίνδυνος δεν θα αφορά πλέον μόνο έναν μεμονωμένο κακόβουλο χρήστη, αλλά την πιθανότητα μιας νέας διεθνούς κούρσας βιολογικών όπλων με την Τεχνητή Νοημοσύνη ως επιταχυντή.
