Τα βασικά σημεία του άρθρου
- Μια αντιπαράθεση μεταξύ κορυφαίων μαθηματικών με επίκεντρο την OpenAI έχει αναζωπυρώσει τις ανησυχίες ότι η Τεχνητή Νοημοσύνη μπορεί να υπονομεύσει την αξιοπιστία της επιστημονικής έρευνας.
- Μεγάλοι επιστημονικοί εκδοτικοί οργανισμοί λαμβάνουν έκτακτα μέτρα προστασίας, καθώς καταγράφεται ραγδαία αύξηση δημοσιεύσεων με παραποιημένα στοιχεία και δεκάδες χιλιάδες παραπομπές σε ανύπαρκτες μελέτες.
- Ερευνητές τονίζουν ότι η ανθρώπινη εποπτεία παραμένει αναγκαία, καθώς τα υπολογιστικά συστήματα ενδέχεται να απορρίπτουν ασυνήθιστες παρατηρήσεις που ιστορικά οδηγούν σε κρίσιμες ανακαλύψεις.
Μια αντιπαράθεση μεταξύ κορυφαίων μαθηματικών, με επίκεντρο την OpenAI και την επίλυση ενός από τα μεγαλύτερα άλυτα προβλήματα των μαθηματικών, έχει αναζωπυρώσει τις ανησυχίες ότι η Τεχνητή Νοημοσύνη μπορεί να υπονομεύσει την αξιοπιστία της επιστημονικής έρευνας. Την ίδια ώρα, η αυξανόμενη παρουσία επιστημονικών δημοσιεύσεων που έχουν δημιουργηθεί με τη βοήθεια συστημάτων Τεχνητής Νοημοσύνης εγείρει σοβαρά ερωτήματα για την εγκυρότητα των αποτελεσμάτων, τις ψευδείς παραπομπές και την προστασία της επιστημονικής γνώσης.
Σύμφωνα με εκτενές ρεπορτάζ του BBC, η Τεχνητή Νοημοσύνη υπόσχεται να επιταχύνει θεαματικά τις επιστημονικές ανακαλύψεις, αλλά παράλληλα δημιουργεί έναν λιγότερο ορατό κίνδυνο: να καταστεί ολοένα δυσκολότερη η διάκριση ανάμεσα στην πραγματική επιστημονική πρόοδο και στα αποτελέσματα που παράγονται από υπολογιστικά συστήματα χωρίς επαρκή ανθρώπινη επαλήθευση.
Η αντιπαράθεση για τη μαθηματική ανακάλυψη της OpenAI
Τον περασμένο μήνα, η OpenAI ανακοίνωσε ότι κατάφερε να επιλύσει ένα από τα σημαντικότερα άλυτα προβλήματα των μαθηματικών, το οποίο σχετίζεται με τις εξισώσεις Ναβιέ-Στοκς. Σύμφωνα με την εταιρεία, τα συστήματα Τεχνητής Νοημοσύνης της χρειάστηκαν μόλις 88 ώρες για να καταλήξουν στη λύση.
Ο οργανισμός που διαχειρίζεται το σχετικό μαθηματικό βραβείο αναγνώρισε ότι το πρόβλημα φαίνεται να έχει επιλυθεί, διευκρινίζοντας ωστόσο ότι η αξιολόγηση της λύσης θα απαιτήσει χρόνο.
Λίγες ώρες πριν από την ανακοίνωση, ο Τρίσταν Μπάκμαστερ, μαθηματικός στο Πανεπιστήμιο της Νέας Υόρκης, είχε εκφράσει δημόσια ανησυχίες για την εξέλιξη αυτή.
Ο ίδιος εργαζόταν πάνω στο ίδιο πρόβλημα μαζί με τον Λέβεντ Άλπεγκε, μαθηματικό που εργάζεται στην ανταγωνίστρια εταιρεία Anthropic. Οι δύο ερευνητές αποθήκευαν προσχέδια της εργασίας τους στο Codex, το εργαλείο προγραμματισμού της OpenAI.
Ο Μπάκμαστερ ανέφερε ότι ο συνεργάτης του είχε ενημερωθεί πως πληροφορίες σχετικά με την πρόοδο της έρευνάς τους είχαν φτάσει στην OpenAI, χωρίς να διευκρινίσει με ποιον τρόπο. Έθεσε έτσι το ερώτημα εάν η εργασία τους θα μπορούσε να έχει επηρεάσει τα συστήματα της εταιρείας, τονίζοντας πάντως ότι δεν κατηγορεί κανέναν.
Η OpenAI απέρριψε το ενδεχόμενο να είχε αποκτήσει πρόσβαση στην έρευνα των δύο μαθηματικών πριν από τη δημοσίευσή της, διευκρινίζοντας στη συνέχεια ότι οι εντολές που είχε εισαγάγει ο Μπάκμαστερ στο Codex κατά τους δύο προηγούμενους μήνες δεν θα μπορούσαν να έχουν επηρεάσει το σύστημά της.
Από τις σημαντικές ανακαλύψεις στους κινδύνους υπερβολής
Η συμβολή της Τεχνητής Νοημοσύνης στην επιστήμη είναι ήδη εντυπωσιακή. Χαρακτηριστικό παράδειγμα αποτελεί το AlphaFold της Google DeepMind, το οποίο κατάφερε να προβλέψει τη δομή περίπου 200 εκατομμυρίων πρωτεϊνών μέσα σε έναν χρόνο.
Πρόκειται για ένα επίτευγμα που, με παραδοσιακές εργαστηριακές μεθόδους, θα απαιτούσε τεράστιο χρονικό διάστημα. Η ανακάλυψη αυτή συνέβαλε στην απονομή του Νόμπελ Χημείας στους επιστήμονες που πρωτοστάτησαν στην ανάπτυξη του συστήματος.
Ωστόσο, δεν αντιμετωπίζονται όλες οι επιστημονικές εφαρμογές της Τεχνητής Νοημοσύνης με τον ίδιο ενθουσιασμό.
Η DeepMind ανακοίνωσε επίσης ότι ένα από τα μοντέλα της εντόπισε περισσότερες από δύο εκατομμύρια νέες κρυσταλλικές δομές, με περίπου 380.000 από αυτές να θεωρούνται υποσχόμενες για εργαστηριακή κατασκευή.
Δύο χημικοί του Πανεπιστημίου της Καλιφόρνιας, ο Άντονι Τσίθαμ και ο Ραμ Σεσαντρί, εξέτασαν ένα τυχαίο δείγμα των δομών αυτών και κατέληξαν ότι πολλές αποτελούσαν μικρές παραλλαγές ήδη γνωστών υλικών, χωρίς να παρουσιάζουν ουσιαστική καινοτομία.
Η DeepMind απέρριψε την κριτική, υποστηρίζοντας ότι ακόμη και μικρές αλλαγές στη σύνθεση των υλικών μπορούν να οδηγήσουν σε σημαντικές τεχνολογικές εφαρμογές.
Χιλιάδες ανύπαρκτες επιστημονικές μελέτες
Ακόμη μεγαλύτερη ανησυχία προκαλεί η εισχώρηση ανακριβούς ή εξ ολοκλήρου κατασκευασμένου περιεχομένου στην επιστημονική βιβλιογραφία.
Όπως επισημαίνει το BBC, επιστημονικά περιοδικά βρίσκονται αντιμέτωπα με έναν αυξανόμενο όγκο εργασιών που δημιουργούνται με συστήματα Τεχνητής Νοημοσύνης και ενδέχεται να περιλαμβάνουν ανύπαρκτες βιβλιογραφικές αναφορές, παραποιημένα στοιχεία ή ατεκμηρίωτα συμπεράσματα.
Το 2024, ο καθηγητής Ντμίτρι Κόμπακ, από το Πανεπιστήμιο της Γάνδης, εξέτασε περισσότερες από ένα εκατομμύριο δημοσιεύσεις βιοϊατρικής έρευνας, αναζητώντας χαρακτηριστικές γλωσσικές ενδείξεις χρήσης Τεχνητής Νοημοσύνης.
Η ερευνητική ομάδα διαπίστωσε ότι, έως τον Δεκέμβριο του 2025, σχεδόν το 90% των εργασιών που εξέτασε εμφάνιζε τέτοια χαρακτηριστικά. Ωστόσο, οι μέθοδοι ανίχνευσης δεν είναι απόλυτα αξιόπιστες και η παρουσία των συγκεκριμένων ενδείξεων δεν αποδεικνύει από μόνη της ότι μια εργασία έχει δημιουργηθεί από Τεχνητή Νοημοσύνη.
Παράλληλα, ερευνητές του Πανεπιστημίου Κορνέλ εντόπισαν περίπου 147.000 αναφορές σε ανύπαρκτες επιστημονικές εργασίες μέσα στο προηγούμενο έτος, φαινόμενο που συνδέεται με τη χρήση συστημάτων Τεχνητής Νοημοσύνης για τη σύνταξη βιβλιογραφικών παραπομπών.
Ανησυχίες προκαλεί και η διαδικασία αξιολόγησης των επιστημονικών δημοσιεύσεων. Έρευνα του Πανεπιστημίου Στάνφορντ διαπίστωσε ότι έως και το 17% του κειμένου των αξιολογήσεων που υποβλήθηκαν σε τέσσερα μεγάλα επιστημονικά συνέδρια πληροφορικής είχε υποστεί σημαντική επεξεργασία από γλωσσικά μοντέλα.
Τα επιστημονικά περιοδικά επιχειρούν να προστατεύσουν την αξιοπιστία τους
Μπροστά σε αυτές τις εξελίξεις, μεγάλοι επιστημονικοί εκδοτικοί οργανισμοί λαμβάνουν μέτρα για να περιορίσουν τους κινδύνους.
Ο εκδοτικός οίκος Elsevier έχει αναπτύξει περίπου 100 δείκτες που επιτρέπουν τον εντοπισμό επιστημονικών εργασιών οι οποίες χρειάζονται περαιτέρω ανθρώπινο έλεγχο.
Τα περιοδικά του ομίλου Nature απαγορεύουν τη χρήση εικόνων που έχουν δημιουργηθεί από Τεχνητή Νοημοσύνη, ενώ προειδοποιούν τους αξιολογητές να μην εισάγουν αδημοσίευτες επιστημονικές εργασίες σε τέτοια συστήματα.
Αντίστοιχα, η διαδικτυακή πλατφόρμα arXiv επιβάλλει αποκλεισμό ενός έτους σε ερευνητές που υποβάλλουν εργασίες με επινοημένες βιβλιογραφικές αναφορές.
«Η παραγωγική Τεχνητή Νοημοσύνη έχει ουσιαστικά διαταράξει ολόκληρη την επιστημονική διαδικασία», δήλωσε στο BBC ο επιστημονικός δημοσιογράφος Νταλμίτ Σινγκ Τσάουλα, ο οποίος ασχολείται επί μία δεκαετία με υποθέσεις παρατυπιών στην επιστημονική έρευνα.
Το μεγάλο ερώτημα: Μπορεί η Τεχνητή Νοημοσύνη να αντικαταστήσει την ανθρώπινη κρίση;
Πέρα από τα λάθη και τις ανακριβείς πληροφορίες, οι επιστήμονες επισημαίνουν έναν ακόμη κίνδυνο: τα συστήματα Τεχνητής Νοημοσύνης ενδέχεται να απορρίπτουν ως ασήμαντες ορισμένες ασυνήθιστες παρατηρήσεις που θα μπορούσαν να οδηγήσουν σε σημαντικές ανακαλύψεις.
Η ιστορία της επιστήμης είναι γεμάτη τέτοια παραδείγματα, από την ανακάλυψη της πενικιλίνης έως τη ραδιενέργεια και τους πάλσαρ, τα αστέρια νετρονίων που εκπέμπουν περιοδικά ηλεκτρομαγνητική ακτινοβολία.
Οι ανακαλύψεις αυτές βασίστηκαν σε παρατηρήσεις που αρχικά έμοιαζαν παράξενες ή ασήμαντες, αλλά αναγνωρίστηκαν χάρη στην ανθρώπινη διαίσθηση και περιέργεια.
Ο Πουσμίτ Κόλι, επικεφαλής της επιστημονικής έρευνας στην Google DeepMind, αναγνωρίζει ότι τα σημερινά συστήματα δεν είναι αλάνθαστα και ότι η ανθρώπινη εποπτεία παραμένει αναγκαία.
«Πρέπει να καταλαβαίνεις τι έχει κάνει το σύστημα και να αναλαμβάνεις την ευθύνη», υπογράμμισε, επισημαίνοντας ότι δεν αρκεί ένας ερευνητής να αναθέτει ένα πρόβλημα στην Τεχνητή Νοημοσύνη και στη συνέχεια να δημοσιεύει το αποτέλεσμα ως επιστημονική αλήθεια.
Το κεντρικό ερώτημα, σύμφωνα με το BBC, δεν είναι πλέον μόνο πόσο γρήγορα μπορεί η Τεχνητή Νοημοσύνη να οδηγήσει σε νέες ανακαλύψεις, αλλά εάν η επιστημονική κοινότητα θα μπορέσει να αξιοποιήσει τις δυνατότητές της χωρίς να υπονομεύσει την εμπιστοσύνη πάνω στην οποία στηρίζεται η ίδια η επιστήμη.