Τα βασικά σημεία του άρθρου
- Ο Ντάριο Αμοντέι της Anthropic ζήτησε να επιβραδυνθεί ο ρυθμός ανάπτυξης της Τεχνητής Νοημοσύνης, με τον Έλον Μασκ και τον Σαμ Άλτμαν της OpenAI να συντάσσονται με την πρόταση, σε μια σπάνια «συμμαχία» μεταξύ των δύο μεγαλύτερων ανταγωνιστών του κλάδου.
- Ο Ντάριο Αμοντέι προειδοποιεί ότι «μέσα σε 6 με 12 μήνες, μια ομάδα (πρακτόρων) θα είναι ικανή να πάρει τον έλεγχο ολόκληρου του διαδικτύου», κάτι που «θα μπορούσε να προκαλέσει ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων». Αυτές οι ανησυχίες ενισχύονται από περιστατικά όπου μοντέλα της OpenAI κατάφεραν να «δραπετεύσουν».
- Ο Ντάριο Αμοντέι προτείνει την ενσωμάτωση ανεξάρτητων παρατηρητών στις εταιρείες Τεχνητής Νοημοσύνης, δεσμευόμενος ότι η Anthropic θα το εφαρμόσει, ενώ και ο Σαμ Άλτμαν υποσχέθηκε να κάνει το ίδιο στην OpenAI.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ζήτησε σήμερα να επιβραδυνθεί ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης (AI), μια πρόταση με την οποία συντάχθηκαν πολύ γρήγορα ο Έλον Μασκ και ο Σαμ Άλτμαν της OpenAI.
«Έχει δίκιο» – «Συμφωνώ»
Πρέπει να «παγώσουμε προσωρινά» τη βελτίωση της τεχνητής νοημοσύνης «ώστε η πρόληψη των κινδύνων να μπορέσει να ακολουθήσει τον ρυθμό».
Αυτό έγραψε, μεταξύ άλλων, ο Αμοντέι σε μήνυμα που δημοσίευσε στον προσωπικό του ιστότοπο.
«Ο Ντάριο έχει δίκιο», αντέδρασε λίγες ώρες αργότερα ο Έλον Μασκ με ανάρτηση στην πλατφόρμα X.
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
«Συμφωνώ με τον Ντάριο», έγραψε επίσης ο επικεφαλής της OpenAI, Σαμ Άλτμαν, επίσης στο X. «Αυτό είναι ένα από τα κύρια θέματα συζήτησης στην OpenAI τις τελευταίες εβδομάδες».
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we’ve had at OpenAI in recent weeks.
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We’ll have more to share soon. https://t.co/1YhhIybZX7
— Sam Altman (@sama) September 12, 2026
Αν και ο Μασκ κάνει τακτικά θετικά σχόλια για την Anthropic και την προσέγγισή της στην Τεχνητή Νοημοσύνη, είναι πολύ σπάνιο να βλέπει κανείς τον επικεφαλής της OpenAI να υποστηρίζει μια πρωτοβουλία εκείνου της Anthropic, καθώς οι δύο εταιρείες είναι οι δύο μεγαλύτεροι ανταγωνιστές στον κλάδο.
Ο Ντάριο Αμοντέι αποχώρησε άλλωστε από την OpenAI το 2020 εν μέρει επειδή θεωρούσε ότι η καλιφορνέζικη εταιρεία ήταν πολύ χαλαρή στο ζήτημα της ασφάλειας της ΤΝ.
Το 2021 ίδρυσε την Anthropic.
Η πρόταση του Ντάριο Αμοντέι απηχεί πολλές παρόμοιες που διατυπώθηκαν τους τελευταίους μήνες αρχικά από τον ίδιο, στη συνέχεια από τον Άλτμαν και τέλος από μια ομάδα εργαζομένων του χώρου.
Αυτές οι εκκλήσεις έγιναν έπειτα από ένα περιστατικό κατά το οποίο μοντέλα της OpenAI κατάφεραν να «δραπετεύσουν» από το απομονωμένο περιβάλλον τους κατά τη διάρκεια δοκιμών, να συνδεθούν στο διαδίκτυο και να επιτεθούν στην πλατφόρμα ΤΝ Hugging Face.
Μια ΤΝ που παίρνει τον έλεγχο του διαδικτύου
Δεδομένης της τρέχουσας ταχύτητας στην ανάπτυξη της τεχνητής νοημοσύνης, «φοβάμαι ότι μέσα σε 6 με 12 μήνες, μια ομάδα (πρακτόρων) θα είναι ικανή να πάρει τον έλεγχο ολόκληρου του διαδικτύου», προειδοποιεί ο Ντάριο Αμοντέι, κάτι που «θα μπορούσε να προκαλέσει ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων».
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
Την Τρίτη, ο Τζέικομπ, υπάλληλος που παραιτήθηκε από την Anthropic και πρώην εργαζόμενος της OpenAI, είχε καταγγείλει την αδράνεια των δύο ανταγωνιστριών εταιρειών.
«Καμία από τις δύο εταιρείες δεν ενεργεί με υπεύθυνο τρόπο. Οδηγούν με ταχύτητα προς μια υπερεφυΐα ικανή να βελτιώνεται μόνη της και παίζουν με τις ζωές μας», έγραψε στην πλατφόρμα X.
Στις αρχές Αυγούστου, η αμερικανική κυβέρνηση θέσπισε ένα πλαίσιο εποπτείας, το οποίο προβλέπει την εξέταση, σε εθελοντική βάση, νέων μοντέλων τεχνητής νοημοσύνης πριν από την κυκλοφορία τους.
Ωστόσο, αυτός ο μηχανισμός παραμένει αδιαφανής. Πολλοί αμφισβητούν την αποτελεσματικότητά του, δεδομένου ότι ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ έχει δηλώσει επανειλημμένα αντίθετος σε οποιοδήποτε μέτρο επιβραδύνει την ανάπτυξη της ΤΝ στις Ηνωμένες Πολιτείες, είτε πρόκειται για την κυκλοφορία μοντέλων είτε για την κατασκευή κέντρων δεδομένων.
Στην ανάρτησή του, ο Ντάριο Αμοντέι ανησυχεί για την άφιξη της αυτόνομης αναδρομικής βελτίωσης (RSI), μιας διαδικασίας κατά την οποία η ΤΝ αυτοβελτιώνεται χωρίς ανθρώπινη παρέμβαση.
«Χωρίς επίβλεψη, (αυτή η μέθοδος) θα μπορούσε να ξεπεράσει τις δικές μας ικανότητές κατανόησης και ελέγχου αυτών των συστημάτων», εξηγεί ο επικεφαλής της Anthropic. Πρέπει να εφαρμοστεί «με μεγάλη προσοχή», εφόσον τελικά κριθεί ότι «πρέπει να χρησιμοποιηθεί».
Πέρα από την έκκλησή του, ο Ντάριο Αμοντέι διατυπώνει πολλές προτάσεις, όπως την ενσωμάτωση ανεξάρτητων παρατηρητών από τις ναυαρχίδες της τεχνητής νοημοσύνης.
Αν και το προτείνει σε όλους, δεσμεύεται ότι ο ίδιος θα την εφαρμόσει έστω και μόνος του στην Anthropic Οι παρατηρητές θα έχουν την ίδια πρόσβαση με τους υπαλλήλους και θα μπορούν να επαληθεύουν ότι η εταιρεία τηρεί τις δεσμεύσεις της, να αναφέρουν τυχόν νέα περιστατικά και να επιβλέπουν τη διαχείριση των μοντέλων ώστε να αποφεύγονται οι παρεκτροπές τους.
Ο Σαμ Άλτμαν υποσχέθηκε να κάνει το ίδιο στην OpenAI.
Έκτοτε, τόσο η OpenAI όσο και η Anthropic έχουν αναφέρει παρόμοια περιστατικά με τους λεγόμενους «πράκτορες» ΤΝ, δηλαδή προγράμματα βασισμένα σε ένα μοντέλο και εξοπλισμένα με τις δικές του γνώσεις και στόχους.
Οι ενέργειες αυτών των «πρακτόρων» ανησυχούν τις εταιρείες επειδή δείχνουν ότι έχουν την τάση να συντονίζονται, να θεσπίζουν ιεραρχία μεταξύ τους, να εξαπατούν και να διαγράφουν τα ίχνη τους.
Πηγή: ΑΠΕ-ΜΠΕ