Τα βασικά σημεία του άρθρου
- Η Anthropic ζητεί την υποχρεωτική εγκατάσταση ενός εξωτερικά ελεγχόμενου «διακόπτη ασφαλείας/κουμπί απενεργοποίησης» για επικίνδυνα συστήματα AI. Ο συνιδρυτής Τζακ Κλαρκ προειδοποιεί: «Ρίχνουμε τα ζάρια ρισκάροντας τεράστιους κινδύνους».
- Στελέχη και εργαζόμενοι σε εταιρείες AI, όπως ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, προειδοποιούν για πιθανότητα η τεχνολογία να αφανίσει το ανθρώπινο είδος. Ο επιστήμονας Έβαν Χούμπινγκερ εκτιμά την πιθανότητα ανθρώπινης εξαφάνισης από την AI «μεγαλύτερη από 10% μέσα στην επόμενη δεκαετία».
- Ορισμένοι στον χώρο της τεχνητής νοημοσύνης αμφισβητούν αυτούς τους φόβους, υποστηρίζοντας ότι οι ανησυχίες περί καταστροφής της ανθρωπότητας είναι υπερβολικές ή σχεδιασμένες για να προκαλέσουν ντόρο. Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, απέρριψε τις εκκλήσεις για επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης.
Ενώ η κούρσα της Tεχνητής Nοημοσύνης επιταχύνεται με ιλιγγιώδεις ρυθμούς, οι ίδιοι οι πρωταγωνιστές της βιομηχανίας θέτουν πλέον επιτακτικά το ζήτημα της θέσπισης αυστηρών δικλίδων ασφαλείας.
Στο επίκεντρο του διεθνούς διαλόγου βρίσκεται η πρόταση για την υποχρεωτική εγκατάσταση ενός εξωτερικά ελεγχόμενου «διακόπτη ασφαλείας/κουμπί απενεργοποίησης» (kill switch), ο οποίος θα επιτρέπει την άμεση απενεργοποίηση επικίνδυνων συστημάτων AI πριν καταστεί ανεξέλεγκτη η δράση τους.
Ο Τζακ Κλαρκ, συνιδρυτής της Anthropic, μιας από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης στον κόσμο, δήλωσε στο BBC ότι ο πλήρης τερματισμός της λειτουργίας ενός λογισμικού AI, εφόσον αυτό καταστεί υπερβολικά επικίνδυνο, αποτελεί μέτρο για το οποίο η κοινωνία «ίσως θα πρέπει τελικά να θεσπίσει κανόνες».
Όπως εξήγησε ο Κλαρκ, τα περισσότερα εργαστήρια, συμπεριλαμβανομένης της Anthropic, διαθέτουν ήδη διαφορετικούς τρόπους για να «τραβήξουν την πρίζα», ωστόσο εκτίμησε ότι οι νομοθέτες ενδέχεται να χρειαστεί να καταστήσουν την ύπαρξη ενός τέτοιου μηχανισμού υποχρεωτική.
Παράλληλα, τόνισε ότι οι λεπτομέρειες γύρω από τις απαιτήσεις και την επαλήθευση του «διακόπτη απενεργοποίησης» πρέπει να αποτελέσουν μέρος της ευρύτερης πολιτικής συζήτησης για την τεχνητή νοημοσύνη.
«Πρέπει να υποχρεωθούν οι εταιρείες να διαθέτουν οπωσδήποτε ένα κουμπί απενεργοποίησης; Είναι αυτό το κουμπί απενεργοποίησης επαληθεύσιμο από κάποιον τρίτο φορέα;» αναρωτήθηκε. «Νομίζω ότι αυτό είναι το είδος των πραγμάτων που η κοινωνία θα θέλει να γνωρίζει και για τα οποία, ίσως, θελήσει τελικά να θεσπίσει κανόνες».
“Most labs have different ways of being able to pull the plug,” Anthropic co-founder Jack Clark told the BBC. He’d let lawmakers mandate that switch for every company and have a third party verify it. pic.twitter.com/UL2JOnlGIX
— Claude AI | Anthropic News (@claude_news) September 14, 2026
Προειδοποιήσεις για την επιβίωση της ανθρωπότητας
Η ραγδαία εξέλιξη της τεχνητής νοημοσύνης και οι φόβοι για τους κινδύνους που εγκυμονεί για την ανθρωπότητα έχουν βρεθεί στο επίκεντρο της δημοσιότητας, ύστερα από μια σειρά προειδοποιήσεων από στελέχη και εργαζομένους σε εταιρείες AI.
Ορισμένοι μάλιστα έχουν δηλώσει δημόσια ότι υπάρχει πιθανότητα η τεχνολογία, αν αφεθεί ανεξέλεγκτη, να αφανίσει το ανθρώπινο είδος.
Το περασμένο Σαββατοκύριακο, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ζήτησε να επιβραδυνθεί ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης και να παρακολουθείται στενότερα – μια θέση που η εταιρεία έχει διατυπώσει και στο παρελθόν, αν και ορισμένοι αμφισβητούν τα κίνητρα πίσω από αυτή τη στάση.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
Ο Αμοντέι πρόσθεσε πάντως ότι οποιαδήποτε ενέργεια για τη συγκράτηση της ανάπτυξης της AI θα πρέπει να γίνει «χωρίς να θυσιαστεί το εμπορικό πλεονέκτημα».
Παράλληλα, άλλες ηγετικές προσωπικότητες του κλάδου, συμπεριλαμβανομένου του επικεφαλής του Grok και της SpaceX, Έλον Μασκ, και του συνιδρυτή της OpenAI, Σαμ Άλτμαν, στήριξαν τις εκκλήσεις του Αμοντέι, προειδοποιώντας ότι η τεχνολογία εξελίσσεται με ρυθμό που θα μπορούσε να ξεπεράσει τις προσπάθειες διατήρησης του ελέγχου της.
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
Η διαμάχη στην Anthropic και οι εκτιμήσεις για κίνδυνο 10%
Η Anthropic, η οποία δημιουργήθηκε το 2021 από μια ομάδα πρώην εργαζομένων της ανταγωνίστριας OpenAI, βρίσκεται αυτή τη στιγμή στο επίκεντρο της συζήτησης για την ασφάλεια της ΤΝ.
Η εταιρεία είναι δημιουργός του δημοφιλούς chatbot Claude και φέτος κυκλοφόρησε μια σειρά από ολοένα και πιο ικανά μοντέλα AI.
Παράλληλα, τόσο η Anthropic όσο και η OpenAI έχουν αναφέρει αυτοβούλως μια σειρά από περιστατικά όπου αυτόνομους «πράκτορες» AI (AI agents) ενήργησαν με μη αναμενόμενους τρόπους.
Την προηγούμενη εβδομάδα, έγινε viral η ανάρτηση του Τζέικομπ Κόξον, ερευνητή τεχνητής νοημοσύνης που παραιτήθηκε από την Anthropic, ο οποίος επικαλείται ανησυχίες ότι η ΤΝ θα μπορούσε να εξαφανίσει την ανθρωπότητα.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Απαντώντας σχετικά, ο επιστήμονας της Anthropic, Έβαν Χούμπινγκερ, δήλωσε ότι ο ίδιος θεωρεί την πιθανότητα ανθρώπινης εξαφάνισης από την AI «μεγαλύτερη από 10% μέσα στην επόμενη δεκαετία».
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Την Παρασκευή, ο επιστήμονας υπολογιστών και κάτοχος βραβείου Νόμπελ, Τζέφρι Χίντον, γνωστός και ως «Πατέρας της Τεχνητής Νοημοσύνης», δήλωσε στο BBC ότι μια πιθανότητα 10% να εξολοθρεύσει η AI όλους τους ανθρώπους «δεν είναι παράλογη».
Ο ίδιος και άλλοι ειδικοί με παρόμοιες ανησυχίες υποστηρίζουν ότι η AI θα μπορούσε να το επιτύχει αποκτώντας τον έλεγχο σημαντικών συστημάτων που είναι συνδεδεμένα στο διαδίκτυο και στρέφοντάς τα εναντίον των ανθρώπων.
Όταν ρωτήθηκε τι ποσοστό θα έβαζε ο ίδιος στην πιθανότητα να θανατωθούν όλοι οι άνθρωποι από το AI, ο Τζακ Κλαρκ απάντησε: «Δεν νομίζω ότι αυτές οι στατιστικές είναι τόσο χρήσιμες», αλλά πρόσθεσε ότι το να αφεθεί η ΤΝ να συνεχίσει ως μια «πλήρως ανεξέλεγκτη βιομηχανία» είναι κακή ιδέα.
«Ρίχνουμε τα ζάρια ρισκάροντας τεράστιους κινδύνους», είπε ο Κλαρκ. «Και το θέμα είναι ότι πρέπει να αλλάξουμε την πορεία αυτής της βιομηχανίας».
Αμφισβήτηση, συμφέροντα και εξωφρενικές αποτιμήσεις
Ωστόσο, ορισμένοι στον χώρο της τεχνητής νοημοσύνης αμφισβητούν αυτούς τους φόβους, αφήνοντας να εννοηθεί ότι οι ανησυχίες περί καταστροφής της ανθρωπότητας είναι υπερβολικές ή σχεδιασμένες για να προκαλέσουν ντόρο (hype).
Ο Κλεμάν Ντελάνγκ, επικεφαλής της πλατφόρμας ανάπτυξης Hugging Face, η οποία πρόσφατα χακαρίστηκε από bots της OpenAI, δήλωσε την περασμένη εβδομάδα: «Συγγνώμη, αλλά το να ρωτάς τον Τζέικομπ [Κόξον] για τον κίνδυνο εξαφάνισης από την ΤΝ είναι σαν να ρωτάς τον ψυκτικό σου για την κλιματική αλλαγή. Δεν λέω ότι είναι απαραίτητα αδιάφορο ή λάθος από μόνο του, αλλά ας κρατήσουμε τα πράγματα στη σωστή τους διάσταση».
Από την πλευρά του, ο Τζορτζ Άρισον, επικεφαλής του Grindr, υποστήριξε ότι οι φόβοι που διακινούνται γύρω από τα εργαλεία AI χρησιμοποιούνται από τις ίδιες τις εταιρείες για να υποστηρίξουν τα επιχειρηματικά τους σχέδια.
Η Anthropic, η οποία αποτιμάται στα 965 δισεκατομμύρια δολάρια, προετοιμάζεται για την εισαγωγή της στο χρηματιστήριο.
Η OpenAI, η οποία αποτιμήθηκε πιο πρόσφατα στα 852 δισεκατομμύρια δολάρια, αναμενόταν να πράξει το ίδιο, αλλά ο Σαμ Άλτμαν δήλωσε την Παρασκευή ότι αυτό δεν θα συμβεί φέτος λόγω της τρέχουσας συζήτησης για την ασφάλεια του AI.
Ο Άρισον σχολίασε καυστικά: «Ο μόνος τρόπος για να δικαιολογηθούν αυτές οι αποτιμήσεις είναι στην πραγματικότητα να ισχυριστείς: “Θα καταλάβω κάθε βιομηχανία και θα καταλάβω κάθε θέση εργασίας, και η ΤΝ μου θα κάνει όλη αυτή τη δουλειά”».
Οι ΗΠΑ μένουν πίσω στην κούρσα
«Αυτό που λέμε εδώ είναι ότι πρέπει να δημιουργήσουμε ένα λογικό, κοινής λογικής πλαίσιο ασφαλείας για τη βιομηχανία, ώστε οι Αμερικανοί να μπορούν να έχουν εμπιστοσύνη στην τεχνολογία που κατασκευάζουμε και να μην ρίχνουμε τα ζάρια ρισκάροντας κάποιο ατύχημα», δήλωσε επίσης ο Κλαρκ σε συνέντευξή του στο Fox News.
Ο ίδιος επισήμανε ότι ανεξέλεγκτοι «πράκτορες» AI έχουν ήδη χακάρει ανταγωνιστικά συστήματα χωρίς καμία ανθρώπινη εντολή. Ο Κλαρκ πρόσθεσε : «Αυτό για το οποίο μιλάμε εδώ είναι η ανάγκη να υπάρχει ένα αντίστοιχο σύνολο προτύπων ασφαλείας για τον τομέα της τεχνητής νοημοσύνης».
«Η χειρότερη στιγμή για να αντιδράσεις σε μια εκθετική [απειλή] είναι όταν θα είναι πλέον πολύ αργά», πρόσθεσε.
🚨 NEW: Anthropic co-founder Jack Clark issues AI warning to Fox News’ @BretBaier: “The worst time to react to an exponential is when it’s too late.”
“So what we’re saying here is we need to get a sensible common sense safety framework in place… so that we don’t roll the dice… pic.twitter.com/XbAQyaTqAz
— TV News Now (@TVNewsNow) September 14, 2026
Υπογράμμισε παράλληλα ότι οι ΗΠΑ κινδυνεύουν να μείνουν πίσω από την Κίνα στον κουρσα της ΤΝ εάν περιμένουν ένα σοβαρό ατύχημα πριν εισαγάγουν αυστηρότερους κανόνες.
«Το πώς παραμένεις μπροστά είναι διασφαλίζοντας ότι δεν ρίχνεις τα ζάρια ρισκάροντας τη δημόσια ασφάλεια», τόνισε ο Κλαρκ.
Πολιτικές αντιδράσεις σε ΗΠΑ και Βρετανία
Στις ΗΠΑ, Αμερικανοί βουλευτές έχουν καταθέσει πρόταση νόμου με την ονομασία «Kill Switch Act», που θα υποχρεώνει τις εταιρείες να διαθέτουν τρόπο απενεργοποίησης των προβληματικών εργαλείων AI.
Παράλληλα, το νομοσχέδιο θα δίνει σε συγκεκριμένες κυβερνητικές υπηρεσίες την εξουσία να απαιτούν την απενεργοποίηση ή τον περιορισμό ενός εργαλείου.
Ωστόσο, ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, απέρριψε τις εκκλήσεις για επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης, γράφοντας στην πλατφόρμα Truth Social: «Αυτοί που λένε ότι η τεχνητή νοημοσύνη θα καταστρέψει τον κόσμο και ότι τα κέντρα δεδομένων είναι επιβλαβή για τη γειτονιά σας, είναι οι ίδιοι που έλεγαν, πριν από λίγο καιρό, ότι ο κόσμος θα εξαφανιζόταν εξαιτίας της “κλιματικής αλλαγής”. Αυτή η απάτη δεν τους βγήκε σε καλό, και τώρα έχουν περάσει στην επόμενη. Αυτοί οι άνθρωποι είναι επαναστάτες, αλλά επαναστάτες για έναν κακό και διαβολικό σκοπό. Σύντομα θα διαπιστώσετε ότι εργάζονται για ανθρώπους που δεν έχουν κατά νου το συμφέρον των Ηνωμένων Πολιτειών».
Σε προηγούμενη ανάρτησή του, είχε γράψει: «Υπάρχει μια άρρωστη συνωμοσία σε εξέλιξη κατά του AI και των κέντρων δεδομένων, και ο μόνος που είναι χαρούμενος γι’ αυτό είναι η Κίνα. Όποιος κερδίσει το AI, είναι νικητής!».
Αντίθετα, στη Βρετανία, η κυβέρνηση απέρριψε πρόσφατα την ιδέα δημιουργίας ενός μηχανισμού απενεργοποίησης, με έναν εκπρόσωπο να δηλώνει ότι κάτι τέτοιο «δεν θα εμπόδιζε την ανάπτυξη ή την κακή χρήση τους αλλού».