Τα βασικά σημεία του άρθρου
- Παραιτήθηκε από τον τομέα της τεχνητής νοημοσύνης πρώην ερευνητής της OpenAI και της Anthropic, κατηγορώντας τις εταιρείες ότι «παίζουν με τη ζωή μας» στην κούρσα για την αυτοβελτιούμενη AI. Υπογράμμισε πως «οι άνθρωποι που δημιουργούν την ΑΙ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους ως το τέλος της δεκαετίας».
- Μάλιστα, ο Έβαν Χάμπιντζερ, στέλεχος της Anthropic, συμφώνησε, δηλώνοντας ότι «Πράγματι, πιστεύουμε ειλικρινά ότι η ΑΙ θα μπορούσε να σκοτώσει όλους τους ανθρώπους», εκτιμώντας τον κίνδυνο «πάνω από 10%» μέσα στη δεκαετία.
- Παράλληλα, ο Χάμπιντζερ παραδέχτηκε ότι η Anthropic «δεν έχει σχέδιο» για τη διασφάλιση της υπακοής μιας υπεράνθρωπης AI, ενώ ο Κόξον τόνισε την ανάγκη για κυβερνητική παρέμβαση.
Παραιτήθηκε από τον τομέα της τεχνητής νοημοσύνης πρώην ερευνητής της OpenAI και στη συνέχεια της Anthropic, κατηγορώντας τις δύο αμερικανικές εταιρείες ότι «παίζουν με τη ζωή μας» στον ανταγωνισμό τους για την ανάπτυξη AI με δυνατότητες αυτοβελτίωσης.
Η κούρσα της υπερνοημοσύνης
Ο Τζέικομπ Κόξον, ένας 27χρονος Βρετανός, εργαζόταν επί τρία χρόνια στην προ-εκπαίδευση -το στάδιο όπου τα μοντέλα της τεχνητής νοημοσύνης απορροφούν τεράστιες ποσότητες δεδομένων- πρώτα στην OpenAI και στη συνέχεια, φέτος, στον κύριο ανταγωνιστή της, την Anthropic.
«Καμία από τις δύο εταιρείες δεν ενεργεί με υπεύθυνο τρόπο. Κατευθύνονται ολοταχώς προς μια υπερνοημοσύνη ικανή να αυτοβελτιώνεται και παίζουν με τις ζωές μας», έγραψε χθες, Τρίτη, στο Χ.
«Οι άνθρωποι που δημιουργούν την ΑΙ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους ως το τέλος της δεκαετίας. Δεν πρόκειται για κόλπο μάρκετινγκ», υπογράμμισε.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Παραδοχή για τους κινδύνους
Ο Έβαν Χάμπιντζερ, στέλεχος της Anthropic αρμόδιος για την ασφάλεια, συμφώνησε με τον Κόξον σχολιάζοντας στο Χ: «Πράγματι, πιστεύουμε ειλικρινά ότι η ΑΙ θα μπορούσε να σκοτώσει όλους τους ανθρώπους», εκτιμώντας ότι ο κίνδυνος αυτός είναι «πάνω από 10%» μέσα στη δεκαετία.
Ο Χάμπιντζερ πρόσθεσε ότι η Anthropic κάνει «ό,τι καλύτερο» μπορεί, αλλά ακόμη «δεν έχει σχέδιο» για το πώς θα διασφαλίσει ότι μια τεχνητή νοημοσύνη που ξεπερνά τις ανθρώπινες δυνατότητες θα συνεχίσει να υπακούει στους δημιουργούς της, αν και εκτίμησε ότι ο κίνδυνος να συμβεί αυτό με τα τρέχοντα μοντέλα AI είναι «μικρός».
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Η παραίτηση του Κόξον έγινε την ώρα που η Anthropic ετοιμάζεται να εισαχθεί στο χρηματιστήριο και έπειτα από ένα καλοκαίρι στη διάρκεια του οποίου αποκαλύφθηκαν περιστατικά πειρατείας στα οποία ενεπλάκησαν χωρίς άδεια εργαλεία της AI.
Οι δύο εταιρείες δεν έχουν απαντήσει προς το παρόν σε αίτημα του AFP για σχολιασμό.
Το στάδιο της «αναδρομικής αυτοβελτίωσης»
Οι πρωταθλητές της τεχνητής νοημοσύνης λένε ότι βρίσκονται κοντά στο στάδιο της «αναδρομική αυτοβελτίωσης» — ένα σημείο πέρα από το οποίο ένα μοντέλο θα σχεδιάζει μόνο του τον διάδοχό του, χωρίς να υπόκειται σε ανθρώπινο έλεγχο.
Σύμφωνα με τον Κόξον, οι συνάδελφοί του χρησιμοποιούν τους όρους «crunchtime» (ώρα της κρίσης) και «endgame» (τέλος του παιχνιδιού) για να περιγράψουν αυτή την πορεία.
Ανάγκη για κρατική παρέμβαση
Ο ίδιος έκρινε ότι οι προσπάθειες της Anthropic είναι ειλικρινείς, αλλά εκτίμησε ότι καμία εταιρεία δεν μπορεί να αναπτύξει με υπεύθυνο τρόπο μια τεχνητή νοημοσύνη που θα ξεπερνά τους ανθρώπους χωρίς κυβερνητική παρέμβαση ή μια συντονισμένη επιβράδυνση από όλες τις εταιρείες.
«Στην Anthropic κατανοούν πολύ καλά το διακύβευμα, αλλά έχουν εμπλακεί σε έναν αγώνα δρόμου για να φτάσουν πρώτοι», επεσήμανε.
Τον Φεβρουάριο, η Anthropic αφαίρεσε από την πολιτική ασφαλείας της τη δέσμευση να σταματήσει την ανάπτυξη των μοντέλων της εάν δεν καταφέρει να διαχειριστεί τους σχετικούς κινδύνους — με το σκεπτικό ότι μια μονομερής παύση θα επέτρεπε σε λιγότερο προσεκτικούς παίκτες να κυριαρχήσουν στον ανταγωνισμό ανεξέλεγκτα.
Πηγή: ΑΠΕ-ΜΠΕ