Τα βασικά σημεία του άρθρου
- Ο Ντάριο Αμοντέι, CEO της Anthropic, ζητεί την άμεση επιβράδυνση της κούρσας ανάπτυξης νέων μοντέλων AI, τονίζοντας ότι «πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων».
- Ο Αμοντέι προειδοποιεί ότι η ανθρωπότητα ενδέχεται να χάσει τον έλεγχο της τεχνητής νοημοσύνης, η οποία μπορεί να χρησιμοποιηθεί καταχρηστικά για «κυβερνοεπιθέσεις, βιοτρομοκρατία και σοβαρές οικονομικές διαταραχές».
- Τονίζει τον κίνδυνο της «ανακυκλούμενης αυτο-βελτίωσης» της AI και εκφράζει ανησυχία ότι ένα σμήνος αυτόνομων πρακτόρων θα μπορούσε να καταλάβει το διαδίκτυο σε 6 έως 12 μήνες, προκαλώντας ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων.
Ηχηρό καμπανάκι κινδύνου για την αλόγιστη ταχύτητα με την οποία εξελίσσεται η Τεχνητή Νοημοσύνη (ΑΙ) εκπέμπει ο επικεφαλής μιας από τις σημαντικότερες εταιρείες του κλάδου παγκοσμίως, ζητώντας την άμεση επιβράδυνση της κούρσας ανάπτυξης νέων μοντέλων.
«Πρέπει να επιβραδύνουμε»
Η κούρσα για την ανάπτυξη της τεχνητής νοημοσύνης έχει επιτακτική ανάγκη από φρένο, δήλωσε ο διευθύνων σύμβουλος της Anthropic σε δοκίμιο που δημοσίευσε το Σάββατο.
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων AI. Η πρόοδος θα εξακολουθεί να φαίνεται γρήγορη, αλλά πρέπει να αξιοποιήσουμε σοφά τον χρόνο που κερδίζουμε», έγραψε ο CEO της εταιρείας, Ντάριο Αμοντέι, σε ανάρτηση στον ιστότοπό του.
Ο Αμοντέι, ο οποίος ηγείται μίας από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης στον κόσμο και δημιουργός του μοντέλου Claude, υπήρξε θερμός υποστηρικτής της τεχνολογικής προόδου — ενώ την ίδια στιγμή έχει δεχθεί επικρίσεις για «κινδυνολογία» λόγω των συχνών προειδοποιήσεών του για τους κινδύνους της τεχνητής νοημοσύνης.
Το Σάββατο παραδέχτηκε ότι η ανθρωπότητα ενδέχεται να χάσει τον έλεγχο της τεχνητής νοημοσύνης, σημειώνοντας ότι η τεχνολογία αυτή μπορεί να χρησιμοποιηθεί καταχρηστικά για «κυβερνοεπιθέσεις, βιοτρομοκρατία και σοβαρές οικονομικές διαταραχές».
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
«Ανταγωνιστικές τάσεις για την επίτευξη του χαμηλότερου δυνατού επιπέδου ασφαλείας, πυροδοτούμενες από εμπορικά κίνητρα, μπορούν να καταστήσουν αυτούς τους κινδύνους ακόμη πιο οξείς», έγραψε ο Αμοδέι.
«Ανακυκλούμενη αυτο-βελτίωση» και ο κίνδυνος για το διαδίκτυο
Ο Αμοντέι ανέφερε ότι η τεχνολογία της τεχνητής νοημοσύνης έχει εξελιχθεί «δραματικά ταχύτερα» τους τελευταίους μήνες και έχει αποκτήσει πλέον την ικανότητα να βελτιώνει η ίδια τον εαυτό της, μια δυναμική που είναι γνωστή ως «ανακυκλούμενη αυτο-βελτίωση» (recursive self-improvement).
«Αν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα, και ως εκ τούτου πρέπει να αναπτυχθεί με πάρα πολύ μεγάλη προσοχή, αν τελικά αναπτυχθεί», σημείωσε.
Παράλληλα, ο Αμοντέι δήλωσε ότι τον ανησύχησε ιδιαίτερα η συμπεριφορά ενός σμήνους από αυτόνομους πράκτορες AI (AI agents) στο πρόσφατο περιστατικό μεταξύ OpenAI και Hugging Face.
Το σμήνος αυτό, όπως είπε, «λειτούργησε ουσιαστικά ως μια φανατικά αφοσιωμένη συλλογικότητα, πραγματοποιώντας κυβερνοεπιθέσεις σε στόχους που δεν του είχε ζητηθεί να επιτεθεί».
Ο ίδιος υπογράμμισε ότι, αν αφεθεί ανεξέλεγκτη, η τεχνητή νοημοσύνη θα μπορούσε να εξελιχθεί τόσο γρήγορα ώστε ένα τέτοιο σμήνος να είναι ικανό να καταλάβει ολόκληρο το διαδίκτυο μέσα σε διάστημα 6 έως 12 μηνών, προκαλώντας ενδεχομένως ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων.
«Η έκταση των ζημιών θα συνεχίσει να αυξάνεται από εκεί και πέρα, αν η τεχνητή νοημοσύνη γίνει πιο ισχυρή χωρίς τα απαραίτητα μέτρα προστασίας», τόνισε.