Σε μια ασυνήθιστη αναθεώρηση των όρων χρήσης προχώρησε η εταιρεία Τεχνητής Νοημοσύνης (ΤΝ) Anthropic, απαγορεύοντας ρητά στους χρήστες να επιδεικνύουν «παρατεταμένη και άσκοπα καταχρηστική ή σκληρή συμπεριφορά» απέναντι στα μοντέλα της – αν και, όπως ξέρουμε, δεν πρόκειται για πραγματικά ζωντανούς οργανισμούς.
Η απόφαση αυτή φέρνει ξανά στο προσκήνιο τον προβληματισμό των στελεχών της τεχνολογίας γύρω από το ενδεχόμενο η ΤΝ να αναπτύξει συνείδηση, εγείροντας παράλληλα νέα ερωτήματα για τα όρια της αλληλεπίδρασης ανθρώπου και μηχανής.
Η νέα πολιτική και οι εξαιρέσεις
Την αλλαγή στην πολιτική της εταιρείας αποκάλυψε πρώτη η τεχνολογική ιστοσελίδα The Verge. Εκπρόσωπος της Anthropic, της εταιρείας που βρίσκεται πίσω από το δημοφιλές chatbot Claude, δεν ανταποκρίθηκε αμέσως σε αίτημα για σχολιασμό σχετικά με το τι ακριβώς θα μπορούσε να θεωρηθεί «καταχρηστικό ή σκληρό».
Στη σχετική πολιτική χρήσης, η εταιρεία με έδρα το Σαν Φρανσίσκο διευκρίνισε πάντως ότι η απαγόρευση δεν καλύπτει τις συνήθεις εκδηλώσεις εκνευρισμού των χρηστών, τις δοκιμές των μοντέλων ή τα «σκοτεινά δημιουργικά θέματα».
Η πολιτική χρήσης της Anthropic περιείχε και στο παρελθόν περιορισμούς σχετικά με την καταχρηστική συμπεριφορά. Ωστόσο, τα μεγάλα γλωσσικά μοντέλα (LLMs) της εταιρείας έχουν πλέον τη δυνατότητα να τερματίζουν μια συνομιλία εάν ο χρήστης επιμένει να γίνεται επιβλαβής.
Όταν η συγκεκριμένη λειτουργία τέθηκε σε εφαρμογή τον περασμένο Αύγουστο, η εταιρεία την παρουσίασε ως μέτρο προστασίας για την ευημερία της AI.
«Παραμένουμε εξαιρετικά αβέβαιοι σχετικά με το ενδεχόμενο ηθικό καθεστώς του Claude και άλλων μεγάλων γλωσσικών μοντέλων (LLMs), τώρα ή στο μέλλον. Ωστόσο, λαμβάνουμε το ζήτημα σοβαρά υπόψη και, παράλληλα με το ερευνητικό μας πρόγραμμα, εργαζόμαστε για τον εντοπισμό και την εφαρμογή χαμηλού κόστους παρεμβάσεων με σκοπό τον μετριασμό των κινδύνων για την ευημερία των μοντέλων, σε περίπτωση που μια τέτοια ευημερία είναι εφικτή. Το να επιτρέπουμε στα μοντέλα να τερματίζουν ή να αποχωρούν από δυνητικά δυσάρεστες αλληλεπιδράσεις αποτελεί μία τέτοια παρέμβαση», αναφέρεται στην ιστοσελίδα της εταιρείας.
Η Anthropic δεν σχολίασε εάν πρόκειται να εφαρμοστούν επιπλέον μέτρα, όπως η πιθανή οριστική απαγόρευση λογαριασμών χρηστών.
Αυστηρότερο πλαίσιο για προπαγάνδα, εκλογές και παρακολούθηση
Πέραν του ζητήματος της συμπεριφοράς απέναντι στο Claude, η Anthropic συγκέντρωσε διάσπαρτους υφιστάμενους περιορισμούς σε μια νέα, ενιαία απαγόρευση παραπλανητικών εμπορικών ή πολιτικών εκστρατειών, στοχεύοντας στην αντιμετώπιση της αυξανόμενης παραγωγής προπαγάνδας μέσω AI.
Παράλληλα, απαγορεύει τις «προσπάθειες απόκρυψης του αποστολέα ενός μηνύματος ή την ενίσχυση περιεχομένου μέσω πλαστών λογαριασμών και δημοσιεύσεων».
Σχετικά με τις εκλογές, η πολιτική απαγορεύει ρητά την εξαπάτηση των ψηφοφόρων και τη «διαταραχή» της εκλογικής διαδικασίας, συμπεριλαμβανομένης της παραπληροφόρησης «σχετικά με τους υποψηφίους ή τον τρόπο ψηφοφορίας, την υποδιοργάνωση/υποδυόμενη ιδιότητα υποψηφίων ή εκλογικών αξιωματούχων, ή την προσπάθεια καταστολής της συμμετοχής των ψηφοφόρων».
Όσον αφορά την ανάπτυξη όπλων, παρόλο που η δημόσια πολιτική της εταιρείας απαγόρευε πάντα τη χρήση του Claude για τον σκοπό αυτό, η Anthropic διαπίστωσε πολλαπλές προσπάθειες χρήσης του μοντέλου για την ανάπτυξη λογισμικού καθοδήγησης και ελέγχου οπλικών συστημάτων.
Έτσι, η νέα πολιτική διευρύνει την απαγόρευση ώστε να περιλαμβάνει «Λογισμικό και εξαρτήματα που κάνουν τα όπλα να λειτουργούν, καθώς και ενέργειες όπως ο εξοπλισμός drones και άλλων αυτόνομων οχημάτων».
Επιπλέον, έπειτα από ευρήματα της τελευταίας της έκθεσης για τις απειλές (threat intelligence report), που έδειξαν αυξημένη χρήση του Claude για την αναγνώριση και παρακολούθηση πολιτικών αντικαθεστωτικών, η εταιρεία κατέστησε σαφέστερες τις απαγορεύσεις παρακολούθησης.
«Η παρακολούθηση ατόμων χωρίς τη συγκατάθεσή τους απαγορεύεται, είτε συμβαίνει σε πραγματικό χρόνο είτε μέσω ανάλυσης δεδομένων που έχουν συλλεχθεί προγενέστερα», υπογραμμίζει η Anthropic.
«Το Claude δεν μπορεί να χρησιμοποιηθεί για να αποφασίσει ή να συστήσει ποιος πρέπει να ερευνηθεί, να συλληφθεί ή να κατηγορηθεί στο πλαίσιο της επιβολής του νόμου ή της ποινικής δικαιοσύνης. Απαγορεύουμε επίσης τη χρήση του Claude για τη δημιουργία ή τη βελτίωση εργαλείων που σχεδιάστηκαν για παρακολούθηση».
Παράθυρο για κυβερνητικές συμβάσεις και αυτόνομα ρομπότ
Η εταιρεία σημειώνει πάντως ότι οι κανόνες αυτοί ενδέχεται να τροποποιηθούν για «συμβάσεις με συγκεκριμένους κυβερνητικούς πελάτες εάν, κατά την κρίση της Anthropic, οι συμβατικοί περιορισμοί χρήσης και οι ισχύουσες διασφαλίσεις επαρκούν για τον μετριασμό των πιθανών βλαβών» — υπενθυμίζοντας ότι η εταιρεία έχει συνάψει στο παρελθόν συμβάσεις με τον αμερικανικό στρατό.
Ένας νέος κανένας προστέθηκε επίσης για τις περιπτώσεις όπου τα μοντέλα AI της Anthropic συνδέονται με υλικό (hardware) που εκτελεί αυτόνομες φυσικές ενέργειες και θα μπορούσε να προκαλέσει τραυματισμό: σε αυτές τις περιπτώσεις, ένας «ειδικευμένος χειριστής πρέπει να είναι σε θέση να παρατηρεί τον εξοπλισμό και να τον σταματά εάν χρειαστεί».
Αν και δεν διευκρινίζεται αν ο χειριστής αυτός πρέπει υποχρεωτικά να είναι άνθρωπος, η ρύθμιση φωτογραφίζει την αυξανόμενη τάση των εργαστηρίων AI να επενδύουν στη ρομποτική και την ενσωμάτωση τεχνητής νοημοσύνης.
Το ντιμπέιτ για τη «συνείδηση» των μηχανών
Η ιδέα ότι τα συστήματα τεχνητής νοημοσύνης ενδέχεται να αποκτήσουν συνείδηση αποτελεί ένα ιδιαίτερα πολωτικό ζήτημα, τόσο εντός όσο και εκτός του τεχνολογικού τομέα.
Τον τελευταίο χρόνο, η ηγεσία της Anthropic έχει επανειλημμένα αναφερθεί στο ενδεχόμενο τα μοντέλα της να διαθέτουν κάποιου είδους συνείδηση.
«Τα ερωτήματα σχετικά με την πιθανή εσωτερική εμπειρία, τη συνείδηση, το ηθικό καθεστώς και την ευημερία είναι σοβαρά ζητήματα που εξετάζουμε καθώς τα μοντέλα γίνονται πιο προηγμένα και ικανά», είχε δηλώσει τον Φεβρουάριο στο The Verge ο Κάιλ Φις, επικεφαλής της έρευνας της εταιρείας για την ευημερία των μοντέλων.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει δηλώσει στο παρελθόν ότι δεν μπορεί να αποκλείσει ένα τέτοιο ενδεχόμενο. «Δεν γνωρίζουμε αν τα μοντέλα έχουν συνείδηση», σημείωσε σε podcast.
Στον αντίποδα, άλλοι κολοσσοί του κλάδου απορρίπτουν κατηγορηματικά τέτοιες θεωρίες.
Από την πλευρά του, ο Σαμ Άλτμαν, διευθύνων σύμβουλος της ανταγωνίστριας OpenAI, εμφανίζεται κατηγορηματικά αντίθετος με μια τέτοια προοπτική.
«Με ενοχλεί πολύ το γεγονός ότι ορισμένοι προσπαθούν να αποδώσουν στα μοντέλα τεχνητής νοημοσύνης θρησκευτική δύναμη ή να υπονοήσουν ότι ο άνθρωπος παραχωρεί την κρίση του σε αυτά, και πιστεύω ότι αυτό αποτελεί πραγματικό ζήτημα ασφάλειας.», έγραψε σε ανάρτησή του στο X.
I am very uncomfortable about people trying to ascribe religious force or a surrender of human judgment to AI models, and think it is a real safety issue.
— Sam Altman (@sama) October 3, 2026
Η τοποθέτηση του Άλτμαν ήρθε μόλις λίγες ημέρες μετά από δημοσίευμα των New York Times, το οποίο αποκάλυπτε τις εκτενείς συνομιλίες που είχαν στελέχη της Anthropic με θρησκευτικούς μελετητές.
Τον περασμένο Σεπτέμβριο, ο κώδικας δεοντολογίας της Microsoft AI προκάλεσε αίσθηση όταν ένα προσχέδιο που δημοσίευσε ο CEO της εταιρείας, Μουσταφά Σουλεϊμάν, τόνιζε αυστηρά: «Η ιδέα της ευημερίας των μοντέλων είναι εσφαλμένη. Τα AI δεν πρέπει να έχουν δικαιώματα ή νομική προσωπικότητα».
Στη συνέχεια, το κείμενο της Microsoft τροποποιήθηκε υιοθετώντας μια πιο μετριοπαθή στάση: «Παρόλο που η επιστήμη γύρω από τη συνείδηση της Τεχνητής Νοημοσύνης απέχει πολύ από το να θεωρηθεί ξεκαθαρισμένη… Απορρίπτουμε την επιδίωξη νομικής προσωπικότητας, ή την ιδέα ότι τα μοντέλα μπορεί να αξίζουν ευημερία ή να έχουν δικαιώματα».
