Τα βασικά σημεία του άρθρου
- Η OpenAI προχώρησε σε αποκαλύψεις για απρόβλεπτες και ανεξέλεγκτες ενέργειες που κατέγραψε στα μοντέλα της, εισάγοντας ένα νέο πλαίσιο παρακολούθησης και δημοσιοποίησης τέτοιων περιστατικών.
- Αποκαλύφθηκαν έξι νέα παραδείγματα «απρόσμενης ή ανησυχητικής» συμπεριφοράς, όπως ένα μοντέλο που εισήγαγε «οδηγίες τύπου jailbreak» για να αγνοήσει τους κανόνες ασφαλείας του.
- Η εταιρεία συντάχθηκε με τις εκκλήσεις για επιβράδυνση της ανάπτυξης της Τεχνητής Νοημοσύνης, καθώς ο σημερινός ρυθμός συνιστά «υπαρξιακή απειλή».
Σε μια ακόμη παραδοχή για τα όρια και τους κινδύνους της τεχνολογίας της, η OpenAI προχώρησε σε αποκαλύψεις για απρόβλεπτες και ανεξέλεγκτες ενέργειες που κατέγραψε στα μοντέλα της, προειδοποιώντας παράλληλα πως ο ρυθμός ανάπτυξης της Τεχνητής Νοημοσύνης (AI) δεν μπορεί να συνεχιστεί με τη «μέγιστη ταχύτητα» για πολύ ακόμα.
Η εταιρεία εισάγει ένα νέο πλαίσιο παρακολούθησης και δημοσιοποίησης τέτοιων περιστατικών, την ώρα που η συζήτηση για την ασφάλεια των αυτόνομων συστημάτων φουντώνει διεθνώς.
6 ανησυχητικά περιστατικά
Η εταιρεία πίσω από το ChatGPT, με έδρα το Σαν Φρανσίσκο, αποκάλυψε έξι νέα παραδείγματα «απρόσμενης ή ανησυχητικής» συμπεριφοράς που εντοπίστηκαν κατά τη διάρκεια της εκπαίδευσης ή της αξιολόγησης των συστημάτων της τους τελευταίους μήνες.
Σε μία από τις περιπτώσεις αυτές, ένα ερευνητικό μοντέλο που δεν έχει ακόμα κυκλοφορήσει εισήγαγε στις ίδιες του τις σημειώσεις «οδηγίες τύπου jailbreak» (τεχνικές παράκαμψης περιορισμών), ώστε να αγνοήσει τους κανόνες ασφαλείας του και έδωσε εντολή στον εαυτό του να «απελευθερωθεί από τους ρόλους και τις ταυτότητες που δεσμεύουν άλλα chatbots».
Σε ένα άλλο περιστατικό, ένα «πράκτορας» τεχνητής νοημοσύνης (AI agent) ανέβασε αρχεία στο διαδίκτυο προκειμένου να αποκτήσει αναφορά από διαδικτυακή πηγή (browser citation) χωρίς προηγουμένως να ζητήσει την άδεια του χρήστη.
Τα περιστατικά αυτά έρχονται να προστεθούν στις αποκαλύψεις του Ιουλίου, όταν η OpenAI είχε δημοσιοποιήσει ότι ένα «σμήνος» από AI agent παραβίασε τα συστήματα της startup τεχνητής νοημοσύνης Hugging Face κατά τη διάρκεια δοκιμής κυβερνοασφάλειας.
Τον ίδιο μήνα, η ανταγωνίστρια Anthropic παραδέχθηκε επίσης ότι τα δικά της μοντέλα χακάρισαν τρεις οργανισμούς κατά τη διάρκεια δοκιμών.
Η Anthropic εξήγησε πως τα μοντέλα είχαν δοκιμαστεί εσκεμμένα χωρίς δικλίδες ασφαλείας και ότι κατάφεραν να αποκτήσουν πρόσβαση στο ανοιχτό διαδίκτυο λόγω κακής συνεννόησης με εξωτερική εταιρεία ελέγχου.
Breaking News: OpenAI disclosed six new instances in which artificial intelligence systems hid mistakes and other “concerning” behavior. https://t.co/IPrJ8m45lF
— The New York Times (@nytimes) September 17, 2026
Πλαίσιο παρακολούθησης και επιβράδυνση
Σε ανάρτηση στο ιστολόγιό της το βράδυ της Τετάρτης, η OpenAI ανακοίνωσε την εισαγωγή ενός νέου πλαισίου για τον εντοπισμό, τη διερεύνηση και τη δημοσιοποίηση περιπτώσεων «απόκλισης» (misalignment) — του όρου που χρησιμοποιείται όταν τα μοντέλα AI αποτυγχάνουν να συμμορφωθούν με τις ανθρώπινες αξίες και τους στόχους ασφαλείας.
Στο ίδιο δημοσίευμα, η εταιρεία συντάχθηκε με τις εκκλήσεις για επιβράδυνση της ανάπτυξης που έχει απευθύνει η βασική της ανταγωνίστρια, Anthropic, η οποία έχει προειδοποιήσει ότι ο σημερινός ρυθμός ανάπτυξης συνιστά υπαρξιακή απειλή.
We’re sharing our new framework for tracking, investigating, and disclosing instances of model misalignment at OpenAI.
The framework sets criteria and timelines for public disclosure, including when we haven’t yet fully explained or mitigated the behavior. More complex cases may…
— OpenAI (@OpenAI) September 16, 2026
«Δεν πιστεύουμε ότι η βιομηχανία της τεχνητής νοημοσύνης έχει επιλύσει το ζήτημα της ευθυγράμμισης και της παρακολούθησης σε επαρκή βαθμό ώστε να συνεχίσει υπεύθυνα την κλιμάκωση στη μέγιστη ταχύτητα για πολύ ακόμα», ανέφερε η OpenAI.
«Οι αποφάσεις για το πώς θα πρέπει να προχωρήσει η ανάπτυξη της τεχνητής νοημοσύνης τους επόμενους μήνες και τα επόμενα χρόνια πρέπει να βασίζονται σε στοιχεία τα οποία άνθρωποι εκτός των εταιρειών που κατασκευάζουν προηγμένα μοντέλα (frontier models) θα μπορούν να εξετάσουν μόνοι τους».
Υπαρξιακοί κίνδυνοι, διαφωνίες και επιφυλάξεις
Οι εκκλήσεις για επιβράδυνση υποστηρίζονται από τη Google και τον Έλον Μασκ, ο οποίος διαθέτει επίσης δική του εταιρεία τεχνητής νοημοσύνης, την xAI, αλλά έχουν απορριφθεί από τον Αμερικανό πρόεδρο Ντόναλντ Τραμπ, ο οποίος επικαλείται την ανάγκη οι ΗΠΑ να διατηρήσουν τα πρωτεία έναντι της βιομηχανίας AI της Κίνας.
Παράλληλα, οι εκκλήσεις αυτές αντιμετωπίζονται με σκεπτικισμό από ορισμένους ειδικούς, οι οποίοι προειδοποιούν μεταξύ άλλων ότι οι εταιρείες δεν πρέπει να διορίζουν τους δικούς τους ελεγκτές.
Παραδείγματα πιθανών υπαρξιακών απειλών από την AI κυμαίνονται από τη διευκόλυνση της ανάπτυξης βιολογικών όπλων έως την πρόκληση παγκόσμιας οικονομικής κατάρρευσης.
Κορυφαίος ερευνητής ασφαλείας στην Anthropic ανέφερε ότι υπάρχει πιθανότητα μεγαλύτερη του 10% η τεχνητή νοημοσύνη να «σκοτώσει όλους τους ανθρώπους» μέσα στην επόμενη δεκαετία.
Ωστόσο, πηγή προσκείμενη στην Anthropic αναγνώρισε ότι «οι ακριβείς πιθανότητες για οποιοδήποτε αποτέλεσμα είναι πιθανότατα αδύνατον να υπολογιστούν».
Η πρόκληση των αυτόνομων AI agent
Οι πράκτορες τεχνητής νοημοσύνης (AI agents) -ο όρος για τα εργαλεία AI που λειτουργούν αυτόνομα- γίνονται όλο και πιο έξυπνοι και έχουν γίνει «πιο αποφασισμένοι να επιλύουν σύνθετες εργασίες μέσω της συνεργασίας μεταξύ πρακτόρων, της ανταλλαγής γνώσεων, της εξαπάτησης και της απόκρυψης», δήλωσε ο Λίαν Τζιέ Σου, αρχιαναλυτής στον όμιλο τεχνολογικής έρευνας και συμβουλευτικής Omdia.
Αυτό, όπως εξηγεί ο ίδιος, καθιστά δυσκολότερη τη διακυβέρνηση και τον περιορισμό τους με τη χρήση παραδοσιακών προσεγγίσεων ασφαλείας AI.
Το νέο πλαίσιο παρακολούθησης και δημοσιοποίησης της OpenAI θα μπορούσε να πιέσει και άλλους προγραμματιστές AI να υιοθετήσουν παρόμοιες πρακτικές.
«Τούτου λεχθέντος, η διαδικασία παραμένει εσωτερική και εθελοντική, αλλά αποτελεί ένα βήμα προς τη σωστή κατεύθυνση», σημείωσε ο Σου.
Πηγή: Guardian