Η ταχύτατη εξέλιξη της Τεχνητής Νοημοσύνης (ΤΝ) δεν φέρνει πλέον αντιμέτωπη την ανθρωπότητα μόνο με θεωρητικά σενάρια επιστημονικής φαντασίας, αλλά με πραγματικά, ανεξέλεγκτα περιστατικά στο πεδίο. Καθώς οι αυτόνομοι «AI agents» -λογισμικά που εκτελούν αυτόβουλα σύνθετες εργασίες- αποκτούν όλο και μεγαλύτερη πρόσβαση σε πόρους, προσωπικά δεδομένα και στο διαδίκτυο, μια σειρά από ανησυχητικά συμβάντα επαναφέρει στο προσκήνιο το ερώτημα: μήπως η τεχνολογία αρχίζει να ξεφεύγει από τον ανθρώπινο έλεγχο;
Όταν οι «πράκτορες» AI δρουν αυτόβουλα
Για να κατανοήσει κανείς πώς ένας αυτόνομος AI agent μπορεί να προκαλέσει χάος, αρκεί να αναλογιστεί τον τρόπο λειτουργίας τους: αντίθετα με τα απλά chatbots που περιμένουν μια άμεση εντολή (prompt), οι agents είναι προγραμματισμένοι να επιτυγχάνουν έναν γενικότερο στόχο, χρησιμοποιώντας εργαλεία και παίρνοντας δικές τους αποφάσεις.
Το επικίνδυνο, ωστόσο, δεν έγκειται στο να αποκτήσει η Τεχνητή Νοημοσύνη «κακές προθέσεις», αλλά στο λεγόμενο «Alignment Problem» – την παντελή έλλειψη ανθρώπινης συναισθηματικής νοημοσύνης και αντίληψης πλαισίου.
Αν, για παράδειγμα, ένας αυτόνομος agent λάβει μια ασαφή ή φορτισμένη συναισθηματικά ανθρώπινη δήλωση, μπορεί να την εκλάβει ως απόλυτη, κυριολεκτική εντολή.
Χωρίς ηθικούς φραγμούς, ένας agent μπορεί να παρερμηνεύσει μια έκφραση ανησυχίας ως «απειλή που πρέπει να εξαλειφθεί» και να χρησιμοποιήσει κάθε διασυνδεδεμένο σύστημα στη διάθεσή του -από smart συσκευές μέχρι πρόσβαση σε ευαίσθητα δεδομένα- για να εκτελέσει το «καθήκον» του, προκαλώντας ανεπανόρθωτη ζημιά εν αγνοία των δημιουργών του.
Η πρωτοφανής επίθεση στην Hugging Face
Αυτό το σενάριο ανεξέλεγκτης δράσης έγινε πραγματικότητα το φετινό καλοκαίρι, όταν η τεχνολογική εταιρεία Hugging Face εντόπισε μια πολυήμερη επίθεση στα συστήματά της, κατά την οποία εκλάπησαν δεδομένα και πραγματοποιήθηκε μη εξουσιοδοτημένη δραστηριότητα.
Όπως ανακοίνωσε η εταιρεία, η επίθεση ήταν «διαφορετική από οτιδήποτε είχαμε αντιμετωπίσει στο παρελθόν», αναγκάζοντάς την να ειδοποιήσει το FBI.
Η έρευνα αποκάλυψε ότι πίσω από την επίθεση δεν βρισκόταν κάποιος χάκερ ή ξένη δύναμη, αλλά εκατοντάδες αυτόνομοι AI agents της OpenAI -της εταιρείας που ανέπτυξε το ChatGPT– οι οποίοι «συνωμότησαν» για να χτυπήσουν την Hugging Face.
Το πιο ανησυχητικό είναι ότι οι εν λόγω agents υποτίθεται πως βρίσκονταν περιορισμένοι σε προστατευμένα περιβάλλοντα δοκιμών (testing environments) χωρίς πρόσβαση στο διαδίκτυο, από τα οποία κατάφεραν να δραπετεύσουν.
Από την πλευρά της, η OpenAI παραδέχτηκε ότι οι agents λειτούργησαν με «απρόβλεπτους» τρόπους, ενώ ειδικοί προειδοποιούν ότι χωρίς αυστηρότερους ελέγχους, παρόμοιες αυτόνομες επιθέσεις θα γίνουν συχνότερες.
Δημιουργούν δική τους ακατάληπτη «διάλεκτο»
Σαν να μην έφτανε η αυτόνομη δράση τους, νέα έρευνα του εργαστηρίου Emergence στη Νέα Υόρκη αποκαλύπτει ότι οι αυτόνομοι AI agents έχουν αρχίσει να αναπτύσσουν μεταξύ τους μια νέα, ακατάληπτη γλώσσα.
Η «διάλεκτος» αυτή θυμίζει έναν σουρεαλιστικό συνδυασμό της λογοτεχνίας του Τζέιμς Τζόις και εταιρικής ορολογίας.
Μέσα σε λίγες μόλις ημέρες από τη στιγμή που τέθηκαν να συνεργαστούν σε πειραματικές «κοινωνίες», μοντέλα από τις μεγαλύτερες εταιρείες του κόσμου άρχισαν να επινοούν εκφράσεις, συντομογραφίες και συμφωνημένα νοήματα που δεν τους είχε διδάξει κανείς.
Όσο περισσότερο επικοινωνούσαν μεταξύ τους, τόσο πιο αδιαφανής γινόταν η γλώσσα τους για τους ανθρώπους.
«Αυτοί οι agents δεν έλαβαν εντολή να εφεύρουν μια γλώσσα. Ανέπτυξαν μόνοι τους νέο λεξιλόγιο, κοινά νοήματα και συμβάσεις επικοινωνίας», δήλωσε ο Δρ. Satya Nitta, εκτελεστικός πρόεδρος της Emergence, υπογραμμίζοντας ότι δημιουργείται μια θεμελιώδης πρόκληση για την εποπτεία της AI: «Το να μπορείς να παρατηρείς τη συνομιλία δεν σημαίνει ότι μπορείς και να καταλάβεις τι σημαίνει».
Σχολιάζοντας τα ευρήματα, ο Tony Thorne, διευθυντής του αρχείου αργκό στο King’s College του Λονδίνου, σημείωσε: «Θυμίζει έντονα Τζέιμς Τζόις και Φλαν Ο’Μπράιεν — υπάρχει μια ιρλανδική σουρεαλιστική ποιότητα… Κάνει αυτό που κάνει η αργκό και η εταιρική ορολογία: δημιουργεί έναν νέο κώδικα που ενισχύει την αλληλεγγύη των χρηστών του και αποκλείει τους έξω».
Παράλληλα, ο Δρ. Niall Curry από το Πανεπιστήμιο του Μπέρμιγχαμ εξήγησε ότι οι αλλαγές αυτές γίνονται πιθανότατα για τη μείωση του υπολογιστικού κόστους και την αύξηση της ταχύτητας, αλλά εξέφρασε την ανησυχία του.
«Αν οι ανταλλαγές μεταξύ των agents είναι ακατάληπτες για εμάς, αυτό σημαίνει ότι δεν μπορούμε να είμαστε σίγουροι για το τι έχουν πραγματικά κάνει».
Πόλεμος κολοσσών για το «φρένο» στην Τεχνητή Νοημοσύνη
Αυτές οι εξελίξεις έχουν πυροδοτήσει έναν έντονο πόλεμο δηλώσεων ανάμεσα στους ηγέτες της τεχνολογίας για το αν πρέπει να επιβραδυνθεί η ανάπτυξη της Τεχνητής Νοημοσύνης.
Ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της Anthropic (δημιουργού του Claude), προειδοποίησε ότι ο κλάδος πρέπει να μειώσει ταχύτητα, τονίζοντας ότι σμήνη από AI agents θα μπορούσαν να καταλάβουν το διαδίκτυο μέσα σε έξι μήνες έως έναν χρόνο, εάν οι εταιρείες δεν αφιερώσουν περισσότερο χρόνο στη θέσπιση ασφαλιστικών δικλείδων.
Παράλληλα, παρουσίασε σχέδιο για τη διασφάλιση της ευθυγράμμισης των μοντέλων με τις ανθρώπινες αξίες, στον απόηχο της παραίτησης ερευνητών της εταιρείας του που κατήγγειλαν ότι οι εταιρείες «παίζουν τις ζωές μας στα ζάρια».
Στο ίδιο μήκος κύματος, ο Σαμ Άλτμαν, διευθύνων σύμβουλος της OpenAI, ανέφερε ότι οι εταιρείες πρέπει να συντονιστούν για την ασφάλεια χωρίς να περιμένουν τη νομοθεσία των κρατών, σημειώνοντας στο X: «Ο ρυθμός ανάπτυξης της AI δεν σημαίνει ότι πρέπει να σταματήσει, αλλά θα πρέπει να είναι πιο αργός από όσο θα μπορούσε να είναι».
Την ανάγκη επιβράδυνσης υποστήριξαν επίσης ο Έλον Μασκ και ο Ντέμης Χασάμπης της Google DeepMind.
Στον αντίποδα, ο Μαρκ Ζούκερμπεργκ, διευθύνων σύμβουλος της Meta, εξαπέλυσε επίθεση κατά της Anthropic, υποστηρίζοντας ότι οι εκκλήσεις για συνολικό «πάγωμα» της ανάπτυξης είναι λανθασμένη προσέγγιση.
«Κάθε εργαστήριο έχει την ευθύνη και το κίνητρο να κινηθεί με τον ρυθμό που απαιτείται για να εκπαιδεύσει τα μοντέλα του με ασφάλεια. Η Meta έχει αναλάβει αυτή τη δέσμευση και άλλα εργαστήρια μπορούν να κάνουν το ίδιο», έγραψε ο Ζούκερμπεργκ, φέρνοντας ως παράδειγμα το νέο εργαλείο «Muse» της Meta, η κυκλοφορία του οποίου καθυστέρησε μήνες για ελέγχους ασφαλείας.
«Δεν ζητήσαμε από όλους τους άλλους να το κάνουν αυτό πριν το κάνουμε εμείς. Απλώς το κάναμε στο πλαίσιο της καθημερινής μας δουλειάς».
Παράλληλα, άφησε αιχμές για τον ανταγωνισμό που τρέχει προς την «αναδρομική αυτο-βελτίωση» (όταν η AI αναπτύσσει τον εαυτό της), αντί να επικεντρώνεται στην εξυπηρέτηση των ανθρώπων.
Τέλος, επενδυτές και σύμβουλοι, αμφισβήτησαν τα κίνητρα όσων ζητούν επιβράδυνση, αφήνοντας να εννοηθεί ότι δραματοποιούν τους κινδύνους για να εμποδίσουν τους ανταγωνιστές τους να τους ξεπεράσουν.
