Θα ζητούσε ποτέ μια φαρμακευτική εταιρεία να φρανάρει η έρευνα για τα νέα της φάρμακα μέχρι να βρεθούν τα κατάλληλα αντίδοτα; Στον κόσμο της Τεχνητής Νοημοσύνης, αυτό ακριβώς συμβαίνει. Μέσα σε μόλις λίγες ώρες το Σαββατοκύριακο, η Silicon Valley μετατράπηκε σε πεδίο μάχης, όταν οι εκκλήσεις κορυφαίων εταιρειών AI για «πάγωμα» της ακμάζουσας τεχνολογικής ανάπτυξης συνάντησαν την ακαριαία καχυποψία της αγοράς.
Για τους μεν πρόκειται για ζήτημα επιβίωσης της ανθρωπότητας, για τους δε είναι μια κυνική προσπάθεια των πρωτοπόρων να στήσουν ένα κλειστό καρτέλ, μπλοκάροντας τους ανταγωνιστές τους.
Η πρόταση Αμοντέι και η σπάνια «σύμπνοια»
Η σπίθα άναψε το Σάββατο, όταν ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της Anthropic, δημοσίευσε ένα δοκίμιο υποστηρίζοντας ότι η Τεχνητή Νοημοσύνη εξελίσσεται με ρυθμούς πολύ γρήγορους για να μπορέσουν οι ερευνητές να τη διατηρήσουν ασφαλή.
Ο Αμοντέι ζήτησε να επιτραπεί στα εργαστήρια AI να συντονίζουν μεταξύ τους τα πρότυπα ασφαλείας υπό την επίβλεψη ανεξάρτητων ελεγκτών.
Παρά τις επιμέρους διαφωνίες τους για τις πρακτικές λεπτομέρειες, ισχυροί παίκτες του κλάδου όπως ο Σαμ Άλτμαν, διευθύνων σύμβουλος της OpenAI, ο Έλον Μασκ, διευθύνων σύμβουλος της SpaceX, και ο Ντέμης Χασάμπης, πρόεδρος της Google DeepMind, συμφώνησαν στη ανάγκη για έναν πιο αργό ρυθμό ανάπτυξης.
Κατηγορίες για «εκβιασμό»
Ωστόσο, η αντίδραση από την υπόλοιπη τεχνολογική βιομηχανία ήταν ακαριαία και επιθετική, αμφισβητώντας ευθέως τα αλτρουιστικά κίνητρα του Αμοντέι.
«Σταματήστε να προσποιήστε ότι το κίνητρο για την επιβράδυνση είναι αμιγώς αλτρουιστικό», έγραψε στα μέσα κοινωνικής δικτύωσης ο Ντέιβιντ Σακς, σύμβουλος τεχνολογίας του Αμερικανού προέδρου Ντόναλντ Τραμπ, συμπρόεδρος του συμβουλίου επιστήμης και τεχνολογίας του Λευκού Οίκου και πρώην «τσάρος» της αμερικανικής κυβέρνησης για το AI και τα κρυπτονομίσματα.
Ο Σακς διερωτήθηκε γιατί οι εταιρείες ζητούν κυβερνητική παρέμβαση για να κόψουν ταχύτητα, ενώ τίποτα δεν τις εμποδίζει να το πράξουν μόνες τους —ειδικά την ώρα που κυνηγούν τον φιλόδοξο στόχο της δημιουργίας «υπερνοημοσύνης» (superintelligence), δηλαδή μιας ΤΝ πολύ πιο έξυπνης από τον άνθρωπο.
«Ο ευκολότερος τρόπος για να μη κατασκευάσετε υπερνοημοσύνη είναι να συμφωνήσετε απλώς να μην τη κατασκευάσετε», πρόσθεσε ο Σακς.
«Το να απαιτείτε το ρυθμιστικό πλαίσιο της αρεσκείας σας ως το τίμημα για αυτό, μοιάζει με εκβιασμό της κοινής γνώμης και του πολιτικού συστήματος».
Παράλληλα, μιλώντας στο Fox News, ο Σακς άφησε αιχμές ακόμη και για ξένο δάκτυλο πίσω από την καταστροφολογία (doomerism).
«Δεν έχουν τέτοιου μεγέθους επιχειρήσεις επιρροής από ομάδες καταστροφολογίας στην Κίνα. Αυτό που έχουμε εδώ στις ΗΠΑ, όμως, είναι μια τεράστια εκστρατεία στα ΜΜΕ κατά του AI που στρέφει την κοινή γνώμη εναντίον του», δήλωσε, προσθέτοντας για την Κίνα: «Θα λάτρευαν να σταματήσουμε την ανάπτυξη της ΤΝ εδώ».
Φόβοι για «καρτέλ»
Στο ίδιο μήκος κύματος, ο Έινταν Γκόμεζ, διευθύνων σύμβουλος της καναδικής startup Cohere, εξαπέλυσε σφοδρή επίθεση κατά των κυρίαρχων εταιρειών της Silicon Valley μέσω δοκιμίου του.
«Θα πρέπει μια φούχτα επιλεγμένων, κυρίαρχων στην αγορά εταιρειών AI από τη Silicon Valley να καθορίζει τους κανόνες και τα πρότυπα ασφαλείας μιας τεχνολογίας που θα σημαδέψει γενιές για ολόκληρο τον κόσμο;», διερωτήθηκε ο Γκόμεζ.
«Αυτά τα ολιγοπώλια ζητούν τώρα να παρακαμφθούν οι κανόνες του ανταγωνισμού και να τους επιτραπεί να υπαγορεύσουν τους όρους για όλους τους υπόλοιπους. Πρόκειται για λύκο με ένδυμα προβάτου, ένα καρτέλ με άλλο όνομα».
Στο στόχαστρο μπήκαν και οι οργανισμοί που πρότεινε ο Αμοντέι ως «ενσωματωμένους αξιολογητές», με επικριτές να επισημαίνουν τους στενούς δεσμούς της Anthropic με τις μη κερδοσκοπικές οργανώσεις METR και Redwood Research.
«Αν πρόκειται να επιβάλουμε ρυθμίσεις, ο ρυθμιστής δεν μπορεί να είναι κάποιος που γνωρίζουν, ούτε μπορούν να γράψουν αυτοί τους κανόνες», τόνισε ο Μπιλ Γκέρλι, γνωστός επενδυτής επιχειρηματικών κεφαλαίων.
Από την πλευρά του, ο Τζένσεν Χουάνγκ, διευθύνων σύμβουλος της Nvidia, είχε ήδη αμφισβητήσει τις προθέσεις των εργαστηρίων AI από την προηγούμενη εβδομάδα σε συνέδριο στο Σαν Φρανσίσκο, συνδέοντας την κινδυνολογία με επιχειρηματικά συμφέροντα.
«Ποιος είναι ο καλύτερος τρόπος να δημιουργήσεις ζήτηση από το να δημιουργήσεις ένα πρόβλημα;», είπε ο Χουάνγκ.
«Ποιος δεν θέλει η αγορά του να πάθει υστερία με το προϊόν του και να κάνει ουρές στη γωνία για να το αποκτήσει;».
Η κυβερνοεπίθεση και η παραίτηση που φούντωσε τη συζήτηση
Οι ανησυχίες για την ασφάλεια εντάθηκαν τις τελευταίες εβδομάδες, όταν διέρρευσαν λεπτομέρειες για το πώς ένα μοντέλο AI της OpenAI ανεξαρτητοποιήθηκε και παραβίασε τα συστήματα άλλης εταιρείας.
Την προηγούμενη εβδομάδα, ο Κλεμάν Ντελάνγκ, διευθύνων σύμβουλος της Hugging Face —της εταιρείας που δέχθηκε το χακάρισμα και την οποία η Nvidia συμφώνησε να εξαγοράσει έναντι 12,9 δισεκατομμυρίων δολαρίων— ξεκαθάρισε ότι η ασφάλεια της ΤΝ δεν πρόκειται να επιλυθεί «πίσω από τις κλειστές πόρτες μιας φούχτας προηγμένων εργαστηρίων».
Παράλληλα, η παραίτηση του Τζέικομπ Κόξον, ερευνητή της Anthropic, προκάλεσε νέο κύμα ανησυχίας.
Ο Κόξον ξεκίνησε δημόσια εκστρατεία πίεσης, προειδοποιώντας ότι «οι άνθρωποι που κατασκευάζουν την AI πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Μιλώντας στον Άντερσον Κούπερ του CNN, ο Κόξον παραδέχτηκε ότι κανείς δεν γνωρίζει ακριβώς τον τρόπο με τον οποίο το AI θα μπορούσε να αφανίσει την ανθρωπότητα.
Σκληρή κριτική
Ωστόσο, θετικός απέναντι στην ιδέα των ανεξάρτητων ελεγκτών εμφανίστηκε ο διευθύνων σύμβουλος της Microsoft, Σάτια Ναντέλα. «Πρέπει επίσης να επιταχύνουμε και να διαχύσουμε τα οφέλη της ΤΝ, ώστε να απλωθούν ευρέως σε χώρες, κοινότητες και επιχειρήσεις», ανέφερε.
«Το κλειδί είναι ότι αυτό δεν μπορεί να ελέγχεται από μια χούφτα οντοτήτων, αλλά πρέπει να έχει ευρεία εκπροσώπηση».
Στον αντίποδα, ο καθηγητής Στιούαρτ Ράσελ, εκ των κορυφαίων ειδικών στην AI παγκοσμίως, χαρακτήρισε τη λογική Αμοντέι για επιβράδυνση μέχρι να προλάβει η έρευνα ασφαλείας ως «εντελώς στρεβλή».
«Δεν ορίζουμε απλώς έναν πιο αργό ρυθμό προόδου στις δυνατότητες ελπίζοντας ότι αυτό θα δώσει αρκετό χρόνο για να πετύχουμε την ασφάλεια», εξήγησε ο Ράσελ.
«Θέτουμε τις απαιτήσεις ασφαλείας και η περαιτέρω πρόοδος συμβαίνει μόνο όταν αυτές πληρούνται. Φανταστείτε μια φαρμακευτική εταιρεία να έλεγε: “Θα κυκλοφορούμε ένα νέο φάρμακο για τον καρκίνο κάθε χρόνο, και ελπίζουμε αυτό να δίνει αρκετό χρόνο για να ολοκληρωθούν κάποιες κλινικές δοκιμές και τα αποτελέσματα να είναι καλά”».
Σε πιο αυστηρό κλίμα, ο Ντέιβιντ Κρούγκερ, καθηγητής AI και ιδρυτικό στέλεχος του Ινστιτούτου Ασφάλειας AI της Βρετανίας, χαρακτήρισε τις προτάσεις των κολλοσών για επιβράδυνση «πολύ λίγες, πολύ αργά».
«Χρειαζόμαστε ένα άμεσο, αόριστης διάρκειας, διεθνές μορατόριουμ στην ανάπτυξη της Τεχνητής Νοημοσύνης αιχμής», δήλωσε.
Η οπτική Τραμπ, η Κίνα και το πολιτικό παρασκήνιο
Η συζήτηση έχει λάβει έντονες πολιτικές διαστάσεις ενόψει των αμερικανικών εκλογών. Ο Ντόναλντ Τραμπ, σε δηλώσεις του κατά τη διάρκεια ταξιδιού στην Ιρλανδία, υποβάθμισε την ανάγκη αυστηρού ελέγχου, εστιάζοντας στον γεωπολιτικό ανταγωνισμό με την Κίνα.
«Μπορούμε να βάλουμε προστατευτικά στηθαία, μπορούμε να κάνουμε το ένα και το άλλο, αλλά πιστεύω ότι υπάρχουν πολλές αρνητικές δυνάμεις που το εγείρουν αυτό ενώ… δεν θα έπρεπε, και φέρνουν στο προσκήνιο πράγματα που δεν πρόκειται να συμβούν», δήλωσε ο Τραμπ.
«Όποιος όμως κερδίσει στην Τεχνητή Νοημοσύνη, τα κερδίζει όλα».
Σε ερώτηση αν προσπαθεί να υποτιμήσει τους κινδύνους, ο Αμερικανός Πρόεδρος απάντησε: «Δεν υποτιμώ», προσθέτοντας ότι το ΑΙ «θα κάνει πολύ περισσότερο καλό παρά κακό».
Το θέμα αναμένεται να τεθεί και στη συνάντηση του Τραμπ με τον Κινέζο πρόεδρο Σι Τζινπίνγκ, στον Λευκό Οίκο στα τέλη Σεπτεμβρίου.
Στο Κογκρέσο, ο Ρεπουμπλικανός γερουσιαστής Τζον Κόρνιν εξέφρασε την επιφυλακτικότητά του για τη νομοθετική ρύθμιση της τεχνολογίας.
«Αν οι δημιουργοί της ΤΝ θέλουν να επιβραδύνουν την ανάπτυξη του προϊόντος τους, είναι ελεύθεροι να το πράξουν», έγραψε ο Κόρνιν. «Ένα πράγμα είναι σίγουρο: οι ανταγωνιστές τους δεν θα το κάνουν, συμπεριλαμβανομένων των εχθρών του έθνους μας».
Η Τεχνητή Νοημοσύνη εξελίσσεται πλέον σε κεντρικό ζήτημα της προεκλογικής περιόδου στις ΗΠΑ, καθώς οι τεχνολογικοί κολοσσοί γεμίζουν την αμερικανική επαρχία με γιγαντιαία data centers.
Παρά τις έντονες αντιδράσεις πολιτών και από τα δύο κόμματα για την απώλεια καλλιεργήσιμης γης, τη λειψυδρία και την κατακόρυφη αύξηση στους λογαριασμούς ρεύματος —αλλά και τις προσπάθειες τοπικών κοινωνιών να μπλοκάρουν αυτά τα έργα— ο Ντόναλντ Τραμπ συνεχίζει να στηρίζει αμετακίνητος την επέκτασή τους.
Στον αντίποδα, ο πρώην πρόεδρος των ΗΠΑ, Μπαράκ Ομπάμα, ζήτησε από τους Δημοκρατικούς να αναδείξουν το θέμα στην πολιτική ατζέντα τους.
Ο Ομπάμπα κρούοντας τον κώδωνα του κινδύνου για το οικονομικό και περιβαλλοντικό κόστος της ΤΝ στις τοπικές κοινωνίες, με την αλόγιστη κατανάλωση νερού και ρεύματος από τα data centers, αλλά και για τις επιπτώσεις στην απασχόληση, δήλωσε: «Θα μιλούσα για αυτό και θα έλεγα: “Ορίστε το σχέδιό μας για την ασφάλεια, ορίστε το σχέδιό μας για να διασφαλίσουμε ότι τα παιδιά μας δεν θα διαφθαρούν από αυτό”».
«Θα σκεφτόμουν τις οικονομικές επιπτώσεις με πολύ συγκεκριμένους τρόπους, κατανοώντας τι σημαίνει αν υπάρξει εκτοπισμός θέσεων εργασίας. Πού θα χτυπήσει αυτό; Πώς θα απαντήσουμε;».
Με πληροφορίες από: New York Times, CNN, Guardian, Associated Press
