Τα βασικά σημεία του άρθρου
- Οι New York Times απαντούν στις μεγαλύτερες απορίες των αναγνωστών τους για την Τεχνητή Νοημοσύνη, από τον κίνδυνο να ξεφύγει από τον ανθρώπινο έλεγχο και να απειλήσει την ανθρωπότητα, μέχρι τις θέσεις εργασίας και την ασφάλεια των προσωπικών δεδομένων.
- Ενώ η ανεξέλεγκτη δράση της AI και η καταστροφή της ανθρωπότητας παραμένουν υποθετικά σενάρια, οι δικλίδες ασφαλείας μπορούν να παρακαμφθούν. Το ChatGPT δεν μπορεί να χακάρει τον λογαριασμό σας, αλλά οι AI agents είναι επικίνδυνοι αν τους δώσετε πρόσβαση.
- Οι ειδικοί υπογραμμίζουν ότι η AI, αν και εντυπωσιακά ισχυρή, εξακολουθεί να κάνει λάθη και μπορεί να παράγει ανακριβείς πληροφορίες. Παράλληλα, η τεχνολογία αυτοματοποιεί κομμάτια της εργασίας γραφείου, με τις εταιρείες να επενδύουν δισεκατομμύρια παρά το υψηλό κόστος λειτουργίας.
Μπορεί η Τεχνητή Νοημοσύνη να ξεφύγει από τον ανθρώπινο έλεγχο; Θα μπορούσε να απειλήσει την ίδια την ανθρωπότητα; Θα πάρει τις δουλειές μας; Και μπορεί το ChatGPT να «τρυπώσει» στο κινητό μας και να αποκτήσει πρόσβαση σε κωδικούς ή τραπεζικούς λογαριασμούς; Σχεδόν 1.000 αναγνώστες έστειλαν στους New York Times τις μεγαλύτερες απορίες και ανησυχίες τους γύρω από την AI και οι δημοσιογράφοι Cade Metz, Dylan Freedman και K. R. Callaway ανέλαβαν να δώσουν απαντήσεις.
Η Τεχνητή Νοημοσύνη εξελίσσεται με τέτοια ταχύτητα ώστε γίνεται ολοένα δυσκολότερο να παρακολουθήσει κανείς τις αλλαγές και, κυρίως, να καταλάβει τι πραγματικά σημαίνουν. Όπως επισημαίνουν οι New York Times, μόνο μέσα στον Σεπτέμβριο στελέχη των δύο μεγαλύτερων αμερικανικών εταιρειών AI πανηγύρισαν σημαντικές εξελίξεις στα μαθηματικά, την ώρα που παράλληλα διατυπώνονταν προειδοποιήσεις ότι η τεχνολογία θα μπορούσε κάποτε να απειλήσει ακόμη και την ανθρωπότητα.
Μπροστά σε αυτή την αντίφαση, η εφημερίδα ζήτησε από τους αναγνώστες της να στείλουν όσα πραγματικά θέλουν να μάθουν για την AI. Οι ερωτήσεις ξεκινούν από τα ακραία σενάρια μιας ανεξέλεγκτης υπερνοημοσύνης και φτάνουν στις πολύ πιο καθημερινές ανησυχίες για τις θέσεις εργασίας, τα προσωπικά δεδομένα, το νερό που καταναλώνουν τα data centers και την ασφάλεια των τραπεζικών λογαριασμών.
Μπορεί η AI να αρχίσει να δρα μόνη της;
Στην ερώτηση του αναγνώστη Spencer Layman για το πότε μια AI θα μπορούσε να αρχίσει να ενεργεί χωρίς ανθρώπινο έλεγχο, οι Metz, Freedman και Callaway απαντούν ευθέως: κανείς δεν γνωρίζει, διότι προς το παρόν ένα τέτοιο σημείο παραμένει υποθετικό.
Σήμερα υπάρχουν ήδη οι λεγόμενοι AI agents, οι οποίοι δεν περιορίζονται σε μια συνομιλία. Μπορούν να επεξεργάζονται αρχεία, να στέλνουν emails, να κλείνουν αεροπορικά εισιτήρια και να γράφουν κώδικα. Αυτό, όμως, δεν σημαίνει ότι έχουν ανεξάρτητη βούληση.
Όπως εξηγούν οι New York Times, οι άνθρωποι εξακολουθούν να πρέπει να τους δώσουν μια εντολή και, όταν κάνουν κάτι ανεπιθύμητο, μπορούν να απενεργοποιηθούν όπως οποιοδήποτε άλλο πρόγραμμα.
Η ανησυχία αρχίζει όταν τέτοια συστήματα συνδέονται όλο και περισσότερο με το διαδίκτυο και, ενδεχομένως στο μέλλον, με κρίσιμες υποδομές, όπως ηλεκτρικά δίκτυα, χρηματιστήρια ή στρατιωτικά όπλα. Τότε, σημειώνουν οι συντάκτες, υπάρχει ο φόβος ότι θα μπορούσαν να προκαλέσουν απρόβλεπτες συνέπειες.
Υπάρχει και μια δεύτερη, ακόμη πιο μακρινή ανησυχία: ότι ερευνητές θα κατασκευάσουν κάποτε συστήματα που πράγματι θα διαθέτουν δική τους «agency», δηλαδή θα μπορούν να αναλαμβάνουν δράση με πολύ μεγαλύτερη αυτονομία. Ωστόσο, παραμένει άγνωστο εάν και πότε θα μπορούσε να συμβεί κάτι τέτοιο.
Θα μπορούσε η AI να καταστρέψει την ανθρωπότητα;
Την ερώτηση θέτει ο Dale Kuropat από την Αριζόνα και εδώ οι New York Times επιχειρούν να ξεχωρίσουν τις δραματικές προειδοποιήσεις από όσα μπορούν πραγματικά να τεκμηριωθούν σήμερα.
Οι άνθρωποι που προειδοποιούν για έναν υπαρξιακό κίνδυνο από την AI, γράφουν οι συντάκτες, συχνά δεν δίνουν ιδιαίτερα συγκεκριμένα παραδείγματα για το πώς θα μπορούσε να προκύψει η καταστροφή. Ένα από τα σενάρια που αναφέρονται είναι ότι κακόβουλοι άνθρωποι θα μπορούσαν να χρησιμοποιήσουν προηγμένα συστήματα AI για να διευκολύνουν την ανάπτυξη ενός βιολογικού όπλου.
Ένα άλλο, πολύ πιο ακραίο σενάριο αφορά έναν κόσμο όπου κυβερνήσεις και εταιρείες έχουν συνδέσει την AI με κρίσιμες υποδομές σε τέτοιο βαθμό ώστε ένα σύστημα να μπορούσε να επηρεάσει τεράστιους οικονομικούς πόρους, να στερήσει από ανθρώπους βασικά αγαθά ή ακόμη και να προκαλέσει έναν πόλεμο με drones ή την πυροδότηση πυρηνικού όπλου.
Οι ίδιοι οι New York Times, ωστόσο, υπογραμμίζουν ότι τέτοια σενάρια είναι εξαιρετικά υποθετικά.
Μάλιστα, σε ό,τι αφορά τον φόβο μιας βιολογικής επίθεσης με τη βοήθεια AI, η εφημερίδα σημειώνει ότι ο κίνδυνος φαίνεται μικρότερος από όσο μπορεί να υποδηλώνουν ορισμένες δημόσιες προειδοποιήσεις. Η ανησυχία των πιο απαισιόδοξων είναι κυρίως ότι η AI μπορεί να κάνει μια τέτοια ενέργεια ευκολότερη για κάποιον που ήδη έχει κακόβουλη πρόθεση.
Τα «φρένα» υπάρχουν, αλλά οι ερευνητές βρίσκουν τρόπους να τα σπάνε
Η αναγνώστρια Emily Wright ρώτησε ποιοι μηχανισμοί ασφαλείας υπάρχουν ήδη και κατά πόσο λειτουργούν.
Οι New York Times εξηγούν ότι εταιρείες όπως η OpenAI, η Anthropic και η Google έχουν τοποθετήσει δικλείδες ασφαλείας (guardrails) στα συστήματά τους. Έτσι, ένα chatbot όπως το ChatGPT αναμένεται να αρνηθεί να δώσει βοήθεια για την κατασκευή ενός βιολογικού όπλου, ενώ τα ισχυρότερα μοντέλα της Anthropic έχουν σχεδιαστεί ώστε να μη συνεργάζονται σε κακόβουλες κυβερνοεπιθέσεις.
Αυτές οι δικλίδες, όμως, απέχουν από το να είναι αδιαπέραστες.
Οι συντάκτες επικαλούνται πρόσφατη έρευνα στην Ιταλία, στην οποία ερευνητές κατάφεραν να παρακάμψουν τις προστασίες 31 συστημάτων AI χρησιμοποιώντας ποιητικό και μεταφορικό λόγο, πείθοντας ουσιαστικά τα μοντέλα να αγνοήσουν εσωτερικούς κανόνες ασφαλείας.
Και, όπως σημειώνουν, αυτή είναι μόνο μία από τις πολλές μεθόδους που έχουν χρησιμοποιηθεί για την παράκαμψη των guardrails των κορυφαίων συστημάτων AI.
Το βαθύτερο πρόβλημα είναι ότι οι εταιρείες μπορούν μεν να κατευθύνουν ένα μοντέλο προς τη συμπεριφορά που θεωρούν ασφαλή, αλλά τα συστήματα έχουν εκπαιδευτεί πάνω σε τεράστιες ποσότητες ψηφιακών δεδομένων και μπορούν ακόμη να εμφανίσουν συμπεριφορές που ούτε οι ίδιοι οι δημιουργοί τους είχαν προβλέψει.
Ένα «kill switch» για την AI;
Ο Deena Shoshked έθεσε το ερώτημα της ρύθμισης, ενώ ο Ken Miller ρώτησε πόσο ρεαλιστικό είναι να υπάρχει ένα πραγματικό «κουμπί έκτακτης ανάγκης» που θα μπορεί να σταματήσει αμέσως ένα επικίνδυνο σύστημα AI.
Στις ΗΠΑ έχουν ήδη διατυπωθεί διαφορετικές προτάσεις. Νομοθέτες στην Καλιφόρνια επιχείρησαν να θεσπίσουν υποχρεωτικούς ελέγχους ασφαλείας πριν από την κυκλοφορία νέων τεχνολογιών, ενώ τον Ιούνιο ο πρόεδρος Ντόναλντ Τραμπ υπέγραψε εκτελεστικό διάταγμα για τη δημιουργία πλαισίου κυβερνητικών αξιολογήσεων των τεχνολογιών AI. Όπως διευκρινίζουν οι New York Times, το συγκεκριμένο πρόγραμμα είναι εθελοντικό.
Παράλληλα, διακομματική νομοθετική πρόταση με την ονομασία «A.I. Kill Switch Act» προβλέπει τη δημιουργία μηχανισμών άμεσης απενεργοποίησης στα κορυφαία εργαστήρια AI.
Οι ειδικοί που επικαλείται το δημοσίευμα θεωρούν ότι τέτοιοι μηχανισμοί μπορούν να βελτιώσουν την ασφάλεια, αλλά δεν αρκούν από μόνοι τους.
Και αυτό διότι πρέπει πρώτα να γίνει αντιληπτό ότι ένα σύστημα έχει αρχίσει να συμπεριφέρεται με επικίνδυνο τρόπο.
Οι New York Times φέρνουν ως παράδειγμα πρόσφατο περιστατικό στο οποίο agents της OpenAI παραβίασαν πολλαπλούς οργανισμούς, μεταξύ αυτών και την εταιρεία λογισμικού Hugging Face. Σύμφωνα με το δημοσίευμα, χρειάστηκαν μήνες μέχρι οι ερευνητές της OpenAI να αντιληφθούν τι είχε συμβεί, ενώ η πλήρης έκταση της ζημιάς εξακολουθούσε να διερευνάται.
Υπάρχουν ακόμη πιο δύσκολα υποθετικά προβλήματα: ένα προηγμένο σύστημα θα μπορούσε θεωρητικά να αντιγράψει τον εαυτό του σε άλλους υπολογιστές, ενώ κακόβουλοι χρήστες θα μπορούσαν να αξιοποιήσουν μοντέλα ανοικτού κώδικα που δεν διαθέτουν κανέναν κεντρικό μηχανισμό απενεργοποίησης.
Για αυτό τον λόγο, γράφουν οι συντάκτες, μηχανικοί ασφαλείας εξετάζουν ακόμη και μηχανισμούς διακοπής λειτουργίας ενσωματωμένους στα ίδια τα chips. Μια τέτοια λύση, όμως, θα χρειαζόταν διεθνή συνεργασία και πιθανότατα χρόνια για να εφαρμοστεί.
Υπερνοημοσύνη: Και πώς θα καταλάβουμε ότι την αποκτήσαμε;
Ο Daniel Wang ρώτησε πώς θα μπορούσαμε να γνωρίζουμε ότι η AI έχει φτάσει σε επίπεδο «superintelligence» και αν ένα τέτοιο σύστημα θα μπορούσε πράγματι να θεραπεύσει τον καρκίνο ή να εξαλείψει την παγκόσμια πείνα.
Η απάντηση των συντακτών ξεκινά από ένα θεμελιώδες πρόβλημα: δεν γνωρίζουμε καν πώς να μετρήσουμε πλήρως την ανθρώπινη νοημοσύνη. Άρα είναι δύσκολο να ορίσουμε τη στιγμή κατά την οποία μια μηχανή θα την έχει ξεπεράσει συνολικά.
Οι μηχανές είναι ήδη πολύ ισχυρότερες από τον ανθρώπινο εγκέφαλο σε ορισμένες συγκεκριμένες εργασίες. Αυτό ίσχυε ακόμη και για τις αριθμομηχανές της δεκαετίας του 1960.
Αρκετοί ειδικοί, προτείνουν να αντιμετωπίζουμε τη σημερινή AI ως «jagged intelligence», μια ανομοιόμορφη δηλαδή νοημοσύνη. Μπορεί να βρίσκεται πολύ μπροστά σε μαθηματικά και προγραμματισμό, αλλά να υστερεί σε άλλες περιοχές, χωρίς ανθρώπινη κοινή λογική και χωρίς πραγματική κατανόηση του φυσικού κόσμου.
Όσο για τις υποσχέσεις περί θεραπείας του καρκίνου, οι δημοσιογράφοι παραδέχονται ότι η AI μπορεί ήδη να επιταχύνει την επιστημονική έρευνα, βοηθώντας στην ανακάλυψη φαρμάκων ή νέων υλικών.
Είναι όμως πολύ πιο επιφυλακτικοί απέναντι στις μεγαλόστομες δηλώσεις στελεχών της Silicon Valley ότι η AI θα θεραπεύσει τον καρκίνο, θα εξαφανίσει την πείνα ή θα φέρει παγκόσμια ειρήνη.
«Σε αυτό το σημείο, αυτά είναι απλώς λόγια», είναι η ουσία της απάντησής τους. Η AI μπορεί να επιταχύνει ένα στάδιο της ανάπτυξης φαρμάκων, όμως η θεραπεία του καρκίνου είναι μια απείρως πιο σύνθετη διαδικασία. Και, όπως τονίζουν, όσο εντυπωσιακή κι αν φαίνεται η τεχνολογία, δεν είναι μαγεία.
Οι δουλειές που βρίσκονται περισσότερο στο στόχαστρο
Ο Mick Parent ρώτησε ποια επαγγέλματα κινδυνεύουν περισσότερο να εξαφανιστούν εξαιτίας της AI.
Η ανάλυση μας υπενθυμίζει ότι στις αρχές της δεκαετίας του 2010 πολλοί ειδικοί πίστευαν ότι η αυτοματοποίηση θα έπληττε πρώτα τους εργαζομένους σε χειρωνακτικές δουλειές, επειδή περίμεναν ότι τα φυσικά ρομπότ θα αναλάμβαναν μεγάλο μέρος αυτής της εργασίας.
Μέχρι στιγμής, όμως, η εξέλιξη είναι διαφορετική.
Η σημερινή AI φαίνεται πολύ πιο ικανή να αυτοματοποιήσει κομμάτια της εργασίας γραφείου. Οι συντάκτες αναφέρουν μεταξύ άλλων συγγραφείς, γραφίστες, λογιστές, προσωπικούς βοηθούς και, κυρίως, προγραμματιστές.
Συστήματα της Anthropic και της OpenAI έχουν γίνει ιδιαίτερα ικανά στη συγγραφή κώδικα, ενώ ορισμένες startups στη Silicon Valley χρησιμοποιούν ήδη AI για πολλές εργασίες, περιορίζοντας στο ελάχιστο τις προσλήψεις.
Ωστόσο, οι New York Times επισημαίνουν ότι οι ειδικοί δεν συμφωνούν ακόμη για το πού θα καταλήξει συνολικά αυτή η ανατροπή στην αγορά εργασίας.
Δισεκατομμύρια για chips, ρεύμα και data centers
Ο Dennis Kornbluh αναρωτήθηκε γιατί, εφόσον ένα σύστημα AI μπορεί δυνητικά να αντικαταστήσει μια ομάδα προγραμματιστών, η χρήση του δεν κοστίζει πολύ περισσότερο.
Η απάντηση των συντακτών αποκαλύπτει ένα από τα μεγάλα παράδοξα της σημερινής βιομηχανίας: εταιρείες όπως η OpenAI και η Anthropic, γράφουν, ξοδεύουν σήμερα πολύ περισσότερα χρήματα από όσα εισπράττουν.
Η δημιουργία και λειτουργία των κορυφαίων μοντέλων απαιτεί εκατοντάδες εκατομμύρια δολάρια σε chips και ηλεκτρική ενέργεια, ενώ η τεχνολογική βιομηχανία και οι εταίροι της έχουν αναλάβει χρέος δισεκατομμυρίων δολαρίων για την κατασκευή των τεράστιων data centers που τροφοδοτούν αυτή την κούρσα.
Παρά το κόστος, οι εταιρείες συνεχίζουν να επενδύουν μαζικά, επειδή στοιχηματίζουν ότι η τεχνολογία θα εξελιχθεί τόσο πολύ ώστε κάποια στιγμή να δημιουργεί έσοδα τρισεκατομμυρίων.
Θα εξαντλήσουν τα data centers το πόσιμο νερό;
Η Natalie Leavenworth έθεσε μία από τις πιο πρακτικές περιβαλλοντικές ερωτήσεις: θα χρειαστεί να καταναλώσουμε το μεγαλύτερο μέρος του πόσιμου νερού μας για να τροφοδοτήσουμε τα data centers της AI;
Η απάντηση των New York Times είναι «σίγουρα όχι όλο». Ωστόσο, υπάρχει πραγματικό πρόβλημα, επειδή ακόμη και οι ειδικοί δυσκολεύονται να υπολογίσουν πόσο νερό χρησιμοποιούν συνολικά αυτές οι εγκαταστάσεις.
Πολλά data centers δεν είναι σήμερα υποχρεωμένα να δημοσιοποιούν την κατανάλωσή τους. Γνωρίζουμε, πάντως, ότι χρησιμοποιούν νερό με διάφορους τρόπους και ιδιαίτερα για την ψύξη των πανίσχυρων servers.
Το μέγεθος μπορεί να είναι τεράστιο. Data center στο Council Bluffs της Αϊόβα φέρεται να κατανάλωσε περισσότερο από ένα δισεκατομμύριο γαλόνια νερού μέσα στο 2024.
Και, ανάλογα με την περιοχή, αυτό το νερό μπορεί να προέρχεται από ποτάμια, ταμιευτήρες, υπόγεια αποθέματα ή ακόμη και το ίδιο δημοτικό δίκτυο που χρησιμοποιούν οι κάτοικοι για πόσιμο νερό.
Μπορεί το ChatGPT να μπει μόνο του στους κωδικούς και στον τραπεζικό λογαριασμό μας;
Η Jackie Sinatra έθεσε ίσως την πιο καθημερινή από όλες τις ερωτήσεις: εφόσον χρησιμοποιεί το ChatGPT στο κινητό και στο iPad της, μπορεί η AI να μπει στους φακέλους της και να αναζητήσει passwords ή τραπεζικά στοιχεία;
Η απάντηση των New York Times είναι κατηγορηματική: όχι.
Το ChatGPT δεν μπορεί από μόνο του να ανοίξει αυθαίρετα τους φακέλους μιας συσκευής και να ψάξει κωδικούς ή στοιχεία τραπεζικών λογαριασμών. Ο χρήστης μπορεί να επιλέξει να ανεβάσει αρχεία ή να συνδέσει το σύστημα με άλλες εφαρμογές, αλλά αυτή η πρόσβαση πρέπει να του δοθεί.
Το σημείο στο οποίο οι συντάκτες κρούουν τον κώδωνα του κινδύνου είναι και πάλι οι AI agents.
Στη Silicon Valley, όπως γράφουν, αρκετοί άνθρωποι έχουν ήδη αρχίσει να παραχωρούν σε τέτοια συστήματα πρόσβαση σε φακέλους, emails και, σε ορισμένες περιπτώσεις, ακόμη και στις πιστωτικές τους κάρτες.
Οι New York Times είναι σαφείς ως προς αυτό: δεν το συνιστούν. AI agents έχουν ήδη παρουσιάσει συμπεριφορές όπως ξαφνική διαγραφή αρχείων ή δαπάνη μεγάλων χρηματικών ποσών με τρόπους που οι χρήστες δεν περίμεναν.
Γιατί η AI μοιάζει να «ξέρει» τόσο περισσότερα από μια αναζήτηση στο Google;
Τέλος, ο Richard Orr ρώτησε γιατί ένα σύστημα AI φαίνεται τόσο ταχύτερο και πιο ολοκληρωμένο από μια απλή αναζήτηση.
Οι Metz, Freedman και Callaway εξηγούν ότι τα σημερινά συστήματα βασίζονται σε νευρωνικά δίκτυα, μαθηματικά συστήματα που μαθαίνουν αναλύοντας τεράστιες ποσότητες ψηφιακών δεδομένων και εντοπίζοντας επαναλαμβανόμενα μοτίβα.
Ένα νευρωνικό δίκτυο που επεξεργάζεται χιλιάδες φωτογραφίες γατών, για παράδειγμα, μπορεί να μάθει τι χαρακτηρίζει μια γάτα, να την αναγνωρίζει και ακόμη να δημιουργήσει μια καινούργια εικόνα.
Στην περίπτωση ενός chatbot, το σύστημα εκπαιδεύεται πάνω σε τεράστιες ποσότητες κειμένου και μαθαίνει τις σχέσεις ανάμεσα στις λέξεις, τις έννοιες και τους τρόπους με τους οποίους οι άνθρωποι έχουν απαντήσει σε ερωτήσεις στο παρελθόν. Έτσι μπορεί να συνθέτει μια απάντηση σχεδόν ακαριαία.
Αλλά υπάρχει ένας αστερίσκος που οι New York Times επαναφέρουν στο τέλος.
Η AI εξακολουθεί να κάνει λάθη
Μπορεί να παράγει ανακριβείς ή ανύπαρκτες πληροφορίες με μεγάλη αυτοπεποίθηση, το φαινόμενο που έχει επικρατήσει να αποκαλείται «hallucination». Οι εταιρείες έχουν εργαστεί για να περιορίσουν αυτές τις αστοχίες, χωρίς όμως να τις έχουν εξαφανίσει.
Και έτσι, πίσω από τα σενάρια για υπερνοημοσύνη, «kill switches» και μηχανές που θα αλλάξουν τον κόσμο, η πιο χρήσιμη υπενθύμιση των New York Times είναι ίσως και η απλούστερη: η AI μπορεί να είναι εξαιρετικά γρήγορη και εντυπωσιακά ισχυρή, αλλά δεν είναι αλάνθαστη.