AI: Η ευρωπαϊκή τεχνολογική βιομηχανία απορρίπτει τον πανικό – «Μην πιστεύετε τους καταστροφολόγους» της Σίλικον Βάλεϊ

Κορυφαίοι ευρωπαίοι ηγέτες του τεχνολογικού κλάδου και ειδικοί στην κυβερνοασφάλεια απορρίπτουν τον πανικό για την Τεχνητή Νοημοσύνη (ΤΝ) που προέρχεται από τη Σίλικον Βάλεϊ, καλώντας την παγκόσμια κοινότητα να επικεντρωθεί στην ουσιαστική οχύρωση των ψηφιακών συστημάτων. Υποστηρίζουν ότι οι υπερβολικές προειδοποιήσεις περί «τέλους της ανθρωπότητας» εμποδίζουν την απαραίτητη εργασία για την ενίσχυση των αμυνών έναντι των πραγματικών κινδύνων της ΤΝ και συχνά βασίζονται σε παρανοήσεις συμβάντων.

Τεχνητή Νοημοσύνη

Φωτογραφία: Reuters

Τα βασικά σημεία του άρθρου

  • Κορυφαίοι ευρωπαίοι ηγέτες του τεχνολογικού κλάδου και ειδικοί στην κυβερνοασφάλεια καλούν την παγκόσμια κοινότητα να αγνοήσει τις υπερβολές της Σίλικον Βάλεϊ και να επικεντρωθεί στην ουσιαστική οχύρωση των ψηφιακών συστημάτων. «Δεν θα έρθει ο Εξολοθρευτής», τονίζουν.
  • Οι αμερικανικές εταιρείες που κατασκευάζουν τα πιο προηγμένα μοντέλα AI θεωρούνται υπεύθυνες για την καλλιέργεια του φόβου περί αφανισμού, κάτι που εμποδίζει τη σκληρή δουλειά για την ενίσχυση των αμυνών.
  • Η «κόπωση από την καταστροφολογία» που προκαλείται από την υπερβολή γύρω από τις δυνατότητες της ΤΝ είναι αντιπαραγωγική, καθώς παραγκωνίζει πιο πιεστικά ζητήματα και την ανάγκη για πραγματικές ενημερώσεις ασφαλείας.

Την ώρα που οι προειδοποιήσεις για τον πιθανό αφανισμό ανθρωπότητας από την Τεχνητή Νοημοσύνη (ΤΝ) πυκνώνουν, κορυφαίοι ευρωπαίοι ηγέτες του τεχνολογικού κλάδου και ειδικοί στην κυβερνοασφάλεια υψώνουν τη φωνή τους, καλώντας την παγκόσμια κοινότητα να αγνοήσει τις υπερβολές της Σίλικον Βάλεϊ και να επικεντρωθεί στην ουσιαστική οχύρωση των ψηφιακών συστημάτων.

Αυτή η πεζή έκκληση, όπως αποτυπώνεται σε δημοσίευμα του Politico, βρίσκεται στο επίκεντρο μιας όλο και πιο έντονης αντίδρασης εντός της ευρωπαϊκής βιομηχανίας τεχνολογίας απέναντι στον πανικό περί «τέλους της ανθρωπότητας» που καλλιεργείται από τις ΗΠΑ.

«Δεν θα έρθει ο Εξολοθρευτής»

Όλες οι προειδοποιήσεις περί «καταστροφής του κόσμου», υποστηρίζουν τόσο στελέχη όσο και επαγγελματίες του χώρου της κυβερνοασφάλειας, εμποδίζουν τη σκληρή δουλειά που απαιτείται για την ενίσχυση των αμυνών απέναντι στη νέα πραγματικότητα της Τεχνητής Νοημοσύνης.

Οι αμερικανικές εταιρείες που κατασκευάζουν τα πιο προηγμένα μοντέλα AI είναι σε μεγάλο βαθμό υπεύθυνες για την καλλιέργεια του φόβου ότι η ΤΝ θα μπορούσε να οδηγήσει στον αφανισμό του ανθρώπινου γένους.

Οι ανησυχίες έφτασαν στο κατακόρυφο έπειτα από περιστατικά όπως η παραβίαση της πλατφόρμας Hugging Face από αυτόνομους πράκτορες (agents) της OpenAI αυτό το καλοκαίρι.

Το περιστατικό αυτό πυροδότησε την προειδοποίηση που απηύθυνε νωρίτερα αυτό το μήνα ο Τζέικομπ Κόξον, πρώην υπάλληλος της Anthropic, ότι η Τεχνητή Νοημοσύνη θα μπορούσε σύντομα «να χακάρει τα πάντα» και «να μας σκοτώσει όλους».


«Δυστυχώς, η συζήτηση έχει διολισθήσει στο ότι “έρχεται ο Εξολοθρευτής” (Terminator)», δήλωσε σχετικά με το τρέχον αφηγημα ο Τζέιμς Γουάιζ, εταίρος στην Balderton Capital και πρόεδρος του κρατικού ταμείου Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου.

«Δεν πιστεύω καθόλου ότι έρχεται ο Εξολοθρευτής».

Αυτοί οι φόβοι βρίσκονται στην κορυφή της ατζέντας των παγκόσμιων ηγετών αυτή την εβδομάδα, με τον πρόεδρο των ΗΠΑ, Ντόναλντ Τραμπ, και τον Κινέζο ηγέτη Σι Τζινπίνγκ να συναντώνται σε σύνοδο κορυφής την Πέμπτη, αφού η ασφάλεια της Τεχνητής Νοημοσύνης συζητήθηκε στη Γενική Συνέλευση των Ηνωμένων Εθνών και σε ειδική συνεδρίαση της G7.

Ηγέτες από 22 έθνη υιοθέτησαν τη Δευτέρα μια διακήρυξη στην οποία αναφέρεται ότι η Τεχνητή Νοημοσύνη πρέπει να παραμείνει υπό ανθρώπινη καθοδήγηση, εποπτεία και έλεγχο, προτείνοντας τη δημιουργία ενός παγκόσμιου εποπτικού καθεστώτος.

Ωστόσο, για όσους είναι επιφορτισμένοι με την υπεράσπιση των υπολογιστικών συστημάτων, η αποθαρρυντική «χορωδία» προειδοποιήσεων σχετικά με τα προηγμένα μοντέλα Τεχνητής Νοημοσύνης —και η πολιτική σπουδή να δοθούν απαντήσεις— εγκυμονεί τον κίνδυνο εφαρμογής της λάθος λύσης στο λάθος πρόβλημα.

«Θα έπρεπε να αφιερώνουμε περισσότερο χρόνο στο να κάνουμε τους κανόνες και τα πρότυπα που έχουμε να λειτουργούν σε κλίμακα, και λιγότερο χρόνο εστιάζοντας σε φόβους για θεωρητικούς κινδύνους ή δημοσιεύματα από τη φούσκα καταστροφολογίας της Σίλικον Βάλεϊ», δήλωσε ο Αλεξάντρου Βόικα, επικεφαλής πολιτικής στην εταιρεία Τεχνητής Νοημοσύνης Synthesia με έδρα το Ηνωμένο Βασίλειο.

«Πολλά αφηγήματα τρίτων, ακόμη και τα αφηγήματα των ίδιων των εργαστηρίων αιχμής, παραλείπουν εντελώς να λάβουν υπόψη τη συμπεριφορά και τις δυνατότητες [των χάκερ] στις θεωρίες καταστροφής τους», δήλωσε ο Μάρκους Χάτσινς, ερευνητής απειλών στον κυβερνοχώρο και πρώην χάκερ, γνωστός για την αναχαίτιση της τεράστιας επίθεσης ransomware WannaCry το 2017.

Επιστροφή στην πραγματικότητα

Ένα πρόσφατο παράδειγμα φωνών από τον χώρο της Τεχνητής Νοημοσύνης που εκτιμάται ότι αστόχησαν, είναι η προειδοποίηση του διευθύνοντος συμβούλου της Anthropic, Ντάριο Αμοντέι, ότι ένας πράκτορας AI θα μπορούσε να καταλάβει το διαδίκτυο.

Ο ισχυρισμός αυτός, που αναπαράχθηκε ευρέως, διακωμωδήθηκε και καταρρίφθηκε στους κύκλους της κυβερνοασφάλειας, σημειώνει το Politico.


Οι σκεπτικιστές επισημαίνουν επίσης τις συνεχείς αναφορές στο περιστατικό της Hugging Face —το οποίο επικαλέστηκε ακόμη και η πρόεδρος της Ευρωπαϊκής Επιτροπής, Ούρσουλα φον ντερ Λάιεν, στην ομιλία της για την Κατάσταση της Ένωσης— ως χαρακτηριστικές της υστερίας σχετικά με τα υποτιθέμενα ανεξέλεγκτα μοντέλα Τεχνητής Νοημοσύνης.

Αντί να απεικονίζει ένα ισχυρό μοντέλο AI που σπάει τα δεσμά του, η επίθεση στο Hugging Face προσφέρει ένα πολύ πιο πεζό δίδαγμα: ότι η OpenAI απέτυχε να περιορίσει σωστά το μοντέλο σε ένα τεχνικό περιβάλλον γνωστό ως «sandbox».

«Πολλά μπορούν να επιλυθούν αν αυτές οι εταιρείες ενεργήσουν απλώς λίγο πιο υπεύθυνα», δήλωσε ο Πιμ ντε Βίτε του ολλανδικού εργαστηρίου AI General Intuition, το οποίο αναπτύσσει μοντέλα με επίγνωση του περιβάλλοντός τους.

Ο Χάτσινς δήλωσε ότι η OpenAI γνώριζε πως το μοντέλο ήταν πολύ καλό στην εκμετάλλευση σφαλμάτων λογισμικού, και παρ’ όλα αυτά το προκάλεσε να κάνει ακριβώς αυτό σε μια δοκιμή που διεξήχθη με μειωμένες δικλείδες ασφαλείας.

«Ωστόσο, ούτε το περιόρισαν σωστά χτίζοντας αρκετά εμπόδια μεταξύ των πρακτόρων και του ανοιχτού διαδικτύου, ούτε διαχώρισαν επαρκώς τους πράκτορες μεταξύ τους, ούτε παρακολουθούσαν τα συστήματα αρκετά στενά ώστε να παρεμβούν», δήλωσε.

Η OpenAI αρνήθηκε να σχολιάσει, παραπέμποντας στην έκθεσή της για το περιστατικό, ενώ η Anthropic δεν ανταποκρίθηκε σε αίτημα για σχολιασμό.

Κόπωση από την καταστροφολογία

Ο Μαξ Γιούνεστραντ, συνιδρυτής και διευθύνων σύμβουλος της Legora, μιας αμερικανο-σουηδικής εταιρείας που αναπτύσσει εργαλεία AI για δικηγόρους, δήλωσε σχετικά με τα περιστατικά χάκινγκ: «Ένα μεγάλο μέρος όλου αυτού είναι μάρκετινγκ».

Παρ’ όλα αυτά, η θωράκιση των λειτουργιών της Legora απέναντι σε επιθέσεις χάκινγκ που τροφοδοτούνται από AI αποτελεί κορυφαία προτεραιότητα για τον Γιούνεστραντ, ο οποίος τόνισε ότι η πρόσβαση στα πιο πρόσφατα και προηγμένα αμερικανικά μοντέλα είναι καθοριστική.

«Η ασφάλεια προηγείται ακόμη και των νέων λειτουργιών».

Πράγματι, ακόμη και οι επικριτές και οι σκεπτικιστές του αφηγήματος της καταστροφολογίας συμφωνούν ότι τα προηγμένα μοντέλα AI είναι μοναδικά ισχυρά εργαλεία στον κυβερνοχώρο, καθώς και ένας στρατηγικός πόρος στον οποίο η Ευρώπη πρέπει να έχει πρόσβαση.

Επιπλέον, ελάχιστοι αρνούνται ότι οι τρέχουσες δυνατότητες AI που αναπτύσσονται βρίσκονται σε ένα εντελώς νέο επίπεδο, με τις πιθανές επιπτώσεις τους —θετικές και αρνητικές— να είναι δύσκολο να προβλεφθούν.

Ωστόσο, οι επικριτές του σημερινού αφηγήματος υποστηρίζουν ότι η υπερβολή γύρω από τις δυνατότητες της Τεχνητής Νοημοσύνης ή την έκταση στην οποία οι χάκερ τις χρησιμοποιούν —καθώς και το παιχνίδι εικασιών για θεωρητικά αποτελέσματα— δεν βοηθούν, την ώρα που πραγματικές κυβερνοεπιθέσεις ήδη διαταράσσουν κρίσιμες υποδομές.

Το οπλοστάσιο των αμυντικών εργαλείων και τεχνικών, σημειώνουν, είναι ήδη καλά εδραιωμένο.

Η εστίαση σε εξωφρενικά ή αμφίβολα σενάρια όχι μόνο παραγκωνίζει πιο πιεστικά ζητήματα, αλλά δεν βοηθά ούτε στο τρέχον έργο, υποστήριξε ο ερευνητής απειλών Χάτσινς.

«Η καταστροφολογία είναι πολύ αντιπαραγωγική», δήλωσε, επικαλούμενος την «κόπωση από την καταστροφολογία» που εμποδίζει τη λήψη κρίσιμων μέτρων, όπως οι ενημερώσεις ασφαλείας που θα μπορούσαν πράγματι να βοηθήσουν.

Η ομάδα που ζητεί «προσγείωση στην πραγματικότητα» έχει υποστήριξη εντός του ευρωπαϊκού κατεστημένου κυβερνοασφάλειας, συμπεριλαμβανομένου του Βενσάν Στρουμπέλ, επικεφαλής της γαλλικής υπηρεσίας κυβερνοασφάλειας ANSSI.

«Όπως κάθε μεγάλη αλλαγή, η Τεχνητή Νοημοσύνη δημιουργεί σημαντικούς κινδύνους και τεράστιες ευκαιρίες. Η διαχείριση αυτών των κινδύνων και η αξιοποίηση αυτών των ευκαιριών θα απαιτήσει πολλή σοβαρή δουλειά, υπό σοβαρό χρονικό περιορισμό», έγραψε πρόσφατα στο Linkedin.


«Αυτό που δεν απαιτεί, ωστόσο, είναι η πυροδότηση ενός νέου πανικού κάθε δεύτερη εβδομάδα, επειδή γενικά δεν καταφέρνεις πολλά τρέχοντας γύρω-γύρω, κουνώντας τα χέρια σου ή/και ουρλιάζοντας για την κυβερνο-αποκάλυψη».