Τα βασικά σημεία του άρθρου
- Ο επικεφαλής της OpenAI, Σαμ Άλτμαν, παραδέχθηκε ότι «ο κόσμος έχει δίκιο να φοβάται την Τεχνητή Νοημοσύνη», αλλά επέμεινε ότι οι εταιρείες που την αναπτύσσουν μπορούν να ενεργήσουν υπεύθυνα και ότι «ο κόσμος πρέπει να εμπιστευτεί ότι θα κάνουμε το σωστό».
- Κορυφαία στελέχη του κλάδου διχάζονται για το εάν οι ίδιες οι εταιρείες μπορούν να αυτορρυθμιστούν ή εάν απαιτείται αυστηρότερη κρατική εποπτεία, με διαφορετικές απόψεις από τους Ζούκερμπεργκ, Χουάνγκ, Τραμπ, αλλά και τους Σάντερς και Μπέντζιο.
- Το παράδοξο της συζήτησης είναι ότι οι ίδιοι οι δημιουργοί των ισχυρότερων συστημάτων Τεχνητής Νοημοσύνης προειδοποιούν για τους κινδύνους τους, ζητώντας ταυτόχρονα από το κοινό να τους εμπιστευτεί ότι θα γνωρίζουν πότε να πατήσουν φρένο.
Ο κόσμος έχει λόγο να φοβάται την ταχύτατη εξέλιξη της Τεχνητής Νοημοσύνης, παραδέχθηκε ο επικεφαλής της OpenAI, Σαμ Άλτμαν, υποστηρίζοντας ταυτόχρονα ότι οι εταιρείες που αναπτύσσουν τα ισχυρότερα συστήματα θα πρέπει να τύχουν μεγαλύτερης εμπιστοσύνης όσον αφορά την ασφάλειά τους. Οι δηλώσεις του έρχονται ενώ κορυφαία στελέχη του κλάδου διχάζονται για το εάν οι ίδιες οι εταιρείες μπορούν να αυτορρυθμιστούν ή εάν απαιτείται αυστηρότερη κρατική εποπτεία.
Μιλώντας την Τρίτη σε ετήσιο συνέδριο της Salesforce στο Σαν Φρανσίσκο, ο Άλτμαν αναγνώρισε ότι η ταχύτητα με την οποία εξελίσσεται η Τεχνητή Νοημοσύνη έχει κάνει τα δυσοίωνα σενάρια πολύ πιο εύκολο να τα φανταστεί κανείς.
«Δεν χρειάζεται πλέον τόση φαντασία όσο παλαιότερα για να σκεφτούμε πώς θα μπορούσε αυτό να πάει στραβά», είπε.
Και πρόσθεσε ξεκάθαρα: «Νομίζω ότι ο κόσμος έχει δίκιο να φοβάται γι’ αυτό».
Παρά τους φόβους, όμως, ο επικεφαλής της OpenAI επέμεινε ότι οι εταιρείες που αναπτύσσουν την τεχνολογία μπορούν να ενεργήσουν υπεύθυνα.
«Ο κόσμος πρέπει να εμπιστευτεί ότι θα κάνουμε το σωστό, επειδή είναι το σωστό και επειδή αντιλαμβανόμαστε το μέγεθος αυτού που έχουμε στα χέρια μας», δήλωσε.
«Θα το κάνουμε σωστά»
Ο Άλτμαν δήλωσε ότι οι εταιρείες Τεχνητής Νοημοσύνης είναι ικανές να ελέγχουν οι ίδιες την ασφάλεια των συστημάτων τους.
«Θα το κάνουμε σωστά», είπε, προσθέτοντας ότι αν οι εταιρείες διαπιστώσουν πως δεν μπορούν να διατηρήσουν την ασφάλεια και την «ευθυγράμμιση» των μοντέλων τους σημαντικά πιο μπροστά από τις ίδιες τις δυνατότητές τους, τότε θα πρέπει να «επιβραδύνουν ή να σταματήσουν».
Η «ευθυγράμμιση» αφορά την προσπάθεια ώστε τα συστήματα Τεχνητής Νοημοσύνης να λειτουργούν σύμφωνα με ανθρώπινους στόχους, αξίες και περιορισμούς.
Πάντως, η δημόσια θέση της ίδιας της OpenAI είναι πιο σύνθετη από την απλή αυτορρύθμιση: η εταιρεία έχει ζητήσει υποχρεωτικούς εθνικούς κανόνες ασφαλείας για τα ισχυρότερα συστήματα, ενώ ταυτόχρονα προωθεί εθελοντικά κοινά πρότυπα μεταξύ των εταιρειών έως ότου θεσπιστεί ευρύτερο ρυθμιστικό πλαίσιο, αναφέρει το BBC.
Οι προειδοποιήσεις ότι η Τεχνητή Νοημοσύνη μπορεί να ξεφύγει από τον έλεγχο
Οι δηλώσεις Άλτμαν ήρθαν λίγες ημέρες μετά την έντονη συζήτηση που προκάλεσε ερευνητής ο οποίος αποχώρησε από την Anthropic και υποστήριξε ότι ανεξέλεγκτη Τεχνητή Νοημοσύνη θα μπορούσε ακόμη και να «σκοτώσει όλους τους ανθρώπους» μέχρι το τέλος της δεκαετίας.
Και άλλοι ερευνητές έχουν εκφράσει αντίστοιχες ανησυχίες, χωρίς ωστόσο να υπάρχει συμφωνία ούτε για την πιθανότητα ενός τέτοιου σεναρίου ούτε για τον μηχανισμό μέσω του οποίου θα μπορούσε να συμβεί. Πρόσφατα, πρώην ερευνητής της Google DeepMind διατύπωσε επίσης δημόσια παρόμοιο φόβο, ενώ στελέχη του κλάδου έχουν ζητήσει συντονισμό ώστε να αποφευχθεί μια ανεξέλεγκτη κούρσα ανάπτυξης.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει καλέσει τις εταιρείες να επιβραδύνουν τον ρυθμό με τον οποίο αυξάνουν τις δυνατότητες των μοντέλων τους, μια θέση την οποία έχουν στηρίξει δημόσια τόσο ο Άλτμαν όσο και ο Έλον Μασκ.
Τραμπ: Οι φόβοι για την ασφάλεια είναι «απάτη»
Στην αντίθετη πλευρά βρίσκεται ο Ντόναλντ Τραμπ, ο οποίος έχει απορρίψει τις αυξανόμενες προειδοποιήσεις για την ασφάλεια της Τεχνητής Νοημοσύνης.
Ο Αμερικανός πρόεδρος χαρακτήρισε τις εκκλήσεις για αυστηρότερους περιορισμούς «απάτη» και υποστήριξε ότι οι ΗΠΑ διαθέτουν ήδη επαρκείς μηχανισμούς για να ελέγχουν τις εταιρείες.
«Ο μόνος έλεγχος ή τα μόνα “προστατευτικά κιγκλιδώματα” που χρειάζεται η Τεχνητή Νοημοσύνη είναι ένας ισχυρός και έξυπνος πρόεδρος», έγραψε, υποστηρίζοντας παράλληλα ότι ενδεχόμενη επιβράδυνση των ΗΠΑ θα ευνοούσε την Κίνα.
Η προσέγγιση αυτή αντανακλά και μια ευρύτερη πολιτική διαφωνία στις ΗΠΑ σχετικά με το πόσο μακριά πρέπει να φτάσει η κρατική παρέμβαση. Ο πρόεδρος της Βουλής των Αντιπροσώπων Μάικ Τζόνσον δήλωσε επίσης ότι οι εταιρείες μπορούν να αυτορρυθμιστούν και ότι μια γενική παύση ανάπτυξης θα μπορούσε να στερήσει από τις ΗΠΑ το πλεονέκτημά τους έναντι της Κίνας.
Ζούκερμπεργκ: Οι εταιρείες έχουν κίνητρο να μην προκαλέσουν ζημιά
Στο ίδιο στρατόπεδο με όσους θεωρούν ότι οι εταιρείες έχουν ισχυρά κίνητρα να προστατεύσουν τα συστήματά τους τοποθετήθηκε και ο επικεφαλής της Meta, Μαρκ Ζούκερμπεργκ.
Όπως υποστήριξε, μια εταιρεία που αμελεί την ασφάλεια και την ευθυγράμμιση των μοντέλων της θα βρεθεί τελικά πίσω από τους ανταγωνιστές της.
Παράλληλα, σημείωσε ότι τα εργαστήρια αντιμετωπίζουν σημαντική νομική ευθύνη εάν τα μοντέλα τους προκαλέσουν βλάβη, κάτι που κατά την άποψή του δημιουργεί ισχυρό οικονομικό κίνητρο για ασφαλέστερη ανάπτυξη.
Τζένσεν Χουάνγκ: «Δεν χρειαζόμαστε νέους νόμους»
Ο επικεφαλής της Nvidia, Τζένσεν Χουάνγκ, υποστήριξε από το ίδιο συνέδριο ότι οι ίδιες οι εταιρείες θα πρέπει να αποφασίζουν εάν ένα νέο σύστημα είναι ασφαλές για κυκλοφορία.
«Δεν χρειαζόμαστε νέους νόμους ή κανονισμούς», δήλωσε, απορρίπτοντας την ιδέα ότι πρέπει να υπάρξει επιλογή μεταξύ γρήγορης καινοτομίας και ασφάλειας.
Κατά τον ίδιο, η ασφάλεια αποτελεί πρωτίστως «πρόβλημα μηχανικής» και μια εταιρεία πρέπει να πατά φρένο εάν χάσει την εμπιστοσύνη της στην ασφάλεια κάποιου προϊόντος.
Σάντερς και Μπάνον συμφωνούν σε κάτι: Δεν εμπιστεύονται τη Silicon Valley
Η ιδέα ότι οι τεχνολογικές εταιρείες μπορούν να ελέγχουν μόνες τους μια τεχνολογία τόσο ισχυρή έχει προκαλέσει αντιδράσεις από διαφορετικές πλευρές του αμερικανικού πολιτικού φάσματος.
Ο γερουσιαστής Μπέρνι Σάντερς έχει υποστηρίξει ότι οι αποφάσεις για την Τεχνητή Νοημοσύνη έχουν αφεθεί σε «μια χούφτα από τους πλουσιότερους ανθρώπους στον κόσμο».
Από τελείως διαφορετικό πολιτικό χώρο, ο πρώην στρατηγικός σύμβουλος του Τραμπ Στιβ Μπάνον έχει επίσης υποστηρίξει ότι οι πολίτες δεν μπορούν απλώς να εμπιστευτούν τους ισχυρούς της τεχνολογίας να ρυθμίσουν τους εαυτούς τους.
«Ρίχνουμε ζάρια με τεράστιους κινδύνους»
Η αντίθεση στην πλήρη αυτορρύθμιση υπάρχει και μέσα στην ίδια τη βιομηχανία.
Ο συνιδρυτής της Anthropic Τζακ Κλαρκ δήλωσε ότι το να αφεθεί η Τεχνητή Νοημοσύνη ως «εντελώς ανεξέλεγκτη βιομηχανία» ισοδυναμεί με το να «ρίχνουμε ζάρια με τεράστιους κινδύνους».
Ακόμη πιο αιχμηρός εμφανίστηκε ο Πάτρικ Χίλμαν, επικεφαλής λειτουργιών της Logical Intelligence, ο οποίος σχολίασε τη βαθιά δυσπιστία των πολιτών απέναντι στις εταιρείες τεχνολογίας.
«Ο μόνος θεσμός που οι Αμερικανοί ίσως εμπιστεύονται λιγότερο από την Ουάσινγκτον σήμερα είναι η Silicon Valley», ανέφερε.
Και έθεσε ένα ευθύ ερώτημα προς τις εταιρείες που προειδοποιούν ότι η τεχνολογία τους μπορεί να γίνει επικίνδυνη: «Εάν πιστεύετε ότι αυτό που κατασκευάζετε είναι επικίνδυνο, δείξτε μας τι είστε διατεθειμένοι να σταματήσετε να κάνετε».
Ο Μπέντζιο ζητεί έλεγχο έξω από τις εταιρείες
Ο Γιοσούα Μπέντζιο, ένας από τους πρωτοπόρους της σύγχρονης Τεχνητής Νοημοσύνης, υποστήριξε ότι χρειάζονται φιλόδοξες πρωτοβουλίες έξω από τον κερδοσκοπικό ιδιωτικό τομέα, προκειμένου να αντιμετωπιστούν οι σοβαρότεροι κίνδυνοι.
Η θέση αυτή βρίσκεται στον πυρήνα της σημερινής αντιπαράθεσης: εάν μια εταιρεία που έχει οικονομικό κίνητρο να κατασκευάζει ολοένα ισχυρότερα μοντέλα μπορεί ταυτόχρονα να είναι και ο τελικός κριτής του πότε αυτά έχουν γίνει υπερβολικά επικίνδυνα.
Σχέδιο για κοινά πρότυπα ασφαλείας
OpenAI και Anthropic έχουν αρχίσει παράλληλα συζητήσεις για κάποιου είδους κοινή συμφωνία ασφαλείας μεταξύ των κορυφαίων εργαστηρίων Τεχνητής Νοημοσύνης.
Ο Αμοντέι δήλωσε ότι η Anthropic βρίσκεται πλέον σε διάλογο με τον υπόλοιπο κλάδο για καλύτερα πρότυπα ασφαλείας και αυστηρότερους ελέγχους.
Η OpenAI έχει επίσης αναφέρει ότι συνεργάζεται με άλλες εταιρείες, μεταξύ των οποίων η Anthropic και η Google DeepMind, για τη δημιουργία εθελοντικών κοινών προτύπων. Ωστόσο, η εταιρεία τονίζει επισήμως ότι αυτά θα πρέπει να συμπληρώνουν και όχι να αντικαθιστούν υποχρεωτικούς κανόνες και δημοκρατική εποπτεία.
Ο Αμοντέι παραδέχθηκε μάλιστα ότι μία από τις μεγαλύτερες εκπλήξεις της έκρηξης της Τεχνητής Νοημοσύνης δεν ήταν μόνο το πόσο γρήγορα εξελίχθηκε η ίδια η τεχνολογία, αλλά το πόσο γρήγορα οι εταιρείες που την αναπτύσσουν έγιναν κεντρικές για την οικονομία και την κοινωνία.
Και αυτό είναι τελικά το παράδοξο που βρίσκεται στο επίκεντρο της συζήτησης: οι ίδιοι άνθρωποι που δημιουργούν τα ισχυρότερα συστήματα Τεχνητής Νοημοσύνης προειδοποιούν πλέον ότι αυτά μπορεί να γίνουν εξαιρετικά επικίνδυνα, ενώ ταυτόχρονα ζητούν από το κοινό να τους εμπιστευτεί ότι θα γνωρίζουν πότε πρέπει να πατήσουν φρένο.