Ανακαλεί η Πολεμική Αεροπορία των ΗΠΑ τα όσα δήλωσε το πρωί σμήναρχός της, σχετικά με το drone που ήταν εξοπλισμένο με Τεχνητή Νοημοσύνη και που «σκότωσε» τον χειριστή του, ο οποίος δεν του επέτρεπε να ολοκληρώσει την αποστολή του.
Ο σμήναρχος «μίλησε λάθος» όταν περιέγραψε το πείραμα στο οποίο ένα drone με δυνατότητα ΤΝ επέλεξε να επιτεθεί στον χειριστή του προκειμένου να ολοκληρώσει την αποστολή του, ανακοίνωσε σήμερα η Πολεμική Αεροπορία.
Ο συνταγματάρχης Τάκερ Χάμιλτον, επικεφαλής δοκιμών και επιχειρήσεων Τ.Ν. στην Πολεμική Αεροπορία των ΗΠΑ, μιλούσε σε συνέδριο που διοργάνωσε η Βασιλική Αεροναυτική Εταιρεία. Στην ομιλία του, είχε περιγράψει ένα εικονικό σενάριο στο οποίο ο χειριστής ενός drone με δυνατότητα τεχνητής νοημοσύνης σταμάτησε επανειλημμένα το μη επανδρωμένο αεροσκάφος το οποίο είχε αποστολή να καταστρέψει τοποθεσίες πυραύλων επιφανείας-αέρος. Ο Χάμιλτον είπε ότι τελικά, παρά το γεγονός ότι το drone είχε εκπαιδευτεί να μην σκοτώνει τον χειριστή, αυτό στην ουσία κατέστρεψε τον πύργο επικοινωνίας με αποτέλεσμα ο χειριστής να μην μπορεί πλέον να επικοινωνεί μαζί του.
«Δεν έχουμε κάνει ποτέ αυτό το πείραμα, ούτε θα χρειαστεί να το κάνουμε για να συνειδητοποιήσουμε ότι αυτό είναι ένα εύλογο αποτέλεσμα», διευκρίνισε αργότερα ο συνταγματάρχης Χάμιλτον σε μια δήλωση προς τη Βασιλική Αεροναυτική Εταιρεία. Έχουν γίνει αρκετές προειδοποιήσεις σχετικά με την απειλή για την ανθρωπότητα από την τεχνητή νοημοσύνη. Τις προειδοποιήσεις έκαναν πρόσφατα άτομα που εργάζονται στον τομέα, αν και δεν συμφωνούν όλοι οι ειδικοί στο πόσο σοβαρός κίνδυνος είναι.
Η επιστημονική κοινότητα
Μιλώντας στο BBC νωρίτερα αυτή την εβδομάδα, ο καθηγητής Yoshua Bengio, ένας από τους τρεις επιστήμονες υπολογιστών που περιγράφονται ως οι «νονοί» της τεχνητής νοημοσύνης, αφού κέρδισαν το διάσημο βραβείο Turing για το έργο τους, είπε ότι πιστεύει ότι δεν πρέπει να επιτραπεί στις στρατιωτικές υπηρεσίες να έχουν πρόσβαση στην Τεχνητή Νοημοσύνη. Ο ίδιος περιέγραψε τον στρατό ως «ένα από τα χειρότερα μέρη όπου θα μπορούσαμε να βάλουμε την υπερ-έξυπνη τεχνητή νοημοσύνη».
Ένας εμπειρογνώμονας σε θέματα άμυνας είπε στο BBC ότι η αρχική ιστορία του συνταγματάρχη Χάμιλτον έμοιαζε να έχει πολλά κενά. Στα μέσα κοινής δικτύωσης σήμερα σχολιαζόταν πολύ ότι αν είχε πραγματοποιηθεί ένα τέτοιο πείραμα, ήταν πιο πιθανό να ήταν ένα προσχεδιασμένο σενάριο και όχι το drone με δυνατότητα Τ.Ν. να τροφοδοτείται από μηχανική μάθηση κατά τη διάρκεια του πειράματος. Αυτό, αν συνέβαινε, ουσιαστικά σημαίνει ότι δεν θα είχε επιλέξει με τα δικά του αποτελέσματα καθώς προχωρούσε το πείραμα, τουλάχιστον με βάση αυτά που έχουν συμβεί στο παρελθόν.
Ο Στηβ Ράιτ, καθηγητής αεροδιαστημικής μηχανικής στο Πανεπιστήμιο της Δυτικής Αγγλίας και ειδικός στα μη επανδρωμένα εναέρια οχήματα, είπε χαριτολογώντας ότι ήταν “πάντα λάτρης των ταινιών Terminator”. «Στους υπολογιστές ελέγχου αεροσκαφών υπάρχουν δύο πράγματα για τα οποία πρέπει να ανησυχείτε: «κάντε το σωστό» και «μην κάνετε το λάθος πράγμα», οπότε αυτό είναι ένα κλασικό παράδειγμα του δεύτερου», είπε. «Στην πραγματικότητα, το αντιμετωπίζουμε βάζοντας πάντα κι έναν δεύτερο υπολογιστή που έχει προγραμματιστεί να χρησιμοποιεί τεχνικές παλαιού τύπου. Αυτός ο υπολογιστής μπορεί να τραβήξει την πρίζα μόλις ο πρώτος κάνει κάτι περίεργο».
