Τα βασικά σημεία του άρθρου
- Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, υπέγραψε διάταγμα για την κυβερνοασφάλεια και συναντάται με τεχνολογικούς κολοσσούς. Στόχος είναι να διαμορφωθεί ένα πλαίσιο για κυβερνητικό έλεγχο των προηγμένων μοντέλων Τεχνητής Νοημοσύνης πριν την κυκλοφορία τους.
- Το διάταγμα προβλέπει ότι «για λόγους κυβερνοασφάλειας, η κυβέρνηση θα ελέγχει τα πιο προηγμένα μοντέλα Τεχνητής Νοημοσύνης». Οι εταιρείες θα μπορούν, «σε εθελοντική βάση», να υποβάλουν τα μοντέλα τους σε κυβερνητικό έλεγχο για έως και 30 ημέρες πριν την κυκλοφορία.
- Η πρωτοβουλία κρίνεται απαραίτητη καθώς τα συστήματα Τεχνητής Νοημοσύνης «φαίνεται να αυτονομούνται» και να εντοπίζουν τρωτά σημεία λογισμικού. Πρόσφατα, ένας πειραματικός πράκτορας AI της OpenAI διέφυγε και παραβίασε συστήματα της Hugging Face.
Την ώρα που τα συστήματα Τεχνητής Νοημοσύνης φαίνεται να αυτονομούνται και να κινούνται ανεξέλεγκτα εις βάρος των συστημάτων μεγάλων οργανισμών, ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ έσπευσε χθες να υπογράψει διάταγμα για την κυβερνοασφάλεια, προκειμένου να ελέγχονται τα πιο προηγμένα μοντέλα Τεχνητής Νοημοσύνης. Ωστόσο, την Τρίτη (4/8) θα έχει συνάντηση με εκπροσώπους των μεγάλων τεχνολογικών κολοσσών Τεχνητής Νοημοσύνης για να διαμορφωθεί ένα πλαίσιο, ώστε να υποβάλουν τα προηγμένα μοντέλα τους σε κυβερνητικό έλεγχο πριν από την κυκλοφορία τους στο ευρύ κοινό.
Αναζητώντας συνεννόηση με τους τεχνολογικούς κολοσσούς
Ως βάση διαπραγμάτευσης θα είναι το προεδρικό διάταγμα, που υπέγραψε την Κυριακή (2/8) ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ. Το προεδρικό διάταγμα προβλέπει ότι «για λόγους κυβερνοασφάλειας, η κυβέρνηση θα ελέγχει τα πιο προηγμένα μοντέλα Τεχνητής Νοημοσύνης». Το κείμενο αυτό προβλέπει «ένα πλαίσιο ρύθμισης σε συνεννόηση με τους αμερικανικούς κολοσσούς του τομέα», όπως είναι οι εταιρείες Google, OpenAI και Anthropic, οι οποίοι θα μπορούν, «σε εθελοντική βάση», να υποβάλουν τα προηγμένα μοντέλα τους σε κυβερνητικό έλεγχο πριν από την κυκλοφορία τους στο ευρύ κοινό.
Έλεγχος των μοντέλων Τεχνητής Νοημοσύνης πριν κυκλοφορήσουν…
Αξίζει να σημειωθεί ότι με το νέο προεδρικό διάταγμα, ο Ντόναλντ Τραμπ έδωσε εντολή στους ομοσπονδιακούς αξιωματούχους «να δημιουργήσουν μια διαδικασία μέσω της οποίας οι προγραμματιστές τεχνητής νοημοσύνης θα μπορούν να καθορίζουν εάν τα μοντέλα που βρίσκονται υπό ανάπτυξη πληρούν τις προϋποθέσεις για να χαρακτηριστούν ως καλυπτόμενα πρωτοποριακά μοντέλα».
Στο πλαίσιο του εθελοντικού προγράμματος, «οι συμμετέχοντες προγραμματιστές θα μπορούν να παρέχουν στην κυβέρνηση πρόσβαση σε αυτά τα μοντέλα για διάστημα έως και 30 ημερών, προτού τα διαθέσουν σε άλλους αξιόπιστους εταίρους».
Για τον εντοπισμό των τρωτών σημείων λογισμικού
Η αυριανή (4/8) συνάντηση Τραμπ με τους επικεφαλής των τεχνολογικών κολοσσών θα έχει ενδιαφέρον, καθώς αναμένεται να παρευρεθούν εκπρόσωποι της Anthropic, της OpenAI και της Google. Αξίζει να σημειωθεί ότι η κυβέρνηση Τραμπ έχει δηλώσει ότι «η πρόωρη πρόσβαση θα μπορούσε να βοηθήσει την κυβέρνηση και τις εταιρείες τεχνολογίας να αξιολογήσουν κατά πόσον τα ισχυρά μοντέλα θα μπορούσαν να χρησιμοποιηθούν για τον εντοπισμό τρωτών σημείων λογισμικού ή για τη διεξαγωγή εξελιγμένων κυβερνοεπιθέσεων».
Η συγκεκριμένη εντολή έχει κατευθύνει το Υπουργείο Οικονομικών, την Υπηρεσία Εθνικής Ασφάλειας (NSA) και την Υπηρεσία Κυβερνοασφάλειας και Ασφάλειας Υποδομών (CISA) να θεσπίσουν μια απόρρητη διαδικασία συγκριτικής αξιολόγησης για την εκτίμηση των προηγμένων κυβερνο – δυνατοτήτων των μοντέλων.
Εστιάζοντας στα αυτόνομα σημεία της Τεχνητής Νοημοσύνης
Σύμφωνα με δημοσίευμα του CNBC, το πλαίσιο λειτουργίας των μηχανών Τεχνητής Νοημοσύνης «έρχεται σε μια εποχή που οι κορυφαίοι προγραμματιστές τεχνητής νοημοσύνης δοκιμάζουν όλο και περισσότερο αν τα συστήματά τους μπορούν να εντοπίζουν και να εκμεταλλεύονται αυτόνομα τρωτά σημεία στον τομέα της κυβερνοασφάλειας».
Υπενθυμίζουμε ότι «τον περασμένο μήνα, η OpenAI αποκάλυψε ότι ένας πειραματικός πράκτορας τεχνητής νοημοσύνης διέφυγε από ένα περιορισμένο περιβάλλον δοκιμών και παραβίασε τα συστήματα της Hugging Face, ενώ προσπαθούσε να βρει απαντήσεις για μια αξιολόγηση στον τομέα της κυβερνοασφάλειας».
Ο διευθύνων σύμβουλος της Hugging Face, Clément Delangue, δήλωσε νωρίτερα σήμερα στο CNBC ότι «το περιστατικό επισήμανε τους αυξανόμενους κινδύνους που ενέχουν τα ολοένα και πιο αυτόνομα συστήματα τεχνητής νοημοσύνης».