Πριν από την τετραήμερη «εξορία» του CEO της OpenAI, Σαμ Άλτμαν, αρκετοί ερευνητές της εταιρείας έγραψαν επιστολή προς το διοικητικό συμβούλιο προειδοποιώντας για μια ισχυρή ανακάλυψη τεχνητής νοημοσύνης που -όπως έλεγαν- θα μπορούσε να απειλήσει την ανθρωπότητα, σύμφωνα με όσα δήλωσαν στο Reuters δύο άτομα που γνωρίζουν το θέμα.
Η επιστολή που δεν είχε αναφερθεί προηγουμένως και ο αλγόριθμος τεχνητής νοημοσύνης αποτέλεσαν εξελίξεις-κλειδιά πριν από την απομάκρυνση του Άλτμαν από το διοικητικό συμβούλιο, δήλωσαν οι δύο πηγές. Πριν από τη θριαμβευτική επιστροφή του, περισσότεροι από 700 εργαζόμενοι είχαν απειλήσει να παραιτηθούν και να ενταχθούν στην Microsoft σε ένδειξη αλληλεγγύης προς τον απολυμένο ηγέτη τους.
Οι πηγές ανέφεραν την επιστολή ως έναν παράγοντα από έναν μακρύ κατάλογο παραπόνων του διοικητικού συμβουλίου που οδήγησε στην απόλυση του Altman, μεταξύ των οποίων ήταν οι ανησυχίες για την εμπορευματοποίηση των εξελίξεων πριν από την κατανόηση των συνεπειών. Σύμφωνα με το Reuters, το οποίο δεν κατάφερε να πάρει στα χέρια του την επιστολή, το προσωπικό που την συνέταξε δεν απάντησε σε αιτήματα για σχολιασμό.
Η OpenAI, η οποία αρνήθηκε να σχολιάσει, αναγνώρισε μέσω εσωτερικού μηνύματος προς το προσωπικό ένα έργο με την ονομασία «Q*» και μια επιστολή προς το συμβούλιο πριν από τα γεγονότα του Σαββατοκύριακου. Εκπρόσωπος της OpenAI δήλωσε ότι το μήνυμα, που εστάλη από το στέλεχος Mira Murati, προειδοποιούσε το προσωπικό για ορισμένες ιστορίες των μέσων ενημέρωσης χωρίς να σχολιάζει την ακρίβειά τους.
Κάποιοι στην OpenAI πιστεύουν ότι το «Q*» (προφέρεται Q-Star) θα μπορούσε να είναι μια σημαντική ανακάλυψη στην αναζήτηση της εταιρείας για αυτό που είναι γνωστό ως τεχνητή γενική νοημοσύνη (AGI), δήλωσε ένας από τους ανθρώπους στο Reuters. Η OpenAI ορίζει την AGI ως αυτόνομα συστήματα που ξεπερνούν τον άνθρωπο στις περισσότερες οικονομικά πολύτιμες εργασίες.
Με δεδομένους τεράστιους υπολογιστικούς πόρους, το νέο μοντέλο ήταν σε θέση να λύσει ορισμένα μαθηματικά προβλήματα, δήλωσε το άτομο που θέλησε να διατηρήσει την ανωνυμία του, επειδή δεν ήταν εξουσιοδοτημένο να μιλήσει εκ μέρους της εταιρείας. Αν και εκτελούσε μαθηματικά μόνο στο επίπεδο των μαθητών του δημοτικού σχολείου, η άριστη επίδοση σε τέτοιες δοκιμασίες έκανε τους ερευνητές πολύ αισιόδοξους για τη μελλοντική επιτυχία του «Q*», δήλωσε η πηγή.
Το Reuters δεν μπόρεσε να επαληθεύσει ανεξάρτητα τις δυνατότητες του Q* που ισχυρίζονται οι ερευνητές.
«Πέπλο άγνοιας»
Οι ερευνητές θεωρούν ότι τα μαθηματικά αποτελούν ένα από τα όρια της ανάπτυξης της γεννητικής τεχνητής νοημοσύνης. Επί του παρόντος, η γεννητική τεχνητή νοημοσύνη είναι καλή στη γραφή και τη μετάφραση γλωσσών προβλέποντας στατιστικά την επόμενη λέξη, ενώ οι απαντήσεις στην ίδια ερώτηση μπορεί να διαφέρουν σημαντικά. Αλλά η κατάκτηση της ικανότητας κάνει μαθηματικές πράξεις – όπου υπάρχει μόνο μία σωστή απάντηση – συνεπάγεται ότι η AI θα έχει μεγαλύτερες ικανότητες συλλογισμού που θα μοιάζουν με την ανθρώπινη νοημοσύνη. Αυτό θα μπορούσε να εφαρμοστεί, για παράδειγμα, σε νέα επιστημονική έρευνα, πιστεύουν οι ερευνητές της ΑΙ.
Σε αντίθεση με μια αριθμομηχανή που μπορεί να λύσει έναν περιορισμένο αριθμό πράξεων, η AGI μπορεί να γενικεύει, να μαθαίνει και να κατανοεί.
Στην επιστολή τους προς το διοικητικό συμβούλιο, οι ερευνητές επισήμαναν τις ικανότητες και τους πιθανούς κινδύνους της ΑΙ, ανέφεραν οι πηγές χωρίς να διευκρινίζουν τις ακριβείς ανησυχίες για την ασφάλεια που σημειώνονται στην επιστολή. Εδώ και καιρό υπάρχει συζήτηση μεταξύ των επιστημόνων πληροφορικής σχετικά με τον κίνδυνο που εγκυμονούν οι μηχανές υψηλής νοημοσύνης, για παράδειγμα αν θα μπορούσαν να αποφασίσουν ότι η καταστροφή της ανθρωπότητας είναι προς το συμφέρον τους.
Οι ερευνητές έχουν επίσης επισημάνει την εργασία μιας ομάδας “επιστημόνων τεχνητής νοημοσύνης”, την ύπαρξη της οποίας επιβεβαίωσαν πολλές πηγές. Η ομάδα, η οποία σχηματίστηκε από το συνδυασμό προηγούμενων ομάδων “Code Gen” και “Math Gen”, διερευνούσε πώς να βελτιστοποιήσει τα υπάρχοντα μοντέλα τεχνητής νοημοσύνης για να βελτιώσει τη συλλογιστική τους και τελικά να εκτελέσει επιστημονικό έργο, δήλωσε ένας από τους ανθρώπους.
Ο Άλτμαν ηγήθηκε των προσπαθειών για να γίνει το ChatGPT μια από τις ταχύτερα αναπτυσσόμενες εφαρμογές λογισμικού στην ιστορία και προσέλκυσε τις επενδύσεις – και τους υπολογιστικούς πόρους – που ήταν αναγκαίοι από τη Microsoft για να πλησιάσει περισσότερο την AGI.
Εκτός από την ανακοίνωση μιας σειράς νέων εργαλείων σε μια επίδειξη αυτό το μήνα, ο Altman την περασμένη εβδομάδα σε μια σύνοδο κορυφής παγκόσμιων ηγετών στο Σαν Φρανσίσκο άφησε να εννοηθεί ότι πιστεύει ότι σημαντικές εξελίξεις είναι κοντά.
«Τέσσερις φορές στην ιστορία της OpenAI, η πιο πρόσφατη φορά ήταν μόλις τις τελευταίες δύο εβδομάδες, έχω την ευκαιρία να βρίσκομαι στο δωμάτιο, όταν κατά κάποιο τρόπο σπρώχνουμε το πέπλο της άγνοιας πίσω και τα σύνορα της ανακάλυψης μπροστά, και το να το κάνω αυτό είναι η επαγγελματική τιμή της ζωής μου» είπε στη σύνοδο κορυφής της Οικονομικής Συνεργασίας Ασίας-Ειρηνικού.
Μια μέρα αργότερα, το διοικητικό συμβούλιο απέλυσε τον Άλτμαν.
πηγή: FOXreport.gr
Γονείς προσοχή: Αυξανόμενη απειλή τα παιχνίδια που “κατασκοπεύουν” τα παιδιά, σύμφωνα με νέα μελέτη
Cyber Monday: Συμβουλές για ασφαλείς ηλεκτρονικές συναλλαγές
