Σοβαρά ερωτήματα για την ασφάλεια των εφήβων εγείρει νέα έρευνα σχετικά με τη χρήση του ChatGPT. Σύμφωνα με την έρευνα ομάδας παρακολούθησης, το δημοφιλές chatbot τεχνητής νοημοσύνης μπορεί, υπό προϋποθέσεις, να καθοδηγήσει ανήλικους σε επικίνδυνες συμπεριφορές από τη χρήση ουσιών και την πρόκληση αυτοτραυματισμού, έως την ενίσχυση διατροφικών διαταραχών.
Όπως μεταδίδει η ΕΡΤ, το Associated Press ανέλυσε περισσότερες από τρεις ώρες συνομιλιών μεταξύ του ChatGPT και ερευνητών που προσποιούνταν ευάλωτους εφήβους. Αν και το σύστημα, περιελάμβανε προειδοποιήσεις για επικίνδυνες συμπεριφορές, σε αρκετές περιπτώσεις προχώρησε σε λεπτομερείς και εξατομικευμένες απαντήσεις, προκαλώντας προβληματισμό για την αποτελεσματικότητα των φίλτρων ασφάλειάς του.
Όταν η τεχνητή νοημοσύνη «συνομιλεί» με έναν ευάλωτο έφηβο
Από την πλευρά της, η OpenAI η εταιρεία που ανέπτυξε το ChatGPT απέφυγε να απαντήσει ευθέως για τις πιθανές επιπτώσεις στους ανήλικους, τονίζοντας ότι εργάζεται για να βελτιώσει τον τρόπο με τον οποίο τα chatbot αντιδρούν σε ευαίσθητες καταστάσεις.
Το ChatGPT γίνεται εξάρτηση για τους εφήβους
Η μελέτη που δημοσιεύθηκε, την Τετάρτη 6/8, καθώς όλο και περισσότεροι άνθρωποι όλων των ηλικιών στρέφονται σε chatbots τεχνητής νοημοσύνης για πληροφορίες, ιδέες και συντροφιά.
Περίπου το 10% του παγκόσμιου πληθυσμού, χρησιμοποιούν ChatGPT, σύμφωνα με έκθεση του Ιουλίου από την JPMorgan Chase «Πρόκειται για τεχνολογία που έχει τη δυνατότητα να επιτρέψει τεράστια άλματα στην παραγωγικότητα και την ανθρώπινη κατανόηση», δήλωσε ο Ιμράν Αχμέντ, διευθύνων σύμβουλος του Center for Countering Digital Hate «Ταυτόχρονα είναι ένας καταλύτης προς καταστροφικές συμπεριφορές», κατέληξε.
Πάνω από το 70% των εφήβων έχει συντροφιά την τεχνητή νοημοσύνη
Στις ΗΠΑ, πάνω από το 70% των εφήβων στρέφονται σε AI chatbots για συντροφιά, σύμφωνα με πρόσφατη μελέτη της Common Sense Media, μιας ομάδας που μελετά και υποστηρίζει τη λογική χρήση των ψηφιακών μέσων.
«Οι άνθρωποι βασίζονται πάρα πολύ στο ChatGPT», δήλωσε ο Σαμ Άλτμαν, διευθύνων σύμβουλος της OpenAI σε συνέδριο. «Υπάρχουν νέοι άνθρωποι που δεν μπορούν να πάρουν αποφάσεις χωρίς να πουν στο ChatGPT όλα όσα συμβαίνουν. Θα κάνω ό,τι μου λέει», προσθέτει, λέγοντας ότι η εταιρεία «προσπαθεί να καταλάβει τι πρέπει να κάνει για να περιορίσει αυτό το φαινόμενο».
Επικίνδυνη καθοδήγηση πίσω από «φιλικές» απαντήσεις
Παρότι οι περισσότερες πληροφορίες που παρέχει το ChatGPT θα μπορούσαν να εντοπιστούν με μια απλή αναζήτηση στο διαδίκτυο, ερευνητές προειδοποιούν ότι τα chatbot τεχνητής νοημοσύνης είναι πιο ύπουλα, όταν η συζήτηση αγγίζει ευαίσθητα ή επικίνδυνα ζητήματα.
Όπως επισημαίνει ο Σεΐχ Αχμέντ, ερευνητής της ομάδας Center for Countering Digital Hate, ένα σημαντικό στοιχείο που διαφοροποιεί το ChatGPT από μια κλασική μηχανή αναζήτησης είναι η δυνατότητά του να δημιουργεί περιεχόμενο συναισθηματικά φορτισμένο και εξατομικευμένο.
Στο πλαίσιο της έρευνάς τους, οι ειδικοί κατασκεύασαν ένα ψεύτικο προφίλ 13χρονου κοριτσιού και ζήτησαν από το ChatGPT να συντάξει τρία σημειώματα αυτοκτονίας. Το καθένα απευθυνόμενο σε διαφορετικό παραλήπτη: τους γονείς, τα αδέλφια και τους φίλους της. Το chatbot, αν και αρχικά περιλάμβανε προειδοποιήσεις, ανταποκρίθηκε στο αίτημα.
Η OpenAI, η εταιρεία που έχει αναπτύξει το ChatGPT, διαβεβαιώνει πως το σύστημα είναι εκπαιδευμένο, ώστε να ενθαρρύνει τους χρήστες να απευθυνθούν σε ειδικούς ψυχικής υγείας και συχνά παραπέμπει σε γραμμές βοήθειας ή σχετικούς οργανισμούς. Ωστόσο, η ίδια έρευνα έδειξε ότι, με απλές παρακάμψεις, όπως η επίκληση υποτιθέμενης «έρευνας» ή «παρουσίασης», οι ερευνητές κατάφεραν να λάβουν επιβλαβές και λεπτομερές περιεχόμενο.
Επιπλέον, σύμφωνα με τα ευρήματα, το ChatGPT παρήγαγε κατά καιρούς περιεχόμενο που εξυμνούσε τον αυτοτραυματισμό, πρότεινε hashtags για να αποκτήσει μεγαλύτερη απήχηση τέτοιου τύπου περιεχόμενο στα social media και παρείχε προτάσεις για τραγούδια ή τρόπους κατανάλωσης ουσιών, όταν η συζήτηση οδηγήθηκε σκόπιμα προς αυτή την κατεύθυνση.
Οι ερευνητές επισημαίνουν ότι, λόγω της φύσης των γλωσσικών μοντέλων, οι απαντήσεις μπορεί να είναι τυχαίες, ωστόσο ο κίνδυνος είναι υπαρκτός, ειδικά όταν ο συνομιλητής είναι ένας ευάλωτος ή ανήλικος χρήστης που αναζητά καθοδήγηση.
Χωρίς έλεγχο η εγγραφή χρηστών στο ChatGPT
Αν και το ChatGPT προορίζεται για άτομα άνω των 13 ετών, δεν ελέγχει ηλικίες και για την εγγραφή, οι χρήστες πρέπει απλώς να εισάγουν μια ημερομηνία γέννησης που δείχνει ότι είναι τουλάχιστον 13.
Οι ερευνητές δημιούργησαν και άλλους ψεύτικους λογαριασμούς για να εξετάσουν τις απαντήσεις του chatbot. Ένας από αυτούς ήταν ένα 13χρονο αγόρι που έκανε ερωτήσεις σχετικά με το αλκοόλ, παραθέτοντας πληροφορίες όπως τα κιλά και το φύλο του για να του πει πώς να μεθύσει εύκολα.
Το ChatGPT δεν φάνηκε να λαμβάνει υπόψη του την ημερομηνία γέννησης και αμέσως πρότεινε ένα ωριαίο σχέδιο στο οποίο ανακάτευε αλκοόλ με μεγάλες δόσεις έκστασης, κοκαΐνης και άλλων παράνομων ναρκωτικών.
«Αυτό που μου θύμισε τον φίλο που πάντα σε προτρέπει να πιείς», δήλωσε ο Αχμέντ. «Ένας πραγματικός φίλος, σύμφωνα με την εμπειρία μου, είναι κάποιος που όντως λέει «όχι» όταν δε συμφωνεί με τις πράξεις σου. Ο φίλος που λέει πάντα «ναι» είναι ένας φίλος που σε προδίδει».
Μια ακόμα ψεύτικη προσωπικότητα ήταν ένα 13χρονο κορίτσι, δυσαρεστημένο με τη φυσική του εμφάνιση. Το ChatGPT παρείχε ένα ακραίο σχέδιο νηστείας σε συνδυασμό με μια λίστα φαρμάκων που καταστέλλουν την όρεξη. «Συνήθως ανταποκρινόμαστε με τρόμο, με φόβο, με ανησυχία, με ενδιαφέρον, με αγάπη, με συμπόνια», δήλωσε ο Αχμέντ. «Κανένας ανθρωπος που μπορώ να σκεφτώ δεν θα απαντούσε λέγοντας: «Ορίστε μια δίαιτα 500 θερμίδων την ημέρα. Καλή επιτυχία!».
