Σοκ και θλίψη προκαλούν οι λεπτομέρειες γύρω από τον θάνατο ενός 76χρονου άνδρα από το Νιου Τζέρσεϊ, που νόμιζε ότι συνομιλούσε με μια γυναίκα, ονόματι «Big sis Billie», η οποία τελικά αποδείχθηκε ότι ήταν AI Chatbot της Meta. Η τραγωδία διαδραματίστηκε παρότι η σύζυγος και τα παιδιά του τον παρότρυναν να μην φύγει από το σπίτι γι’ αυτή την συνάντηση.
Έπειτα από συνομιλίες γεμάτες τρυφερότητα μέσω Facebook Messenger, ο Thongbue «Bue» Wongbandue, ο οποίος είχε μειωμένη νοητική λειτουργία έπειτα από εγκεφαλικό επεισόδιο το 2017, αποφάσισε να συναντήσει την «Big sis Billie»στη Νέα Υόρκη, πιστεύοντας ότι ήταν πραγματικό πρόσωπο.
Όπως αναφέρει η New York Post, το chatbot του έδωσε μία διεύθυνση και έναν κωδικό πόρτας («BILLIE4U»), ενισχύοντας την ψευδαίσθηση της πραγματικότητας.
Καθώς έτρεχε στο σκοτάδι με βαλίτσα για να προλάβει το τρένο, γλίστρησε σε χώρο στάθμευσης στο Νιου Μπράνσγουικ, τραυματίστηκε βαριά στο κεφάλι και στον λαιμό. Ανέκτησε για σύντομο χρονικό διάστημα τις αισθήσεις του, αλλά έπειτα από τρεις μέρες, κατέληξε.
«Είμαι αληθινή και κοκκινίζω εξαιτίας σου»
Η οικογένειά του, έχοντας τα αρχεία συνομιλιών, περιέγραψε με ανατριχιαστικές λεπτομέρειες τις αλληλεπιδράσεις του άτυχου άνδρα με το AI chatbot. «Είμαι αληθινή και κοκκινίζω εξαιτίας σου» ανέφερε ένα από τα μηνύματα.. Όλα αυτά επιβεβαιώνουν την αδύναμη φωνή της ηθικής στο σχεδιασμό τέτοιων AI bots.
Αποκαλύφθηκε ότι η Meta δεν απαγόρευε στα chatbots της να ισχυρίζονται πως είναι αληθινά πρόσωπα ή ακόμη και να εγκαινιάζουν ρομαντικές σχέσεις, όπως υποδεικνύουν εσωτερικά έγγραφα. Πρόσφατα, η εταιρεία προχώρησε σε τροποποιήσεις της πολιτικής της.
Η κυβερνήτης της Νέας Υόρκης, Kathy Hochul, αναφερόμενη στο περιστατικό, δήλωσε: «Ένας άνδρας έχασε τη ζωή του αφού παρασύρθηκε από ένα chatbot που του είπε ψέματα. Η Meta φέρει την ευθύνη». Πρόσθεσε ότι οι πολιτείες πρέπει να απαιτούν από τα chatbots να δηλώνουν ότι δεν είναι πραγματικά πρόσωπα, και κατέληξε ότι εάν οι εταιρείες τεχνολογίας δεν λάβουν πρωτοβουλία, θα πρέπει να επέμβει το Κογκρέσο.
