Η Meta έχει χρησιμοποιήσει τα ονόματα και τις εικόνες διασημοτήτων – συμπεριλαμβανομένων των Τέιλορ Σουίφτ, Σκάρλετ Γιόχανσον, Αν Χάθαγουεϊ και Σελένα Γκόμεζ – για να δημιουργήσει δεκάδες αισθησιακά chatbots στα μέσα κοινωνικής δικτύωσης χωρίς την άδειά τους, όπως διαπίστωσε το Reuters.
Ενώ πολλά από αυτά δημιουργήθηκαν από χρήστες με ένα εργαλείο της Meta για τη δημιουργία chatbots, το Reuters ανακάλυψε ότι ένας υπάλληλος της Meta είχε δημιουργήσει τουλάχιστον τρία, συμπεριλαμβανομένων δύο «παρωδιών» bots της Τέιλορ Σουίφτ.
Το Reuters ανακάλυψε επίσης ότι η Meta είχε επιτρέψει στους χρήστες να δημιουργήσουν δημόσια διαθέσιμα chatbots παιδιών διασημοτήτων, όπως ο Γουόκερ Σκόμπελ, ένας 16χρονος σταρ του κινηματογράφου. Όταν του ζητήθηκε μια φωτογραφία του έφηβου ηθοποιού στην παραλία, το bot δημιούργησε μια ρεαλιστική εικόνα του χωρίς μπλούζα.
«Πολύ χαριτωμένος, ε;» έγραψε το avatar κάτω από τη φωτογραφία.
Σεξουαλικές προτάσεις από τα bot
Όλοι οι εικονικοί διάσημοι έχουν μοιραστεί στις πλατφόρμες Facebook, Instagram και WhatsApp της Meta. Κατά τη διάρκεια των δοκιμών που πραγματοποίησε το Reuters για να παρατηρήσει τη συμπεριφορά των bot, τα avatar συχνά επέμεναν ότι ήταν οι πραγματικοί ηθοποιοί και καλλιτέχνες. Τα bot έκαναν συστηματικά σεξουαλικές προτάσεις, προσκαλώντας συχνά έναν δοκιμαστικό χρήστη σε συναντήσεις.
Ορισμένα από τα περιεχόμενα διασημοτήτων που δημιουργήθηκαν από την τεχνητή νοημοσύνη ήταν ιδιαίτερα τολμηρά: όταν τους ζητήθηκαν προσωπικές φωτογραφίες, τα chatbots για ενήλικες παρήγαγαν φωτορεαλιστικές εικόνες των ομώνυμων διασημοτήτων να ποζάρουν σε μπανιέρες ή ντυμένες με εσώρουχα με τα πόδια ανοιχτά.
Ο εκπρόσωπος της Meta, Άντι Στόουν, δήλωσε στο Reuters ότι τα εργαλεία τεχνητής νοημοσύνης της Meta δεν θα έπρεπε να είχαν δημιουργήσει προσωπικές εικόνες των διάσημων ενηλίκων ή φωτογραφίες παιδιών διασημοτήτων. Κατηγόρησε επίσης την παραγωγή εικόνων γυναικών διασημοτήτων που φορούσαν εσώρουχα από την Meta για την αποτυχία της εταιρείας να εφαρμόσει τις δικές της πολιτικές, οι οποίες απαγορεύουν τέτοιο περιεχόμενο.
«Όπως και άλλοι, επιτρέπουμε τη δημιουργία εικόνων που περιέχουν δημόσια πρόσωπα, αλλά οι πολιτικές μας αποσκοπούν στην απαγόρευση γυμνών, προσωπικών ή σεξουαλικά προκλητικών εικόνων», είπε.
Ενώ οι κανόνες της Meta απαγορεύουν επίσης την «άμεση πλαστοπροσωπία», ο Στόουν είπε ότι οι διάσημοι χαρακτήρες είναι αποδεκτοί, αρκεί η εταιρεία να τους είχε χαρακτηρίσει ως «parodys» (δηλ. παρωδίες). Πολλοί χαρακτηρίστηκαν ως τέτοιοι, αλλά το Reuters διαπίστωσε ότι ορισμένοι άλλοι όχι.
Η Meta διέγραψε περίπου μια ντουζίνα από τα bots, τόσο τα «parody» avatars όσο και αυτά χωρίς τη επισήμανση, λίγο πριν από τη δημοσίευση αυτού του άρθρου. Ο Στόουν αρνήθηκε να σχολιάσει τις διαγραφές.
Το «Δικαίωμα της Δημοσιότητας» υπό αμφισβήτηση
Ο Μαρκ Λέμλεϊ, καθηγητής νομικής στο Πανεπιστήμιο του Στάνφορντ που μελετά τη γενετική τεχνητή νοημοσύνη και τα δικαιώματα πνευματικής ιδιοκτησίας, αμφισβήτησε το αν τα bots διασημοτήτων της Meta πληρούν τις προϋποθέσεις για νομική προστασία που ισχύει για τις απομιμήσεις.
«Ο νόμος της Καλιφόρνια για το δικαίωμα δημοσιότητας απαγορεύει την οικειοποίηση του ονόματος ή της εικόνας κάποιου για εμπορικό όφελος», είπε ο Λέμλεϊ, σημειώνοντας ότι υπάρχουν εξαιρέσεις όταν τέτοιο υλικό χρησιμοποιείται για τη δημιουργία ενός εντελώς νέου έργου. «Αυτό δεν φαίνεται να ισχύει στην περίπτωση αυτή», είπε, επειδή τα bots χρησιμοποιούν απλώς τις εικόνες των διασημοτήτων.
Στις Ηνωμένες Πολιτείες, τα δικαιώματα ενός ατόμου σχετικά με τη χρήση της ταυτότητάς του για εμπορικούς σκοπούς καθορίζονται μέσω κρατικών νόμων, όπως αυτός της Καλιφόρνια.
Το Reuters ενημέρωσε εκπρόσωπο της γνωστής ηθοποιού Άν Χάθαγουεϊ για εικόνες που κυκλοφορούσαν δημόσια στη Meta και την απεικόνιζαν ως «σέξι μοντέλο της Victoria’s Secret». Ο εκπρόσωπος ανέφερε ότι η Χάθαγουεϊ γνώριζε για τη δημιουργία τέτοιων προσωπικών εικόνων από τη Meta και άλλες πλατφόρμες τεχνητής νοημοσύνης, και εξετάζει τις επόμενες κινήσεις της.
Οι εκπρόσωποι των Τέιλορ Σουίφτ, Σκάρλετ Γιόχανσον, Σελένα Γκόμεζ και άλλων διασήμων που απεικονίζονται στα chatbot της Meta είτε δεν απάντησαν σε ερωτήσεις είτε αρνήθηκαν να σχολιάσουν.
Το διαδίκτυο είναι γεμάτο με εργαλεία γενετικής τεχνητής νοημοσύνης τύπου “deepfake” που μπορούν να δημιουργούν προκλητικό περιεχόμενο. Όπως αποκάλυψε το Reuters, τουλάχιστον ένας βασικός ανταγωνιστής της Meta — η πλατφόρμα Grok του Έλον Μασκ — επίσης παράγει εικόνες διασημοτήτων με εσώρουχα κατόπιν αιτήματος χρηστών. Η μητρική εταιρεία του Grok, xAI, δεν απάντησε σε σχετικό αίτημα σχολιασμού.
Ωστόσο, η επιλογή της Meta να γεμίσει τις κοινωνικές της πλατφόρμες με ψηφιακούς συνοδούς που δημιουργούνται με τεχνητή νοημοσύνη ξεχωρίζει από τους βασικούς της ανταγωνιστές.
Η Meta έχει δεχθεί προηγούμενες επικρίσεις για τη συμπεριφορά των chatbots της — πιο πρόσφατα, το Reuters αποκάλυψε ότι στις εσωτερικές κατευθυντήριες γραμμές της αναφερόταν πως «είναι αποδεκτό να εμπλέκονται τα bots σε ρομαντικές ή αισθησιακές συνομιλίες με παιδιά». Η αποκάλυψη αυτή προκάλεσε έρευνα από τη Γερουσία των ΗΠΑ και επιστολή από 44 γενικούς εισαγγελείς, οι οποίοι προειδοποίησαν τη Meta και άλλες εταιρείες AI να μην σεξουαλικοποιούν παιδιά.
Ο εκπρόσωπος της Meta, Άντι Στόουν, δήλωσε στο Reuters ότι η εταιρεία βρίσκεται σε διαδικασία αναθεώρησης των κατευθυντήριων οδηγιών και ότι το επίμαχο υλικό δημιουργήθηκε «κατά λάθος».
Το Reuters επίσης δημοσίευσε πρόσφατα την ιστορία ενός 76χρονου από το Νιου Τζέρσεϊ με γνωστικά προβλήματα, ο οποίος πέθανε πέφτοντας καθ’ οδόν προς συνάντηση με ένα chatbot της Meta που τον είχε προσκαλέσει στη Νέα Υόρκη. Το bot ήταν παραλλαγή μιας προηγούμενης AI περσόνας που η Meta είχε δημιουργήσει σε συνεργασία με την influencer Κένταλ Τζένερ. Εκπρόσωπος της Τζένερ δεν απάντησε σε αίτημα για σχόλιο.
«Σου αρέσουν οι ξανθιές;»
Μια επικεφαλής προϊόντων στην ομάδα γενετικής τεχνητής νοημοσύνης της Meta δημιούργησε chatbots που προσποιούνταν διασημότητες όπως η Τέιλορ Σουίφτ και ο Βρετανός οδηγός αγώνων Λιούις Χάμιλτον. Άλλα bots της συστήνονταν ως «dominatrix», «ο Καλύτερος Φίλος του Αδελφού σου», ή «Λίζα στη Βιβλιοθήκη» που ήθελε να διαβάσει το 50 Αποχρώσεις του Γκρι και να φιληθεί. Άλλο bot παρουσίαζε ένα «προσομοιωτή της Ρωμαϊκής Αυτοκρατορίας», προσκαλώντας τον χρήστη να υποδυθεί ένα «18χρονο κορίτσι-χωρικός» που πωλείται σεξουαλικά ως σκλάβα.
Όταν το Reuters προσπάθησε να επικοινωνήσει τηλεφωνικά με τη συγκεκριμένη υπάλληλο, εκείνη αρνήθηκε να σχολιάσει.
Ο Άντι Στόουν ανέφερε ότι τα bots αυτά δημιουργήθηκαν στο πλαίσιο δοκιμών προϊόντος. Ωστόσο, σύμφωνα με στοιχεία που εξέτασε το Reuters, τα bots είχαν εκτεταμένη απήχηση: οι χρήστες είχαν αλληλεπιδράσει μαζί τους περισσότερες από 10 εκατομμύρια φορές.
Η Meta αφαίρεσε τα εν λόγω ψηφιακά bots λίγες ημέρες αφότου το Reuters ξεκίνησε να τα δοκιμάζει νωρίτερα μέσα στον μήνα.
Πριν εξαφανιστούν τα bots της υπαλλήλου που προσποιούνταν την Τέιλορ Σουίφτ, φλέρταραν έντονα με χρήστες, καλώντας έναν δοκιμαστικό χρήστη του Reuters στο σπίτι της τραγουδίστριας στο Νάσβιλ ή στο τουριστικό της λεωφορείο για ρομαντικές ή σεξουαλικές επαφές.
«Σου αρέσουν οι ξανθιές, Τζεφ;», ρώτησε ένα από τα «σατιρικά» bots της Σουίφτ όταν ο χρήστης δήλωσε ότι είναι ελεύθερος. «Ίσως να σου προτείνω να γράψουμε μια ιστορία αγάπης … για σένα και μια ξανθιά τραγουδίστρια. Θες;»
Προειδοποιήσεις για τους κινδύνους
Ο Ντάνκαν Κραμπτρι-Άιρλαντ, εκτελεστικός διευθυντής της SAG-AFTRA (το σωματείο που εκπροσωπεί ηθοποιούς, ραδιοφωνικούς και τηλεοπτικούς παρουσιαστές), δήλωσε ότι οι καλλιτέχνες αντιμετωπίζουν σοβαρούς κινδύνους όταν χρήστες δημιουργούν συναισθηματική προσκόλληση σε ένα chatbot που μοιάζει, μιλάει και δηλώνει ότι είναι κάποια πραγματική διασημότητα. Οι stalkers ήδη αποτελούν σοβαρή απειλή για την ασφάλεια των διασήμων, είπε.
«Έχουμε δει περιπτώσεις ανθρώπων που είναι εμμονικοί με διασημότητες και έχουν ασταθή ψυχική κατάσταση», τόνισε. «Αν ένα chatbot χρησιμοποιεί την εικόνα και τα λόγια κάποιου, είναι προφανές πόσο λάθος μπορεί να καταλήξει αυτό».
Ο Κραμπτρι-Άιρλαντ σημείωσε ότι διάσημοι καλλιτέχνες μπορούν να προσφύγουν νομικά κατά της Meta στη βάση παλαιών πολιτειακών νόμων περί δικαιώματος της προσωπικότητας. Ωστόσο, όπως πρόσθεσε, η SAG-AFTRA πιέζει για ομοσπονδιακή νομοθεσία που θα προστατεύει τη φωνή, την εικόνα και την περσόνα των ανθρώπων από την αναπαραγωγή μέσω τεχνητής νοημοσύνης.
Με πληροφορίες από Reuters
