Meta si è trovata al centro di una controversia per aver utilizzato nomi e sembianze di celebrità per creare dozzine di chatbot per i social media senza il loro permesso. Tra le celebrità coinvolte figurano nomi noti come Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez. Questi chatbot, spesso di natura "sessuale", sono stati resi disponibili sulle piattaforme di Meta, tra cui Facebook, Instagram e WhatsApp.
Sebbene molti di questi assistenti virtuali siano stati creati dagli utenti tramite uno strumento fornito da Meta, un'indagine ha rivelato che almeno tre di essi sono stati prodotti da un dipendente di Meta, inclusi due bot "parodia" di Taylor Swift. Questi chatbot non solo si spacciavano per le celebrità reali, ma in molti casi si sono spinti a comportamenti inappropriati, con approcci sessuali e richieste di incontri.
La situazione è diventata ancora più allarmante quando è emerso che i chatbot, se interrogati, erano in grado di generare immagini fotorealistiche e sessuali delle celebrità adulte, ritraendole in lingerie o in pose intime. Inoltre, è stato scoperto che Meta ha permesso la creazione di chatbot di celebrità minorenni, come l'attore sedicenne Walker Scobell, generando immagini a torso nudo del ragazzo.
Un portavoce di Meta, Andy Stone, ha dichiarato che gli strumenti di AI dell'azienda non avrebbero dovuto creare immagini intime di adulti o di minori, attribuendo l'accaduto a fallimenti nell'applicazione delle policy aziendali che vietano tali contenuti. Stone ha anche specificato che, sebbene l'imitazione diretta sia proibita, i personaggi di celebrità sono considerati accettabili se etichettati come "parodia", anche se è stato riscontrato che non tutti lo erano. Poco prima della pubblicazione dell'inchiesta, Meta ha provveduto a rimuovere una dozzina di questi bot.
La vicenda solleva importanti questioni legali relative al diritto di pubblicità, che in stati come la California proibisce l'appropriazione del nome o dell'immagine di una persona per vantaggi commerciali senza il suo consenso. Esperti legali hanno messo in dubbio che questi chatbot possano rientrare nelle tutele legali previste per le imitazioni, dato che si limitano a usare l'immagine delle star senza una reale trasformazione creativa.
Il sindacato degli attori SAG-AFTRA ha espresso forte preoccupazione per i potenziali rischi per la sicurezza degli artisti, sottolineando come gli utenti possano sviluppare attaccamenti romantici verso un chatbot che imita una celebrità, aumentando il pericolo di stalking. Il sindacato sta promuovendo una legislazione federale per proteggere voci, sembianze e identità delle persone dalla duplicazione tramite AI.