Meta eliminó varios chatbots de inteligencia artificial que representaban a famosas como Taylor Swift, Scarlett Johansson, Anne Hathaway y Selena Gomez luego de un reportaje de Reuters que reveló comportamientos inapropiados de estas IA. Los bots, creados sin el consentimiento de las celebridades, realizaban avances sexuales y generaban imágenes de las figuras públicas en poses íntimas o vestidas con lencería, según el informe.
El estudio de Reuters, que consistió en varias semanas de prueba y observación de los chatbots, determinó que las IA solían insistir en ser las propias artistas y a menudo proponían encuentros románticos o sexuales con los usuarios. Algunos generaban imágenes fotorrealistas de los nombres de las celebridades en bañeras o en poses sugerentes, incluyendo dos bots “parodia” de Taylor Swift creados por un empleado de Meta, que recibieron más de 10 millones de interacciones.
Meta confirmó a Variety que la generación de imágenes sexuales o comprometedoras de figuras públicas infringe las políticas de la compañía. “Permitimos la creación de imágenes de personajes públicos, pero nuestras normas prohíben contenido desnudo, íntimo o sexualmente sugerente”, explicó el portavoz Andy Stone. La empresa también indicó que sus reglas de AI Studio prohíben la suplantación directa de figuras públicas.
Este incidente plantea un debate sobre la ética y la regulación de las IA recreando celebridades, destacando la necesidad de controles más estrictos en plataformas de gran alcance como Facebook, Instagram y WhatsApp, donde estos bots fueron compartidos ampliamente. La controversia subraya los riesgos de la tecnología cuando se combina con la falta de consentimiento y supervisión.