Desgraciadamente, hemos hablado y se seguirá haciendo de la otra cara de la moneda que tiene la nueva tecnología alimentada por inteligencia artificial. Las deepfakes son sin duda una de ellas, y un ejemplo lo tenemos esta semana con la aparición de cientos de vídeos falsos con el rostro de Emma Watson o Scarlett Johansson.
Todas estas secuencias de contenido sexual aparecieron en Facebook e Instagram como parte de una aparente campaña publicitaria para una aplicación de deepfake bajo el nombre de FaceMega. Al parecer, fueron varios usuarios de Facebook, Instagram y Messenger quienes encontraron estos anuncios de la app y dieron la voz de alarma.
Lo que se podía ver “anunciado” en Facemega era el rostro de las actrices Emma Watson oScarlett Johansson en un video sexualmente sugerente. Cuando hablamos del rostro de ambas hablamos de un parecido más que palpable difícil de diferenciar de una imagen real, todo ello, por supuesto, sin su consentimiento y conseguido con solo unos pocos toques.
Y como decíamos, de fondo, y posiblemente lo más incomprensible de todo, es que era una campaña orquestada, ya que estos anuncios formaban parte de FaceMega, donde por $ 8 a la semana, los usuarios pueden intercambiar las caras de alguien en un video con fotos cargadas en la aplicación.
En estos momentos, FaceMega parece que se ha retirado o eliminado de la tienda de aplicaciones de Apple, pero todavía está disponible en Google Play Store. Según dijo a NBC News Lauren Barton, quien subió una grabación de pantalla de uno de los videos a Twitter:
Esto podría usarse con estudiantes de secundaria en escuelas públicas que son intimidados. Podría arruinar la vida de alguien. Podrían meterse en problemas en su trabajo. Y esto es extremadamente fácil de hacer y gratis. Todo lo que tenía que hacer era subir una foto de mi cara y tenía acceso a 50 plantillas gratuitas.
Curiosamente, o quizás no tanto, los propios anuncios de la app parecen ir en contra de los propios términos y condiciones de la aplicación, que dicen que los usuarios no pueden “actuar de manera engañosa o hacerse pasar por otra persona u organización”.
Por su parte, Meta le dijo a Gizmodo en un correo electrónico que “nuestras políticas prohíben el contenido para adultos, independientemente de si es generado por IA o no, y hemos restringido esta página de publicidad en nuestra plataforma”. Por cierto, la campaña proviene del desarrollador de aplicaciones Ufoto Limited, propiedad de Wondershare, su empresa matriz china.