Alibaba lanzó una IA de código abierto para crear videos, pero se está usando para generar deepfakes pornográficos

Alibaba lanzó WanX 2.1, un nuevo modelo de IA para generación de video que compite con otros como Sora, de OpenAI, o Veo 2, de Google. Sin embargo, en menos de 24 horas, la herramienta se convirtió en la fuente de docenas de videos pornográficos publicados en internet.

Uno de los aspectos clave de WanX 2.1 es que se trata de un modelo open source, con su código disponible en GitHub. Esto permitió que usuarios con los conocimientos técnicos adecuados lo aprovecharan para generar contenido pornográfico.

Según 404 Media, en comunidades dedicadas a crear y compartir deepfakes pornográficos no consentidos, los usuarios mostraron gran entusiasmo por las capacidades avanzadas del modelo de Alibaba.

Algunos de estos videos se compartieron en Civitai, una plataforma donde los usuarios intercambian imágenes y videos generados con IA, e incluso los compran y venden. Las estadísticas de estos modelos muestran que han sido descargados cientos de veces.

Desde 404 Media advierten que ya existen docenas de videos pornográficos creados con WanX 2.1. Aunque en Civitai se permite compartir modelos de IA, no se aceptan contenidos no consentidos. Sin embargo, esto no impide que los usuarios descarguen los modelos y los utilicen para producir estos videos por su cuenta.

El problema, una vez más, radica en el uso de herramientas que pueden generar videos sorprendentes y legítimos, pero que también facilitan la creación de contenido problemático. Ya se ha demostrado que los deepfakes pueden ser altamente rentables, y el avance de estas tecnologías dificulta su control.