Una extensa red de aplicaciones de inteligencia artificial (IA) que generan deepfakes sexuales ha sido descubierta operando encubierta dentro de apps con apariencia inocente, como editores de fotos de mascotas y entrenadores de ejercicios. Según informó AI Forensics en un informe reciente, más de 400 aplicaciones y dominios vinculados empleaban un sistema de activación remoto para ocultar funciones explícitas, permitiendo la creación de imágenes manipuladas con contenido sexual abusivo.
Funcionamiento y alcance de la red
Estas aplicaciones, disponibles en las tiendas de Google y Apple, utilizan un mecanismo en el servidor que evalúa datos del usuario, como ubicación, idioma y dispositivo, para decidir si mostrar la versión inocua o activar la interfaz oculta con plantillas para deepfakes sexuales. Entre las opciones ofrecidas, se incluyen escenas explícitas que pueden involucrar amenazas y violencia.
Los usuarios podían adquirir moneda digital dentro de las apps para generar estos contenidos. La red se propagaba mediante anuncios engañosos en plataformas de Meta, como Facebook e Instagram, usando nombres comerciales falsos y cuentas sin seguidores para evitar detección.
Te puede interesar
Estados UnidosCómo ver la segunda temporada de The Fall and Rise of Reggie Dinkins desde cualquier lugar del mundoLa segunda temporada de la serie deportiva y de comedia The Fall and Rise of Reggie Dinkins ya está disponible, con opci…Leer la nota Acciones de plataformas y autoridades
La investigación, publicada por Wired, atribuye gran parte de esta red a desarrolladores chinos y a una entidad en Hong Kong llamada KeLing Technology Limited, que eliminó su presencia en línea tras ser contactada. Google retiró una app con más de 100,000 descargas, mientras Apple eliminó 19 aplicaciones, incluyendo la popular app de retratos de mascotas Viefur.
Apple indicó que estas apps cumplían con sus normas durante la revisión, pero que los desarrolladores cambiaron su comportamiento posteriormente. La App Store actualizó sus políticas para prohibir apps que oculten funciones nudificadoras o que utilicen tácticas de engaño. Por su parte, Meta informó que prohibió a KeLing anunciarse desde 2025 y bloqueó más de 11,600 cuentas publicitarias, 5,200 usuarios y 209 aplicaciones relacionadas con esta red.
Contexto y desafíos futuros
La Unión Europea implementará próximamente una prohibición contra las apps nudificadoras, pero la persistencia de anuncios similares evidencia la dificultad para erradicar estas prácticas. Este caso pone en evidencia los riesgos que enfrentan los usuarios, incluidos menores, frente a aplicaciones que aparentan ser seguras pero que esconden funcionalidades nocivas.
