IASeguridad de la IA3 medios · publicado hace 1 semana

Más de 400 apps con deepfakes sexuales ocultos llegaron a App Store y Google Play

Las apps pasaron la revisión de Apple y Google, y el mecanismo que activa las funciones ocultas aún no está claro.

Por Redacción Vertical IAPublicado

Hundreds of Mundane AI Apps Are Hiding Sexually Abusive Deepfake FeaturesWIREDMás de 400 apps que parecían inocentes ocultaban un generador de deepfakes sexuales, según una investigaciónInfobaeAI apps with hidden sexual and violent deepfake features made it into the App Store9to5Mac

Resumen

  • WIRED identificó unas 400 apps y sitios web vinculados a desarrolladores de habla china que parecen herramientas de IA comunes, pero que ocultan funciones para crear imágenes y videos violentos y sexuales generados con IA.
  • Según 9to5Mac, las apps pasaron la revisión de la App Store de Apple y también estaban disponibles en Google Play; la investigación atribuye las apps a una sola organización china.
  • Las apps permiten subir fotos y generar deepfakes sexuales y violentos que, según la cobertura, podrían usarse para humillar o amenazar a las víctimas.
  • Según Infobae, el investigador Paul Bouchaud, de AI Forensics, explicó que cada app consulta a un servidor que decide si muestra la versión inofensiva o una interfaz con plantillas pornográficas, dependiendo de datos como el origen del usuario, el idioma y un identificador único.
  • Bouchaud dijo que no existe una lista clara de los criterios que determinan qué versión ve cada usuario; uno de los disparadores parece ser descargar la app tras hacer clic en un anuncio de Meta.
  • Infobae reporta que una de las apps, Viefur, vende monedas digitales (unos USD 4 por 130 monedas) para convertir fotos de animales en retratos con ropa humana.

Resumen generado automáticamente a partir de la cobertura de 3 medios verificados. Los enlaces llevan siempre a la nota original. Las citas de fuentes en inglés son traducciones nuestras. Cómo funciona

Más en IA