Email
- Investigadores de contenidos en línea expresaron su preocupación por el aumento del acoso, especialmente en las mujeres
Los motores de búsqueda en la web se encuentran frente a un desafío cada vez más significativo en su lucha contra la proliferación de deepfakes porno no consensuados.
Estas representaciones falsas y sexualmente explícitas, generadas mediante inteligencia artificial, se han extendido a un ritmo acelerado, lo que representa una amenaza para la privacidad de las personas en línea.
Un análisis compartido con el portal Wired, reveló la magnitud de este problema. Según sus estimaciones, en los últimos siete años se han subido al menos 244.625 videos a 35 sitios web dedicados en su totalidad o en parte a albergar deepfakes pornográficos.
Sin embargo, la tendencia es aún más preocupante en 2023, señala el informe, debido a que en los primeros nueve meses de este año se han subido 113 mil videos a estos sitios web, lo que representa un incremento del 54 % en comparación con los 73 mil videos subidos en todo el año 2022.
Además, se prevé que para finales de diciembre se habrán creado más videos en 2023 que la suma total de los dos años anteriores.
¿Qué es un deepfake?
Es una forma de manipulación de medios digitales que utiliza la inteligencia artificial para crear contenido falso, como videos, imágenes o audio, que parece genuino, pero en realidad ha sido generado o alterado de manera engañosa.
Acoso en línea
Desde que surgieron aproximadamente hace cinco años, estos deepfakes han sido empleados de manera continua para acosar a mujeres, al permitir que sus rostros sean sobreimpresos en contenido pornográfico sin su consentimiento.
Con el constante avance de las tecnologías de IA y un ecosistema de deepfake en constante expansión, la cantidad de estas creaciones que suplantan a personas está creciendo de manera exponencial.
Incluso figuras públicas como las actrices Emma Watson y Natalie Portman o la cantante Rosalía han denunciado que fueron víctimas de este tipo de imágenes falsas que circulan en la red.
Para especialistas en tecnologia, este caso abarca mucho más que simplemente la pornografía deepfake. De hecho, el análisis explica que ha emergido una industria de abuso de deepfake, enfocada principalmente en mujeres y ejecutada sin su consentimiento ni conocimiento.
Además, existen aplicaciones de intercambio de rostros que trabajan con imágenes estáticas y aplicaciones que permiten “desvestir” a una persona en una foto con solo unos pocos clics. Se estima que se están creando millones de imágenes y videos utilizando estas aplicaciones.
Otra investigación
Sophie Maddocks, investigadora de derechos digitales y violencia cibernética en la Universidad de Pensilvania, señaló que este problema afecta a personas de todas las edades, desde estudiantes de bachillerato hasta adultos.
Maddocks también enfatizó que “habría una gran diferencia si pudiéramos dificultar el acceso a estas tecnologías. No debería ser tan sencillo incitar a un delito sexual en cuestión de segundos”.
La investigación identificó 35 sitios web que se dedican exclusiva o parcialmente a alojar videos de pornografía falsa. Para evitar aumentar su visibilidad, no se mencionan ni enlazan directamente estos sitios, pero el análisis resaltó que algunos de los portales más destacados albergan más de 44 mil videos cada uno.
Además de estos sitios especializados, se identificaron 300 dominios web de pornografía convencional que incorporan contenido falso no consensuado en cierta medida.
Esto incluye sitios web de “filtración” y aquellos que republican imágenes de personas tomadas de las redes sociales. Uno de estos sitios afirma haber generado “desnudos” de personas en 350 mil fotografías.
El alcance completo de los videos e imágenes falsas en línea es difícil de medir, según expertos, debido a que se comparten en redes sociales, grupos de mensajería privados y canales cerrados.
Este fenómeno ha tenido un impacto duradero en las víctimas, quienes a menudo experimentan acoso en línea, ansiedad, depresión y otras graves consecuencias para su salud mental.
Los expertos resaltan la necesidad de nuevas leyes y regulaciones, así como una mayor educación sobre estas tecnologías y que las empresas que alojan sitios web y los motores de búsqueda tomen medidas para reducir la propagación de deepfakes no consensuados.
