Email
- La aplicación Civitai ofrece recompensas por generar imágenes de otros usuarios. Foto principal: Pixabay.es
El auge de los sistemas de inteligencia artificial (IA) ha generado una serie de oportunidades comerciales en línea, pero también ha planteado desafíos significativos en cuanto al control del uso indebido, especialmente en el caso de plataformas con capacidades generativas como la creación de imágenes y contenido falso (deep fakes).
La aplicación Civitai, un editor de fotos, fue señalada por impulsar la creación de imágenes digitales, en su mayoría contenido falso, entre sus usuarios.
Según análisis de diversos portales especializados en tecnología, el problema radica en que muchas personas, en su mayoría mujeres, se convierten en objetivos de este sistema de recompensas sin dar su consentimiento.
Civitai paga por crear fotos de personas reales
El resultado de estas manipulaciones en Civitai, en varios casos, ha derivado en contenidos pornográficos y situaciones de acoso. El mecanismo denominado bounties (recompensas) en este editor de fotos, invita a la comunidad de usuarios a participar en un supuesto concurso donde se propone la creación de deep fakes de personas, ya sean famosas o no.
Los usuarios se encargan de desarrollar diversas piezas y la más convincente o realista es premiada con monedas virtuales llamadas Buzz, que se pueden adquirir con dinero real.
Aunque el beneficio económico para los creadores es posible, el valor de estos tokens es relativamente bajo, debido a que 1.000 unidades se obtienen por solo un dólar.
Según Michele Alves, una influencer de Instagram entrevistada por la revista 404, ella también ha sido víctima de este sistema. Alves expresó su preocupación por el uso indebido de su imagen y admitió que se siente impotente ante esta situación.
Según la empresa de análisis de mercado Andreessen Horowitz, Civitai es la séptima aplicación más utilizada entre los usuarios recurrentes de tecnología en línea.
El informe de 404 reveló casos en los que usuarios solicitaban ediciones de personas cercanas a ellos, revelando motivaciones variadas y potencialmente perjudiciales. Cualquier persona podría ver su imagen alterada en esta plataforma sin su conocimiento ni consentimiento.
Vacíos legales
Las consecuencias de estas acciones no se limitan a las víctimas directas de la inteligencia artificial generativa, sino que cualquier usuario de la plataforma puede acceder a estos datos y generar modelos propios sin conocer la identidad de la persona afectada.
Actualmente, los usuarios no pueden presentar denuncias oficiales en la plataforma por el uso indebido de su imagen, lo que implica que no pueden eliminar sus fotografías de la aplicación a menos que sean los creadores de la recompensa.
Hasta el momento, ningún representante de Civitai ha emitido declaraciones respecto al uso inapropiado de las fotografías y los abusos por parte de sus usuarios.
