- La compañía implementará el uso de IA para analizar los materiales publicados en Instagram y Facebook y así poder identificar las cuentas que buscan estafar a los usuarios | Foto: Unsplash
La empresa Meta, dueña de Instagram y Facebook, anunció que planea implementar una tecnología de reconocimiento facial para identificar las publicaciones fraudulentas sobre famosos, las cuales se han incrementado desde inicios de la pandemia de covid-19
“Usamos clasificadores de aprendizaje automático para revisar lo que se comparte, en búsqueda de infracciones a nuestras políticas de publicidad, incluyendo estafas”, afirmó Monika Bickert, vicepresidenta de Políticas de Contenido de Meta, en entrevista con Infobae.
La experta explicó que para identificar los deepfakes (videos o imágenes falsas) de personalidades reconocidas, Meta utilizará su sistema de revisión de anuncios, con el que analiza millones de publicaciones a diario.
El proceso utiliza inteligencia artificial (IA) y aprendizaje automático para examinar varios aspectos de las publicaciones, como el texto, las imágenes y los videos, buscando contenido manipulado o falso. En este caso, se enfoca en identificar deepfakes de cantantes, deportistas u otros famosos.
“Este esquema es comúnmente llamado ‘celeb-bait’ e infringe nuestras políticas y es perjudicial para las personas que usan nuestros productos”, agregó Bickert.
Qué hará Meta al detectar un deepfake
Bickert destacó que si los sistemas de Meta sospechan de una publicación, el material será comparado con la foto del perfil verificado de la celebridad con la tecnología para reconocimiento facial de Instagram y Facebook.
“Si confirmamos que el anuncio es una estafa lo bloquearemos y eliminaremos inmediatamente cualquier dato facial generado por esta comparación, independientemente de si nuestro sistema encuentra o no una coincidencia. Nunca utilizaremos para ningún otro propósito este material”, recalcó.
Esta innovación en la compañía está siendo probada por un grupo de famosos en todo el mundo, excepto de la Unión Europea, por regulaciones.
Asimismo, la empresa espera que en las próximas semanas se notifique a más personalidades, a quienes les han alterado imágenes y videos, para que den su autorización y sean parte del proyecto.
Otra problemática en las plataformas de Meta
Además de la creación de deepfakes, Meta también enfrenta otra problemática, como: la suplantación de cuentas de famosos. Con este método los estafadores buscan contactar a los seguidores de las celebridades para, bajo engaño, solicitarles transferencias bancarias.
“Los estafadores pueden decir que una celebridad respaldó una inversión específica o que está pidiendo información personal a cambio de un regalo”, precisó la vicepresidenta de Políticas de Contenido de Meta.
Para contrarrestar este tipo de acciones, la compañía está trabajando en nuevas medidas para poder identificar las cuentas falsas.
Otras acciones de Meta
Meta también está probando el uso de reconocimiento facial, a través de selfie, para que los usuarios puedan restablecer sus cuentas de Instagram o Facebook.
En cuanto a la selfie que deberá tomarse el dueño de la cuenta, esta no será visible en el perfil, sino que se borrará, al igual que los demás datos que se suministren para verificar la identidad de la persona que desea recuperar el perfil.
