Email
- La compañía ElevenLab implementará medidas se seguridad como la verificación de identidad y datos bancarios del usuario
La empresa especialista en tecnología ElevenLab advirtió recientemente que su inteligencia artificial (IA) es utilizada para crear audios falsos de famosos con discursos racistas.
La compañía aseguró que están implementando mecanismos de seguridad ante la suplantación de voces de celebridades como el comediante Joe Rogan, la actriz Emma Watson y el locutor Ben Shapiro.
De acuerdo con la investigación realizada, los audios falsos fueron creados con la plataforma 4Chan, herramienta de IA de ElevenLab.
“Si bien vemos que nuestra tecnología se aplica abrumadoramente al uso positivo, también vemos un número creciente de casos de uso indebido de clonación de voz”, afirmó la empresa a través de sus redes sociales.
La compañía tecnológica aseguró que puedes rastrear los audios falsos hasta el creador, gracias a una marca de agua que tiene cada contenido. Sin embargo, implementarán otras medidas para evitar que el material se reproduzca.
¿Qué es deepfake?
Un deepfake es un video, una imagen o un audio generado que imita la apariencia y el sonido de una persona.
¿Cuáles son las medidas de seguridad a implementar?
Entre las soluciones está implementar la solicitud de una verificación de cuenta adicional para tener acceso a la herramienta, como datos de banco o documentos de identidad.
Además, se exigirá al creador una muestra con texto para verificar los derechos de autor de la voz. También eliminarán por completo Voice Lab, espacio donde los profesionales de la voz pueden mejorar, perfeccionar y ampliar técnicas y conocimientos, y comprobarán manualmente cada solicitud de clonación de audio.
ElevenLab cuenta con dos herramientas que permiten clonar la voz; una de ellas es Instant Voice Cloning, que se encuentra dentro de Voice Lab, y para funcionar solo necesita una muestra de audio corto; y otra es Professional Voice Cloning que, para clonar la voz, pide varios audios de la persona a la que se busca duplicar la voz para dar una mejor calidad de reproducción.
No es la primera vez que las aplicaciones que generan contenido falso o deepfake han causado alarma por su grado de realismo. Al punto de no saber si el contenido fue creado por una persona real o una máquina.
