Email
- Según los ensayos realizados con esta herramienta, el porcentaje de acierto es de 98,8 %. Foto principal: EFE/Wu Hao
La compañía OpenAI, creadora de la aplicación ChatGPT, desarrolló una herramienta que permite identificar cuando una imagen es generada por inteligencia artificial (IA), especialmente cuando son hechas a partir del sistema DALL-E.
La herramienta aún está en versión de prueba y, según los primeros ensayos realizados por la compañía, se puede llegar a un porcentaje de acierto del 98,8 % en la detección de imágenes generadas por inteligencia artificial.
OpenAI, cuyo presidente es Sam Altman, declaró que las primeras pruebas de esta aplicación se harán con un grupo cerrado de científicos, investigadores y organizaciones periodísticas sin fines de lucro.
De acuerdo con OpenAI, esta herramienta de detección de contenido generado por inteligencia artificial también será compatible con Sora, que es una aplicación de la misma empresa que genera videos a partir de descripciones textuales que ingresan los usuarios.
El auge de las deepfakes
En febrero de 2024, un total de 447 expertos de varios países en inteligencia artificial, seguridad en Internet, ética digital y política global firmaron un documento en donde exhortaron a los gobiernos de varias naciones del mundo a adoptar leyes que prevengan la propagación de deepfakes (imágenes o videos falsos hiperrealistas).
Los intelectuales que firmaron el acta provienen de naciones como México, Brasil, Venezuela, Estados Unidos, Canadá, el Reino Unido, Australia, Japón, Italia y China; y sostienen que las imágenes generadas por inteligencia artificial suponen un asunto de seguridad de los Estados.
“(Las deepfakes) son una amenaza creciente para la sociedad y que los gobiernos deben imponer obligaciones en toda la cadena de suministro para detener su proliferación”, denunciaron los signatarios del escrito.
Según los expertos, los aspectos principales a regular por parte de los países en cuanto al uso de la inteligencia artificial para crear deepfakes son los siguientes:
-Penalizar por completo el uso de esta tecnología para crear pornografía infantil.
-Establecer sanciones penales para los que usen estas herramientas para generar y difundir contenido desinformativo.
-Que las empresas que desarrollan estos programas impidan que los usuarios los utilicen para producir deepfakes.
Un estudio de la organización de seguridad en línea Home Security Heroes (Héroes de la seguridad en casa, por su traducción en inglés), reveló que la proliferación de imágenes y videos generados por la inteligencia artificial han aumentado en 550 % entre 2019 y 2023. Esta organización recolectó los datos para este escrito entre el 15 de julio y el 29 de agosto de 2023.
“En los últimos años, la tecnología deepfake ha aumentado a niveles sin precedentes. Lo que comenzó como un esfuerzo de nicho y técnicamente complejo se ha convertido rápidamente en un fenómeno generalizado. Sin embargo, a medida que la tecnología evoluciona, difumina drásticamente las líneas entre la creatividad y el engaño, dando forma a la realidad de maneras asombrosas pero preocupantes”, concluyó Home Security Heroes en su estudio.
