Email
- Una guía sobre la ética de las divertidas herramientas de IA
Esta es una traducción hecha por El Diario de la nota Your selfies are helping AI learn. You did not consent to this, original de The Washington Post.
Seguramente esa selfie que publicaste en Instagram cuando estabas borracho podría ser avergonzante. Ahora imagina que la selfie también sirve como combustible de entrenamiento para un sistema de inteligencia artificial (IA) que ayudaría a encarcelar a una persona inocente.
Bienvenido a la era de la inteligencia artificial. Lo que haces con tu cara, los videos de seguridad de tu hogar, tus palabras y las fotos de la exhibición de arte de tu amigo no se trata solo de ti. Sin tu consentimiento en la mayoría de los casos, la información que publicas online o que se publica sobre ti se utiliza para entrenar el software de IA. Estas tecnologías podrían permitir que un extraño te identifique a simple vista o crear arte personalizado a tu disposición.
Sea algo bueno o malo, estos sistemas de IA se están construyendo con partes de ti. ¿Cuáles son las reglas del camino ahora que le estás dando vida a la inteligencia artificial y no puedes imaginar los resultados?
Menciono esto porque muchas personas han estado probando tecnologías geniales de IA que se basan en toda la información que hemos puesto en el mundo.
Mi colega Tatum Hunter dedicó un tiempo a evaluar Lensa, una aplicación que transforma un puñado de selfies que proporcionas en retratos artísticos. Y la gente ha estado usando el nuevo chatbot ChatGPT para generar poemas tontos o correos electrónicos profesionales que parecen haber sido escritos por un humano. Estas tecnologías de IA podrían ser de gran ayuda, pero también conllevan un montón de cuestiones éticas.
Tatum informó que la magia de los retratos de Lensa proviene de los estilos de artistas cuyo trabajo se incluyó en una base de datos enorme para entrenar computadoras generadoras de imágenes. Los artistas no dieron su permiso y tampoco se les paga. En otras palabras, tus retratos divertidos se basan en trabajos copiados de artistas. ChatGPT aprendió a imitar a los humanos analizando sus recetas, publicaciones en redes sociales, reseñas de productos y otros textos de Internet.
Más allá de esas dos tecnologías, las fotos de tu fiesta de cumpleaños en Facebook ayudaron a entrenar el software de reconocimiento facial Clearview AI, que los departamentos de policía usan en investigaciones criminales.
Ser parte de la construcción colectiva de todos estos sistemas de IA puede parecerte injusto o increíble, pero es algo que está sucediendo.
Le pedí a algunos expertos en inteligencia artificial que me ayudaran a esbozar pautas para la nueva realidad de que cualquier cosa que publique podría ser combustible de datos de inteligencia artificial. La tecnología ha superado nuestra ética y nuestras leyes. Y no es justo ponerte en la posición de imaginar si tu tablero de Pinterest algún día podría usarse para enseñar robots asesinos de IA o dejar a tu hermana sin trabajo.
“Aunque es una buena práctica individual limitar el intercambio digital en cualquier caso en el que no sepas o no puedas conocer la vida futura de tus datos, hacerlo no tendrá un impacto importante en el uso indebido de datos por parte de empresas y gobiernos”, aseguró Emily Tucker, directora ejecutiva del Centro de Privacidad y Tecnología de la Universidad de Leyes de Georgetown. Tucker dijo que las personas deben organizarse para exigir regulaciones de privacidad y otras restricciones que impidan que nuestros datos se acumulen y se utilicen de formas que no podemos imaginar.
“Casi no tenemos protecciones legales de privacidad en este país (Estados Unidos), y las instituciones poderosas han estado explotando eso durante tanto tiempo que hemos comenzado a actuar como si fuera normal”, añadió Tucker. “No es normal, y no está bien”.
Mat Dryhurst y Holly Herndon, artistas en Berlín, ayudaron a establecer un proyecto para identificar el trabajo de los artistas o sus fotos de bases de datos populares utilizadas para entrenar sistemas de IA. Dryhurst me dijo que algunas organizaciones de inteligencia artificial, incluida LAION, la colección masiva de imágenes que se usa para generar retratos de Lensa, están ansiosas por que las personas marquen sus imágenes personales si quieren sacarlas de los conjuntos de datos de entrenamiento de la computadora. (El sitio web es Have I Been Trained).
Dryhurst dijo que está entusiasmado con el potencial de la IA para artistas como él. Pero también ha estado presionando por un modelo diferente de permiso para lo que pones en línea. Imagínate, dijo, si subes tu selfie a Instagram y tienes la opción de decir sí o no a la foto que se usaría para el futuro entrenamiento de IA.
Tal vez eso suene como una fantasía utópica. Te has acostumbrado a la sensación de que una vez que pones partes digitales de ti o de tus seres queridos en línea, pierdes el control de lo que sucederá con esa información. Dryhurst me dijo que con la IA disponible públicamente, como Dall-E y ChatGPT, que recibe mucha atención pero aún es imperfecta, este es un momento ideal para restablecer lo que debería ser el consentimiento personal real para la era de la IA. Y dijo que algunas organizaciones influyentes de IA también están abiertas a esa propuesta.
Hany Farid, profesor de ciencias de la computación en la Universidad de California en Berkeley, me dijo que las personas, los funcionarios gubernamentales, muchos ejecutivos de tecnología, periodistas y educadores como él están mucho más atentos que hace unos años a las posibles consecuencias positivas y negativas de tecnologías emergentes como la IA. La parte difícil, dijo, es saber qué hacer para limitar efectivamente los daños y maximizar los beneficios.
“Hemos expuesto los problemas”, dijo Farid. “No sabemos cómo arreglarlos”.
Para obtener más información, observa a Tatum discutir las implicaciones éticas de las imágenes de retratos de IA de Lensa:
A Lensa explainer you don’t even have to read! Critics say the app opens the door to sexual exploitation, theft from artists and racial inequity. pic.twitter.com/knYB5bUiuM
— Tatum Hunter (@Tatum_Hunter_) December 8, 2022
Una pequeña victoria
Tu iPhone guarda automáticamente en la nube de Apple copias de muchas cosas en tu memoria, incluidas fotos y chats grupales de iMessage. Apple comentó esta semana que comenzará a dar a los propietarios de iPhone la opción de cifrar completamente esas copias de seguridad de iCloud para que nadie más, incluido Apple, pueda acceder a tu información.
La tecnología de cifrado es controvertida porque oculta información tanto de los buenos como de los malos. El cifrado de extremo a extremo evita que los delincuentes husmeen en tus videollamadas o roben tus registros médicos guardados en la nube. Pero la tecnología también puede proteger la actividad de terroristas, abusadores de niños y otros delincuentes.
A partir de finales de este año, Apple te permitirá decidir por ti mismo si deseas cifrar las copias de seguridad guardadas desde tu iPhone. Si te preocupa la privacidad, puedes activar esta función ahora.
Primero, debes registrarte en el Programa de software beta de Apple, que te brinda acceso a las versiones de prueba de los próximos sistemas operativos de la compañía mientras Apple todavía está realizando pruebas. Después de registrarte, debes descargar e instalar el software de prueba en todos tus dispositivos Apple. A continuación, tendrás la opción de activar las copias de seguridad de iCloud totalmente cifradas.
Una desventaja: es posible que tengas contratiempos al usar un software operativo que no está listo para su lanzamiento en todos los iPhone o Mac.
