Email
- Philip Agre, un informático convertido en profesor de humanidades, fue profético sobre muchas de las formas en que la tecnología afectaría al mundo
Esta nota es una traducción hecha por El Diario de la nota He predicted the dark side of the Internet 30 years ago. Why did no one listen?, original de The Washington Post.
En 1994, antes de que la mayoría de los estadounidenses tuvieran una dirección de correo electrónico o acceso a Internet o incluso una computadora personal, Philip Agre previó que las computadoras algún día facilitarían la recopilación masiva de datos sobre todo en la sociedad.
Ese proceso cambiaría y simplificaría el comportamiento humano, escribió el entonces profesor de humanidades de UCLA. Y debido a que esos datos no serían recopilados por un solo gobierno poderoso y poderoso, sino por muchas entidades para muchos propósitos diferentes, predijo que la gente voluntariamente compartiría cantidades masivas de información sobre sus miedos y deseos más personales.
Casi 30 años después, el artículo de Agre parece inquietantemente profético, una visión sorprendente de un futuro que ha llegado a pasar en la forma de un complejo industrial de datos que no conoce fronteras y pocas leyes. Los datos recopilados por diferentes redes publicitarias y aplicaciones móviles para una miríada de propósitos se están utilizando para influir en las elecciones o, en al menos un caso, para sacar a un sacerdote gay . Pero Agre no se detuvo allí. Él previó el uso indebido autoritario de la tecnología de reconocimiento facial, predijo nuestra incapacidad para resistir la desinformación bien elaborada y predijo que la inteligencia artificial se utilizaría en la oscuridad si no se la somete a una investigación moral y filosófica.
Entonces, nadie escuchó. Ahora, muchos de los excolegas y amigos de Agre dicen que han estado pensando más en él en los últimos años y releyendo su trabajo, a medida que los escollos del crecimiento explosivo y descontrolado de Internet han salido a la luz, erosionando la democracia y ayudando a facilitar un levantamiento violento. en los escalones del Capitolio de los Estados Unidos en enero.
“Estamos viviendo las secuelas de ignorar a personas como Phil”, dijo Marc Rotenberg, quien editó un libro con Agre en 1998 sobre tecnología y privacidad, y ahora es fundador y director ejecutivo del Center for AI and Digital Policy.
Charlotte Lee, quien estudió con Agre como estudiante de posgrado en UCLA, y ahora es profesora de diseño e ingeniería centrados en el ser humano en la Universidad de Washington, dijo que todavía está estudiando su trabajo y aprendiendo de él hoy. Ella dijo que desearía que él estuviera cerca para ayudarla a entenderlo aún mejor.
Pero Agre no está disponible. En 2009, simplemente abandonó la faz de la tierra, abandonando su puesto en UCLA. Cuando los amigos informaron de la desaparición de Agre, la policía lo localizó y confirmó que estaba bien, pero Agre nunca regresó al debate público. Sus amigos más cercanos se negaron a discutir más detalles de su desaparición, citando respeto por la privacidad de Agre.
En cambio, muchas de las ideas y conclusiones que Agre exploró en su investigación académica y sus escritos están surgiendo recientemente en los think tanks y organizaciones sin fines de lucro enfocadas en responsabilizar a las empresas de tecnología.
“Veo que las cosas sobre las que Phil escribió en los años 90 se dicen hoy como si fueran nuevas ideas”, dijo Christine Borgman, profesora de estudios de la información en UCLA que ayudó a reclutar a Agre para su cátedra en la escuela.
The Washington Post envió un mensaje a la última dirección de correo electrónico conocida de Agre. Rebotó. Los intentos de ponerse en contacto con su hermana y otros miembros de la familia fueron infructuosos. Una docena de antiguos colegas y amigos no tenían idea de dónde vive Agre hoy. Algunos dijeron que, hace unos años, vivía en algún lugar de Los Ángeles.
Agre fue un niño prodigio de las matemáticas que se convirtió en un popular bloguero y colaborador de Wired. Ahora ha sido casi olvidado en los círculos tecnológicos convencionales. Pero su trabajo todavía es citado regularmente por investigadores de tecnología en el mundo académico y se considera una lectura fundamental en el campo de la informática social o el estudio de los efectos de las computadoras en la sociedad.
Agre obtuvo su doctorado en el MIT en 1989, el mismo año en que se inventó la World Wide Web. En ese momento, incluso entre los capitalistas de riesgo de Silicon Valley que apuestan por el auge de las computadoras, pocas personas previeron cuán profunda y rápidamente la informatización de todo cambiaría la vida, la economía o incluso la política.
Un pequeño grupo de académicos, incluido Agre, observó que los informáticos veían su trabajo en un vacío en gran medida desconectado del mundo que lo rodeaba. Al mismo tiempo, las personas fuera de ese mundo carecían de un conocimiento lo suficientemente profundo de la tecnología o de cómo estaba a punto de cambiar sus vidas.
A principios de la década de 1990, Agre llegó a creer que el campo de la inteligencia artificial se había descarriado y que la falta de críticas a la profesión era una de las principales razones. En esos primeros días de la inteligencia artificial, la mayoría de las personas en IA se centraban en problemas matemáticos complejos destinados a automatizar las tareas humanas, con un éxito limitado. Sin embargo, la industria describió el código que estaban escribiendo como “inteligente”, dándole atributos humanos que en realidad no existían.
Su punto de referencia un ensayo de 1997 llamado “lecciones aprendidas en tratar de reformar La Inteligencia Artificial” está todavía en gran parte considerado un clásico, dijo Geoffrey Bowker, emérito profesor de informática de la Universidad de California en Irvine. Agre notó que quienes construían inteligencia artificial ignoraban las críticas de los forasteros a la tecnología. Pero Agre argumentó que las críticas deberían ser parte del proceso de construcción de IA. “La conclusión es bastante brillante y nos ha tomado como campo muchos años para entender. Un pie plantado en la artesanía en diseño y el otro pie plantado en una crítica ”, dijo Bowker.
Sin embargo, la IA ha avanzado sin obstáculos, entrelazándose incluso en industrias de “baja tecnología” y afectando las vidas de la mayoría de las personas que utilizan Internet. Orienta a las personas sobre qué ver y leer en YouTube y Facebook, determina sentencias para delincuentes condenados, permite a las empresas automatizar y eliminar puestos de trabajo, y permite a los regímenes autoritarios monitorear a los ciudadanos con mayor eficiencia y frustrar los intentos de democracia.
La IA actual, que ha abandonado en gran medida el tipo de trabajo que Agre y otros hacían en los años 80 y 90, se centra en ingerir cantidades masivas de datos y analizarlos con las computadoras más potentes del mundo. Pero a medida que la nueva forma de IA ha progresado, ha creado problemas, que van desde la discriminación hasta filtrar burbujas y la propagación de la desinformación, y algunos académicos dicen que eso se debe en parte a que sufre de la misma falta de autocrítica que Agre identificó hace 30 años.
En diciembre, el despido de Google del científico investigador de inteligencia artificial Timnit Gebru después de que ella escribiera un artículo sobre los problemas éticos que enfrentan los esfuerzos de inteligencia artificial de Google destacó la tensión continua sobre la ética de la inteligencia artificial y la aversión de la industria a las críticas.
Agre creció en Maryland, donde dijo que fue “construido para ser un prodigio de las matemáticas” por un psicólogo de la región. Dijo en su artículo de 1997 que la integración escolar llevó a la búsqueda de estudiantes dotados y talentosos. Agre luego se enojó con sus padres por enviarlo a la universidad temprano y su relación con ellos se deterioró como resultado, según un amigo, quien habló bajo condición de anonimato porque Agre no le dio permiso para hablar sobre su vida personal.
La historia continúa debajo del anuncio.
Agre escribió que cuando ingresó a la universidad, no se le exigió que aprendiera mucho más que matemáticas y “llegó a la escuela de posgrado en el MIT con pocos conocimientos genuinos más allá de las matemáticas y las computadoras”. Se tomó un año fuera de la escuela de posgrado para viajar y leer, “tratando de manera indiscriminada y con mis propios recursos, de convertirme en una persona educada”, escribió.
Agre comenzó a rebelarse, en cierto sentido, de su profesión, buscando críticos de la inteligencia artificial, estudiando filosofía y otras disciplinas académicas. Al principio, los textos le parecieron u0022impenetrablesu0022, escribió, porque había entrenado su mente para analizar todo lo que leía como lo haría con un artículo técnico sobre matemáticas o informática. “Finalmente se me ocurrió dejar de traducir estos extraños lenguajes disciplinarios a esquemas técnicos y, en cambio, simplemente aprenderlos en sus propios términos”, escribió.
El floreciente interés intelectual de Agre lo alejó de la informática y lo transformó en algo inusual en ese momento: un matemático brillante con un profundo conocimiento de las teorías más avanzadas en inteligencia artificial, que también podía salir de ese ámbito y mirarlo críticamente desde la perspectiva de un forastero.
Por esta razón, Agre se convirtió en un académico solicitado. Varios ex colegas contaron historias sobre el insaciable apetito de Agre por los libros de todo el panorama académico y popular, amontonados en su oficina o en la biblioteca. Se hizo conocido por su pensamiento original, impulsado por su curiosidad generalizada.
“Era una persona muy enriquecedora con la que pensar, alguien con quien querrías comer en cada oportunidad”, dijo Borgman.
Agre combinó su comprensión de las humanidades y la tecnología para analizar el impacto que la tecnología tendría en la sociedad a medida que avanzaba. Hoy en día, muchos de sus análisis se leen como si las predicciones se hicieran realidad.
En un artículo de 1994 , publicado un año antes de los lanzamientos de Yahoo, Amazon y eBay, Agre previó que las computadoras podrían facilitar la recopilación masiva de datos sobre todo en la sociedad, y que la gente pasaría por alto las preocupaciones sobre la privacidad porque, en lugar de “hermano mayor” recolectando datos para vigilar a los ciudadanos, serían muchas entidades diferentes recolectando los datos para muchos propósitos, algunos buenos y otros problemáticos.
Sin embargo, de manera más profunda, Agre escribió en el artículo que la recopilación masiva de datos cambiaría y simplificaría el comportamiento humano para facilitar su cuantificación. Eso ha sucedido en una escala que pocas personas podrían haber imaginado, ya que las redes sociales y otras redes en línea han acorralado las interacciones humanas en métricas fácilmente cuantificables, como ser amigos o no, gustar o no, un seguidor o alguien a quien se sigue. Y los datos generados por esas interacciones se han utilizado para moldear aún más el comportamiento, dirigiendo mensajes destinados a manipular psicológicamente a las personas.
En 2001, escribió que “ tu cara no es un código de barras ”, argumentando en contra del uso del reconocimiento facial en lugares públicos. En el artículo, predijo que, si la tecnología continuaba desarrollándose en Occidente, eventualmente sería adoptada en otros lugares, permitiendo, por ejemplo, que el gobierno chino rastreara a todos dentro de su país dentro de 20 años.
Veinte años después, existe un debate furioso en los Estados Unidos sobre el uso de la tecnología de reconocimiento facial por parte de los funcionarios encargados de hacer cumplir la ley y de inmigración, y algunos estados han comenzado a prohibir la tecnología en lugares públicos. A pesar de las protestas, puede que sea demasiado tarde para frenar la proliferación de la tecnología. China, como predijo Agre, ya ha comenzado a emplearlo a escala masiva, lo que permite un nivel de vigilancia sin precedentes por parte del Partido Comunista.
Agre llevó su trabajo a la corriente principal con una lista de correo de Internet llamada Red Rock Eater News Service, que lleva el nombre de una broma en el “Libro de acertijos” de Bennett Cerf. Se considera un ejemplo temprano de lo que eventualmente se convertiría en blogs.
Agre también se sintió, en ocasiones, profundamente frustrado por las limitaciones de su trabajo, que estaba tan adelantado a su tiempo que fue desatendido hasta 25 años después. “Sintió que la gente no entendía lo que decía. Estaba escribiendo para una audiencia de ignorantes y los ignorantes eran incapaces de entender lo que estaba diciendo ”, dijo Bowker.
“Ciertamente estaba frustrado porque no hubo más aceptación. Pero las personas que están una generación por delante de sí mismas, siempre están una generación por delante de sí mismas ”, dijo Borgman.
El proyecto final de Agre fue lo que amigos y colegas llamaron coloquialmente “La Biblia de Internet”, un libro definitivo que analizaría los cimientos de Internet desde cero. Pero nunca lo terminó.
Agre resurge de vez en cuando, según un ex colega, pero no se ha visto en años.
Hace varios años, ex colegas de UCLA intentaron reunir una colección de su trabajo, pero Agre resurgió y les dijo que se detuvieran.
El trabajo de toda la vida de Agre quedó incompleto, las preguntas planteadas pero sin respuesta. John Seberger, un becario postdoctoral en el Departamento de Informática de la Universidad de Indiana que ha estudiado extensamente el trabajo de Agre, dijo que eso no es necesariamente algo malo.
Seberger dijo que el trabajo de Agre ofrece una forma de pensar sobre los problemas que enfrenta una sociedad cada vez más digital. Pero hoy, más de una década después de la desaparición de Agre, los problemas se comprenden más claramente y hay más gente que los estudia.
“Especialmente ahora mismo, cuando nos enfrentamos a un profundo malestar social, la posibilidad de involucrar a grupos más diversos de académicos para responder estas preguntas que dejó sin respuesta solo puede beneficiarnos”, dijo.
