Elon Musk, creador de la compañía xAI, Dario Amodei de Anthropic y Sam Altman de OpenAI coincidieron en los últimos días en que se debe ralentizar el desarrollo de la inteligencia artificial (IA).
Los debates sobre el ritmo del desarrollo de la IA aumentaron tras un ensayo publicado por Amodei el 12 de septiembre en el que advierte que la tecnología avanza hacia una dinámica de “automejora recursiva” que amenaza con provocar catástrofes de ciberseguridad a escala global.
“Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”, dijo Amodei.
El 10 de septiembre, un investigador de IA que dejó Anthropic, Jacob Coxon, advirtió que los trabajadores en estas empresas estaban asustados por el destino de la humanidad en los próximos dos años ante el avance de esta tecnología.
“Si no reducimos el ritmo actual de progreso, existe una alta probabilidad de que todos muramos en un futuro inmediato”, señaló Coxon en declaraciones a BBC Mundo.
Propuestas para regular el desarrollo tecnológico
Amodei no solo alerta sobre los riesgos de un progreso desmedido, que podría provocar “bioterrorismo” y graves problemas económicos, sino que plantea un camino para avanzar con seguridad.
Entre sus propuestas destaca implementar una “evaluación incorporada” realizada por actores independientes para supervisar el desarrollo.
También defiende una “coordinación democrática” con las instituciones públicas y una “coordinación global” que una voluntades tanto de países democráticos como autoritarios. Enfatiza que, aunque estas medidas no serán fáciles, “le debemos a la humanidad intentarlo”.
Para atajar la amenaza de la IA, Amodei planteó una estrategia en tres fases orientada a regular el ritmo de la tecnología sin ceder la ventaja estratégica a países como China.
El directivo concluyó que ralentizar el avance aportaría uno o dos años cruciales para que la comunidad investigadora domine el alineamiento y la interpretabilidad de los modelos, garantizar un debate público adecuado y reducir el riesgo de que la tecnología escape al control de la sociedad.
La respuesta de los rivales de Anthropic
A propósito del escrito de Dario Amodei, Musk coincidió en esto con su rival en empresas de IA. “Dario tiene razón”, escribió en una publicación difundida en su red social, X, el sábado 12 de septiembre.
Por su parte, Altman coincidió con Amodei y agregó que se debe avanzar a “un ritmo adecuado en la frontera tecnológica”.
“Coincido con Dario en que debemos avanzar a un ritmo adecuado en la frontera tecnológica. Este ha sido un tema central en las conversaciones que hemos mantenido en OpenAI durante las últimas semanas”, dijo a través de su red social X.
Además, consideró que es una “excelente idea” la iniciativa de abrir las puertas a auditores externos. “Comprometerse a contar con evaluadores independientes que tengan un nivel de acceso similar al de los empleados es una excelente idea, y nosotros haremos lo mismo. Pronto tendremos más información que compartir”, agregó.
Reacción en el Congreso de EE UU sobre el debate de la IA
El domingo 13 de septiembre, el líder de los demócratas en la Cámara de Representantes de Estados Unidos, Hakeem Jeffries, pidió este domingo al Congreso “actuar con urgencia” para ralentizar la IA tras las alarmas de gigantes del sector, como Dario Amodei, Sam Altman y Elon Musk.
Jeffries adelantó que habrá una reunión con los demócratas de la Cámara Baja en la que “una prioridad importante será la acción en inteligencia artificial” después de las advertencias que desató el sábado Amodei, el fundador y director ejecutivo de Anthropic, sobre los crecientes riesgos de la IA.
“Estoy de acuerdo con mis colegas en que realmente debemos actuar con urgencia. Deberíamos tomar medidas decisivas ahora para, como los directores ejecutivos han reconocido recientemente, desacelerar el ritmo de desarrollo (de la tecnología) para proteger al pueblo estadounidense y garantizar que la IA proceda de manera segura”, declaró el congresista en una entrevista con el programa This week de ABC.
Jeffries no aclaró qué medidas específicas impulsaría, pero criticó la inacción de los republicanos, mientras el líder de la Cámara de Representantes, el republicano Mike Johnson, rechazó este domingo una moratoria de emergencia porque el desarrollo de la IA debe seguir para evitar que China tenga el liderazgo.
