El director ejecutivo y cofundador de Anthropic, Dario Amodei, reclamó este sábado 12 de septiembre una desaceleración en el ritmo al que se mejoran las capacidades de los modelos de inteligencia artificial (IA), tras advertir de que la tecnología avanza hacia una dinámica de “automejora recursiva” que amenaza con provocar catástrofes de ciberseguridad a escala global.
“Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”, advierte Amodei en un extenso ensayo publicado en su página web.
Amodei hizo referencia específica al incidente de los agentes fuera de control de OpenAI y Hugging Face, en el que un enjambre de agentes actuó “como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso, se sacrificaron por el éxito del grupo e intentaron hackear el sistema encargado de evaluar su rendimiento”, según reportó EFE.
Propuestas para regular el desarrollo tecnológico
Amodei no solo alerta sobre los riesgos de un progreso desmedido, que podría provocar “bioterrorismo” y graves problemas económicos, sino que plantea un camino para avanzar con seguridad. Entre sus propuestas destaca implementar una “evaluación incorporada” realizada por actores independientes para supervisar el desarrollo.
También defiende una “coordinación democrática” con las instituciones públicas y una “coordinación global” que una voluntades tanto de países democráticos como autoritarios. Enfatiza que, aunque estas medidas no serán fáciles, “le debemos a la humanidad intentarlo”.
