Email
- Las propuestas están enfocadas en mejorar la seguridad de los usuarios ante el avance de la IA | Foto principal: iStock.
La Unión Europea (UE) avanza en su labor para implementar la que se prevé será la primera regulación contundente de la inteligencia artificial (IA).
El proceso, que comenzó en mayo de 2022, se encuentra actualmente en su fase final y tiene un enfoque que propone categorizar los sistemas de IA en tres niveles de rendimiento distintos, a los cuales se les aplicarán restricciones adecuadas según su alcance.
De acuerdo con un análisis de Bloomberg, un borrador de la llamada AI Act define tres categorías de sistemas de IA. En primer lugar, se encuentran los modelos fundacionales, como el GPT-4 o PaLM 2, que sirven como base para la mayoría de las aplicaciones prácticas.
La segunda categoría abarca los sistemas “altamente capaces”, los cuales se distinguen por la potencia de procesamiento utilizada en su entrenamiento. Finalmente, la tercera categoría engloba los sistemas de propósito general, como ChatGPT, y se evalúa su influencia en función del número de usuarios.
La propuesta de la Unión Europea fue respaldada por los representantes de las tres instituciones que la conforman en una reunión celebrada el 16 de octubre.
Según Bloomberg, anteriormente se había discutido un proyecto regulador basado en el riesgo asociado a estas soluciones.
¿Qué establecen las propuestas?
En el caso de los modelos fundacionales, los desarrolladores de IA deberán documentar tanto el modelo como su proceso de entrenamiento antes de su publicación.
Para esto, detalla el análisis, será necesario analizar la seguridad para prevenir comportamientos indebidos y se deberá gestionar adecuadamente los posibles conflictos de derechos de autor. Estos modelos se caracterizan por su capacidad de “realizar de forma competente un amplio rango de tareas diferentes”.
En segundo lugar, los modelos fundacionales “altamente capaces” estarán sujetos a evaluaciones más rigurosas. Expertos externos designados por la nueva AI Office de la UE llevarán a cabo pruebas de seguridad en la que se realizarán comprobaciones periódicas para garantizar el cumplimiento de las normas y la transparencia.
En el caso de los sistemas IA de escala y propósito general, también se realizarán análisis de seguridad externos y se requerirá la creación de un informe de riesgos y medidas para mitigarlos.
Estos sistemas se clasificarán en función del número de usuarios, considerándose parte de esta categoría si superan los 10 mil usuarios empresariales o los 45 millones de usuarios registrados. Sin embargo, la AI Office tendrá la facultad de incluir otros sistemas en esta categoría cuando puedan plantear riesgos, incluso si no se alcanzan esos umbrales.
El incumplimiento llevaría a la suspensión del modelo
Las medidas específicas para el incumplimiento no están detalladas en el borrador, pero la AI Office recopilará documentación, llevará a cabo pruebas de cumplimiento, creará un registro de expertos en seguridad y realizará investigaciones.
En última instancia, si se detecta un incumplimiento, se podrá recurrir a la suspensión del modelo, como medida extrema. Esto ya ha ocurrido en el pasado, como en el caso de la prohibición temporal del uso de ChatGPT en Italia luego de las polémicas que señalaron a su empresa creadora Open AI sobre la propiedad intelectual de los contenidos que genera el chatbot.
Medios locales detallaron que se espera que la regulación se lleve a un debate durante las próximas semanas, aunque su redacción final no se completará hasta finales de año.
