• Las propuestas están enfocadas en mejorar la seguridad de los usuarios ante el avance de la IA | Foto principal: iStock.

La Unión Europea (UE) avanza en su labor para implementar la que se prevé será la primera regulación contundente de la inteligencia artificial (IA). 

El proceso, que comenzó en mayo de 2022, se encuentra actualmente en su fase final y tiene un enfoque que propone categorizar los sistemas de IA en tres niveles de rendimiento distintos, a los cuales se les aplicarán restricciones adecuadas según su alcance.

De acuerdo con un análisis de Bloomberg, un borrador de la llamada AI Act define tres categorías de sistemas de IA. En primer lugar, se encuentran los modelos fundacionales, como el GPT-4 o PaLM 2, que sirven como base para la mayoría de las aplicaciones prácticas. 

Leer más  ¿Qué hacer en Caracas durante las primeras dos semanas de marzo?

La segunda categoría abarca los sistemas “altamente capaces”, los cuales se distinguen por la potencia de procesamiento utilizada en su entrenamiento. Finalmente, la tercera categoría engloba los sistemas de propósito general, como ChatGPT, y se evalúa su influencia en función del número de usuarios.

Creadores de inteligencia artificial llegaron a un acuerdo con la Casa Blanca sobre el uso de estas herramientas: ¿en qué consiste?
Empresas cada vez invierten más en seguridad informática ante la exposición y riesgo de datos sensibles. Foto: iStock.

La propuesta de la Unión Europea fue respaldada por los representantes de las tres instituciones que la conforman en una reunión celebrada el 16 de octubre. 

Según Bloomberg, anteriormente se había discutido un proyecto regulador basado en el riesgo asociado a estas soluciones. 

¿Qué establecen las propuestas?

En el caso de los modelos fundacionales, los desarrolladores de IA deberán documentar tanto el modelo como su proceso de entrenamiento antes de su publicación. 

Leer más  Dejaron sin efecto resolución que impondría impuesto al servicio de delivery: lo que se sabe 

Para esto, detalla el análisis, será necesario analizar la seguridad para prevenir comportamientos indebidos y se deberá gestionar adecuadamente los posibles conflictos de derechos de autor. Estos modelos se caracterizan por su capacidad de “realizar de forma competente un amplio rango de tareas diferentes”.

En segundo lugar, los modelos fundacionales “altamente capaces” estarán sujetos a evaluaciones más rigurosas. Expertos externos designados por la nueva AI Office de la UE llevarán a cabo pruebas de seguridad en la que se realizarán comprobaciones periódicas para garantizar el cumplimiento de las normas y la transparencia. 

Leer más  Presidente de Paraguay: “Venezuela merece tener unas elecciones con todos los candidatos”

En el caso de los sistemas IA de escala y propósito general, también se realizarán análisis de seguridad externos y se requerirá la creación de un informe de riesgos y medidas para mitigarlos. 

Estos sistemas se clasificarán en función del número de usuarios, considerándose parte de esta categoría si superan los 10 mil usuarios empresariales o los 45 millones de usuarios registrados. Sin embargo, la AI Office tendrá la facultad de incluir otros sistemas en esta categoría cuando puedan plantear riesgos, incluso si no se alcanzan esos umbrales. 

Foto referencial: iStock.

El incumplimiento llevaría a la suspensión del modelo

Las medidas específicas para el incumplimiento no están detalladas en el borrador, pero la AI Office recopilará documentación, llevará a cabo pruebas de cumplimiento, creará un registro de expertos en seguridad y realizará investigaciones. 

Leer más  #TeExplicamosElDía | Jueves 29 de febrero

En última instancia, si se detecta un incumplimiento, se podrá recurrir a la suspensión del modelo, como medida extrema. Esto ya ha ocurrido en el pasado, como en el caso de la prohibición temporal del uso de ChatGPT en Italia luego de las polémicas que señalaron a su empresa creadora Open AI sobre la propiedad intelectual de los contenidos que genera el chatbot.

Medios locales detallaron que se espera que la regulación se lleve a un debate durante las próximas semanas, aunque su redacción final no se completará hasta finales de año.

Noticias relacionadas