La Ley de Inteligencia Artificial (IA) de la Unión Europea entró en vigor el pasado 1 de agosto de 2024. Sin embargo, no fue hasta los últimos días que la Comisión Europea publicó un comunicado detallando los usos y prácticas prohibidas relacionados con esta tecnología.
Esta normativa busca garantizar una aplicación segura y ética de la IA, estableciendo categorías de riesgo que regulan su implementación. ¿Con qué se come esto?
Cuatro niveles de riesgo para los sistemas según la Ley de IA
La regulación europea define cuatro niveles de riesgo para los sistemas de IA, que van desde el riesgo mínimo hasta el riesgo inaceptable. Este último abarca actividades que se consideran una amenaza para la seguridad y los derechos fundamentales de las personas. Entre las prácticas prohibidas se incluyen:
- Puntuación social basada en el comportamiento de las personas: Crear perfiles de riesgo mediante el monitoreo de acciones individuales.
- Manipulación subliminal o engañosa: Sistemas de IA capaces de influir en las decisiones de los usuarios sin su consentimiento claro.
- Explotación de vulnerabilidades: IA que aprovecha condiciones como edad, discapacidad o nivel socioeconómico.
- Predicción de crímenes basados en la apariencia: Intentos de predecir actividades delictivas utilizando características físicas.
- Inferencia de características personales: Uso de la biometría para determinar aspectos como orientación sexual.
- Recolecta de datos biométricos en sitios públicos: Recopilación en tiempo real para seguridad policial sin una justificación clara.
- Registro e inferencia de emociones: Aplicaciones en entornos laborales o académicos.
- Ampliación de bases de datos de reconocimiento facial: Recolección de imágenes sin el consentimiento de los individuos.
Excepciones permitidas por la Ley de IA
Aunque la Ley de IA impone estrictas restricciones, existen excepciones. Las agencias de seguridad pueden utilizar ciertos sistemas de recolección de datos biométricos si estos contribuyen a la localización de víctimas de secuestros o ayudan a prevenir amenazas inminentes. Por ejemplo, en Madrid se ha implementado recientemente una tecnología que cumple con estos criterios, demostrando la aplicabilidad de estas excepciones.
Sanciones para las empresas que incumplan la normativa
Las empresas que violen las disposiciones de la Ley de IA enfrentarán sanciones severas. Las multas pueden alcanzar los 35 millones de euros o el 7% de los ingresos anuales del ejercicio fiscal anterior, eligiendo la cifra más alta. Esta regulación aplica a cualquier compañía, sin importar su ubicación geográfica.
En septiembre de 2023, 100 empresas, incluidas Amazon, Google y OpenAI, firmaron el Pacto de IA de la Unión Europea. Este acuerdo voluntario promueve la identificación de sistemas de alto riesgo y la implementación de los principios establecidos en la Ley de IA.
Autoridades regulatorias y su papel en el mercado
Los países de la Unión Europea tienen hasta el 2 de agosto de 2025 para designar las autoridades que supervisarán el mercado y garantizarán el cumplimiento de la normativa. La designación de estas entidades es clave para asegurar una aplicación efectiva de las reglas establecidas por la Ley de IA.
Aunque se prevé que el impacto sea mínimo en los sistemas de alto riesgo, el marco regulatorio completo, que también incluye la Ley de Mercados Digitales (DMA), podría limitar el acceso a los últimos avances en IA dentro de la Unión Europea. Este escenario plantea dudas sobre la competitividad de Europa en el sector tecnológico a nivel global.
