La Unión Europea ha alcanzado un acuerdo histórico para establecer las primeras regulaciones que limitan los riesgos asociados con la Inteligencia Artificial (IA). Estas regulaciones, que se espera entren en vigor a partir de 2026, representan un hito importante en la regulación de la IA a nivel internacional. El acuerdo se logró después de más de 35 horas de negociaciones entre el Parlamento Europeo, la Comisión Europea y los gobiernos de la UE.
La regulación se basa en un enfoque de gestión de riesgos y establece restricciones en función del nivel de riesgo de las aplicaciones de IA. Prohíbe el uso de sistemas de IA en casos de riesgo «inasumible», como la categorización biométrica, la creación de bases de datos de reconocimiento facial, el reconocimiento de emociones, sistemas de puntuación social o sistemas de manipulación del comportamiento.
Sin embargo, se hacen excepciones para el uso de sistemas de vigilancia biométrica en espacios públicos, siempre que exista una orden judicial previa y para ciertos delitos específicos. La supervisión biométrica en tiempo real estará sujeta a restricciones de tiempo y ubicación y solo se permitirá en casos de búsqueda de víctimas de secuestro, trata o explotación sexual, amenazas terroristas específicas y para identificar a sospechosos de delitos definidos en la normativa.
La regulación también establece categorías de alto riesgo para sistemas de IA con un impacto significativo en la salud, seguridad, derechos fundamentales, medio ambiente y Estado de derecho. Se otorga a los ciudadanos el derecho a presentar quejas y recibir explicaciones sobre decisiones basadas en sistemas de IA de alto riesgo que afecten a sus derechos.
Además, se prevén sanciones para los infractores que van desde 35 millones de euros o el 7 por ciento del volumen de negocio global hasta 7,5 millones, dependiendo del tamaño de la empresa. El objetivo de estas regulaciones es establecer estándares de seguridad y protección de derechos fundamentales en el uso de la IA, sin que esto resulte en una excesiva regulación que afecte la competitividad de la Unión Europea.