El Parlamento Europeo y el Consejo de la UE llegan a un acuerdo sobre el reglamento de inteligencia artificial

El Parlamento Europeo y el Consejo de la UE han alcanzado un acuerdo provisional sobre la primera «ley de inteligencia artificial», que se plasmará en un nuevo reglamento.

La Comisión Europea presentó una propuesta de reglamento sobre inteligencia artificial (IA) en abril de 2021, que fue una regulación pionera de este ámbito que puso a la Unión Europea como pionera en este campo.

Según ha trascendido, las negociaciones han estado influidas por las empresas tecnológicas y representantes de la sociedad civil.

Los asuntos que más discusión han generado han sido los sistemas de IA generativa, como ChatGPT, y los elementos de alta complejidad como el uso de datos biométricos (sistemas que analizan rasgos biológicos, como rasgos faciales, estructuras oculares y huellas dactilares, para determinar la identidad de una persona).

El proyecto recoge:

• determinadas prohibiciones, es decir, supuestos en los que bajo ninguna circunstancia se puede utilizar la IA, y
• ciertas obligaciones para los sistemas de IA en función de sus riesgos y sus niveles de impacto.

Resaltamos las primeras:

Prohibiciones del uso de la IA

Se centran, sobre todo, en el controvertido uso de sistemas de identificación biométricos.

Sistemas de IA prohibidos

El texto acordado recoge que quedan prohibidos los siguientes:

1. La categorización biométrica que utilicen características sensibles (por ejemplo, creencias políticas, religiosas, filosóficas, orientación sexual, raza).
2. La extracción no selectiva de imágenes faciales de internet o de grabaciones de circuitos cerrados de televisión para crear bases de datos de reconocimiento facial.
3. El reconocimiento de emociones en el lugar de trabajo y en instituciones educativas.
4. La puntuación social basada en el comportamiento social o las características personales.
5. La manipulación del comportamiento humano para eludir su libre albedrío.
6. La explotación de las vulnerabilidades de las personas debido a su edad, discapacidad o situación socioeconómica.

Excepciones de la prohibición

Como excepción de las prohibiciones anteriores, el proyecto permite el uso de sistemas de identificación biométrica en espacios de acceso público con fines policiales, previa autorización judicial y para una lista definida de delitos, como búsqueda de víctimas de secuestro, trata y explotación sexual, amenazas terroristas y otros delitos que detallará el reglamento.

Próximos pasos

El texto acordado pasará por la aprobación formal del Parlamento y del Consejo y entrará en vigor gradualmente a partir de 2024:

• A los 6 meses, entrará en vigor la prohibición de los sistemas de IA no permitidos  (probablemente en 2024).
• A los 12 meses, las obligaciones de los modelos de IA generativa como ChatGPT y similares (previsiblemente en el primer trimestre de 2025).

El texto completo será de aplicación práctica en 2026.