El Consejo de Europa aprueba el primer convenio internacional sobre inteligencia artificial

El Consejo de Europa ha aprobado, El 17-5-2024, el Convenio Marco sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho,¹ que es el primer acuerdo internacional sobre esta materia, al que pueden adherirse también países no pertenecientes a la Unión Europea (UE).

El convenio:

• recoge un conjunto de principios y medidas para regular el desarrollo y uso de la inteligencia artificial, y
• se centra en la cooperación entre los Estados miembros para asegurar que la inteligencia artificial se utilice de manera ética y respetuosa con los derechos humanos.

Finalidad del convenio

Según recoge el propio convenio, su finalidad es:

• «asegurar que las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial sean plenamente coherentes con los derechos humanos, la democracia y el estado de derecho», y
• promover medidas encaminadas a ese fin y fomentar la confianza en estos sistemas y su aplicación ética.

Estructura y aspectos principales del convenio

Se estructura en ocho capítulos:

Capítulo 1: Disposiciones generales

Recoge:

• el objeto y finalidad del convenio,
• la definición de sistema de inteligencia artificial, y
• el ámbito de aplicación.

Capítulo 2: Obligaciones generales

Las principales obligaciones del convenio son:

• proteger los derechos humanos, y
• asegurar la integridad de los procesos democráticos y el respeto al estado de derecho.

Capítulo 3: Principios sobre las actividades del ciclo de vida de los sistemas de inteligencia artificial

Recoge este capítulo principios comunes que cada participante en el convenio deberá implantar en sus sistemas de inteligencia artificial, acordes con su sistema legal y las demás obligaciones del propio convenio.

Son muy parecidos a los de la propuesta del reglamento sobre inteligencia artificial:

• dignidad humana y autonomía individual,
• transparencia y supervisión,
• rendición de cuentas y responsabilidad,
• equidad y no discriminación,
• privacidad y protección de datos personales,
• confiabilidad, e
• innovación segura.

Capítulo 4: Recursos y medidas

Recalca la importancia de:

• proporcionar remedios efectivos ante violaciones de derechos humanos relacionadas con la inteligencia artificial,
• definir salvaguardas procedimentales para proteger los derechos de las personas afectadas por el uso de estos sistemas,
• asegurar que las personas que interactúen con sistemas de inteligencia artificial sean conscientes de ello y de que no lo hacen con un ser humano.

Capítulo 5: Evaluación y mitigación de riesgos e efectos adversos

Cada participante debe tomar medidas para:

• identificar, evaluar, prevenir y mitigar los riesgos asociados con estos sistemas, en particular cuando afecten a los derechos humanos, la democracia y el estado de derecho,
• asegurar que esas medidas sean graduadas y cumplan con requisitos como considerar la probabilidad y severidad de los posibles efectos, e
• incluir documentación sobre los riesgos, sus efectos y su estrategia de gestión.

Capítulo 6: Cumplimiento del convenio

Las disposiciones del convenio deben ejecutarse sin discriminación, con igualdad de trato y respetando los compromisos internacionales sobre derechos humanos.

Capítulo 7: Mecanismos de seguimiento y cooperación

Este capítulo regula:

• la celebración de una «conferencia de las partes», compuesta por los representantes de los participantes en el convenio, con los objetivos que debe cubrir y la obligación de rendir cuentas ante ella,
• la cooperación internacional, por lo que anima a las partes a asistir a los Estados no participantes para que actúen en coherencia con el convenio y se unan a él, y a intercambiar información relevante sobre la inteligencia artificial, y
• los mecanismos de supervisión efectiva del cumplimiento de las obligaciones del convenio.

Capítulo 8: Disposiciones finales

Recoge:

• los efectos del convenio,
• el procedimiento de enmiendas,
• la resolución de disputas,
• lo referente a la firma y entrada en vigor,
• la aplicación territorial y la cláusula referida a Estados federales,
• las reservas, la denuncia y las notificaciones.

Define, además, que si dos o más partes ya han suscrito un acuerdo o han regulado de otra manera las cuestiones tratadas en el convenio, tendrán derecho a aplicar ese acuerdo o a regular esas relaciones siempre que lo hagan de forma compatible con los fines del Convenio.

Por tanto, las partes pueden optar por:

• quedar obligadas directamente por las disposiciones del convenio, o
• aprobar otras medidas para cumplir con esas disposiciones.

Adhesión y entrada en vigor

Sigue la siguiente secuencia:

1. Pueden suscribir el convenio los Estados miembros del Consejo de Europa, de la UE y los no miembros que han participado en su redacción.
2. Los Estados que lo suscriban han de ratificar, aceptar o aprobar el convenio y depositar los instrumentos correspondientes ante el Secretario General del Consejo de Europa.
3. El convenio entrará en vigor el primer día del mes siguiente al vencimiento de un período de tres meses después de la fecha en la que al menos cinco Estados, de los que al menos tres sean miembros del Consejo de Europa, hayan expresado su consentimiento a quedar vinculados por el convenio.
4. Para cualquier otro Estado que se sume después, el convenio entrará en vigor el primer día del mes siguiente al vencimiento de un período de tres meses desde la fecha del depósito del instrumento en que lo ratifique, acepte o apruebe.

El convenio se abrirá a la firma en Lituania, durante la presidencia de este país en el Consejo de Europa, en septiembre de 2024.

Aplicación del convenio a Estados no miembros de la UE

El Comité de Inteligencia Artificial del Consejo de Europa ha redactado el convenio, con la participación de 46 Estados, miembros del Consejo de Europa o de la Unión Europea, y 11 no miembros de estos organismos: Argentina, Australia, Canadá, Costa Rica, Santa Sede, Israel, Japón, México, Perú, Estados Unidos y Uruguay.

El artículo 31.1 del convenio prevé que el Comité de Ministros del Consejo de Europa puede invitar a cualquier Estado no miembro del Consejo de Europa ni interviniente en la redacción a adherirse al convenio. Esta invitación requiere que el Comité consulte a las partes y obtenga su consentimiento unánime.