La inteligencia artificial (IA) ha transformado múltiples aspectos de la vida cotidiana, desde la toma de decisiones automatizadas en servicios públicos hasta el análisis de grandes volúmenes de datos en el sector privado.
Sin embargo, su avance plantea desafíos éticos y jurídicos que pueden afectar derechos fundamentales, la estabilidad democrática y el Estado de derecho.
Para abordar estos desafíos, en mayo del año pasado - y después de casi dos años de complejas negociaciones internacionales - el Consejo de Europa adoptó la Convención Marco sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho, con el propósito de regular el uso de la IA bajo un marco común de derechos humanos y principios democráticos.
Se trata del primer tratado internacional jurídicamente vinculante sull'IA, en el que han participado no solamente países europeos, sino muchos otros extra-UE como Argentina, Costa Rica, Méjico, Israel y Estados Unidos.
Esta Convención, que se alinea perfectamente con las disposiciones de la Ley europea de IA, establece obligaciones para los países firmantes, exigiendo que adopten medidas legislativas y administrativas para garantizar que los sistemas de IA sean utilizados de manera transparente, responsable y conforme a los valores democráticos (como lo dispone el artículo 1).
El Convenio ha sido finalmente firmado por la Comisión europea en nombre de la UE en septiembre de 2024 (y, en esa misma fecha, también por EEUU, Inglaterra y Andorra, ente otros), y aún más recientemente, por Japón en febrero de 2025 y por Suiza en marzo de 2025.
De todos modos, se espera que otros países, incluidos aquellos que no han participado en la negociación de la misma, se adhieran a la Convención, con el auspicio de que se convierta en el primer Convenio sobre la IA de alcance mundial.
DISPOSICIONES CLAVE DEL CONVENIO
Definición y alcance de los sistemas de IA:
el Convenio proporciona una definición precisa de los "sistemas de IA", estableciendo que se trata de sistemas basados en máquinas que generan predicciones, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales (art.2).
Asimismo, delimita su ámbito de aplicación a todas las actividades relacionadas con el desarrollo, implementación y uso de la IA que puedan afectar los derechos humanos, la democracia o el Estado de derecho (art.3). Esto incluye el uso de IA tanto por parte de autoridades públicas como de entidades privadas, especialmente cuando sus decisiones afectan a los ciudadanos.
La protección de los derechos humanos y la democracia:
un punto fundamental del Convenio es la exigencia de que los sistemas de IA respeten los derechos fundamentales y la dignidad humana (art.4). Para ello, los Estados deben garantizar que la IA no sea utilizada de manera que discrimine, limite derechos o afecte la privacidad de las personas.
Además, se pone énfasis en la protección de los procesos democráticos, prohibiendo el uso de IA para manipular la opinión pública, influir en elecciones o desinformar a la ciudadanía (art.5).
Los principios generales para el uso responsable de la IA:
el Convenio establece que el desarrollo y uso de la IA ha de ser guiado por los siguientes principios fundamentales:
- respeto de la dignidad y de la autonomía de las personas: los sistemas de IA no deben socavar la autonomía individual ni tomar decisiones sin supervisión humana adecuada (art.7);
- la transparencia: es fundamental que los ciudadanos sepan cuándo están interactuando con la IA y puedan entender cómo se toman decisiones automatizadas (art.8);
- la rendición de cuentas y responsabilidad: los gobiernos y empresas que utilicen IA deben ser responsables de los efectos negativos que sus sistemas puedan tener respecto de los derechos humanos, la democracia y el estado de derecho (art.9);
- la igualdad y la no discriminación: se deben adoptar medidas para evitar sesgos en los algoritmos que puedan discriminar a ciertos grupos sociales o géneros (art.10);
- la protección de datos y privacy: los sistemas de IA deben cumplir con estándares de seguridad en el tratamiento de datos personales (art.11).
La protección legal para los ciudadanos:
para garantizar que los ciudadanos puedan defenderse ante decisiones erróneas o injustas tomadas por IA, la Convención establece que deben existir mecanismos de reclamación y acceso a la justicia (art.14).
Además, se exige que las personas tengan derecho a:
- ser informadas de modo adecuado y suficiente sobre cómo funciona la IA cuando sus decisiones afecten sus derechos;
- que se adopten garantías y mecanismos efectivos de protección toda vez que el uso de un sistema de IA pueda tener un impacto significativo en los derechos humanos;
- impugnar decisiones automatizadas que puedan perjudicarlas.
La evaluación y mitigación de riesgos:
los Estados adherentes al Convenio deben adoptar estrategias de gestión de riesgos para identificar y reducir posibles impactos negativos de la IA sobre los derechos humanos (art.16). Para ello, se prevé que:
- los sistemas de IA sean evaluados antes de su implementación, asegurando que no representen un riesgo significativo;
- se establezcan auditorías periódicas para garantizar que la IA siga funcionando de acuerdo con las normas establecidas;
- se prohíban ciertos usos de la IA si se considera que atentan contra los valores democráticos o la seguridad de las personas.
Cooperación internacional:
el principio de cooperación que inspira este Convenio internacional se refleja de manera clara a lo largo de su redacción. En este sentido, el artículo 23 prevé la posibilidad de celebrar reuniones entre los países partes de la Convención (art. 23 - “Conference of the Parties”), las cuales podrán ser convocadas por el Secretario General del Consejo de Europa siempre que lo considere necesario o, en todo caso, cuando así lo requieran la mayoría de los países miembros. Además, el artículo 25 establece de modo expreso la obligación de los Estados firmantes de cooperar para alcanzar los objetivos de la Convención, intercambiando información útil y colaborando para prevenir los riesgos ligados al uso de la IA.
Incluso, a fin de que el Convenio alcance la mayor aplicación posible, en el mismo artículo también se invita a los Estados miembros a promover su adhesión por partes de países no firmantes, pudiendo compartir con ellos toda la información necesaria a tal fin.
En definitiva, el Convenio Marco sobre Inteligencia Artificial del Consejo de Europa representa un hito en la regulación global de la IA.
Al establecer principios claros y exigencias legales, busca garantizar un desarrollo tecnológico alineado con los derechos humanos y valores democráticos, al fin de aprovechar el potencial de la IA sin comprometer los valores fundamentales de la sociedad, y responsabilizando los países de todo el mundo para que se comprometan con este objetivo.