A inteligência artificial (IA) tem vindo a transformar diversos aspetos da vida quotidiana, desde a tomada de decisões automatizadas nos serviços públicos até à análise de grandes volumes de dados no setor privado.
Contudo, o seu avanço levanta desafios éticos e jurídicos que podem afetar os direitos fundamentais, a estabilidade democrática e o Estado de direito.
Para enfrentar estes desafios, em maio de 2024 – após quase dois anos de complexas negociações internacionais – o Conselho da Europa adotou a Convenção-Quadro sobre Inteligência Artificial, Direitos Humanos, Democracia e Estado de Direito, com o objetivo de regulamentar a utilização da IA num quadro comum de direitos humanos e princípios democráticos.
Trata-se do primeiro tratado internacional juridicamente vinculativo sobre a IA, no qual participaram não apenas países europeus, mas também muitos outros fora da UE, como Argentina, Costa Rica, México, Israel e Estados Unidos.
Esta Convenção, que se alinha com as disposições da Lei Europeia da IA, estabelece obrigações para os países signatários, exigindo que adotem medidas legislativas e administrativas para garantir que os sistemas de IA sejam utilizados de forma transparente, responsável e conforme os valores democráticos.
A Convenção foi assinada pela Comissão Europeia em nome da UE em setembro de 2024, e mais recentemente, pelo Japão em fevereiro de 2025 e pela Suíça em março de 2025.
Espera-se que outros países, incluindo aqueles que não participaram na negociação, adiram à Convenção, com a esperança de que se torne o primeiro tratado sobre IA de alcance mundial.
IMPACTO PARA CIDADÃOS E EMPRESAS PORTUGUESAS
Para cidadãos e empresas portuguesas a operar em Portugal, Espanha ou noutros países signatários, a Convenção implica a adoção de normas comuns na utilização da IA, assegurando a proteção dos direitos fundamentais e a transparência nos processos de decisão automatizados.
DISPOSIÇÕES-CHAVE DA CONVENÇÃO
Definição e âmbito dos sistemas de IA:
a Convenção fornece uma definição precisa dos "sistemas de IA", estabelecendo que se trata de sistemas baseados em máquinas que geram previsões, recomendações ou decisões que podem influenciar ambientes físicos ou virtuais (art.2).
Delimita ainda o seu âmbito de aplicação a todas as atividades relacionadas com o desenvolvimento, implementação e utilização da IA que possam influenciar os direitos humanos, a democracia ou o Estado de direito (art.3). Isto inclui o uso de IA tanto por parte das autoridades públicas como de entidades privadas, especialmente quando as suas decisões afetam os cidadãos.
A proteção dos direitos humanos e da democracia:
um ponto fundamental da Convenção é a obrigação de que os sistemas de IA respeitem os direitos fundamentais e a dignidade humana (art.4). Para tal, os Estados devem garantir que a IA não seja utilizada de forma discriminatória, limitando os direitos ou influenciando a privacidade das pessoas.
Além disso, é dada ênfase à proteção dos processos democráticos, proibindo a utilização da IA para manipular a opinião pública, influenciar eleições ou desinformar os cidadãos (art.5).
Os princípios gerais para a utilização responsável da IA:
a Convenção estabelece que o desenvolvimento e a utilização da IA devem ser orientados pelos seguintes princípios fundamentais:
- respeito pela dignidade e autonomia das pessoas: os sistemas de IA não devem comprometer a autonomia individual nem tomar decisões sem uma supervisão humana adequada (art.7);
- transparência: é essencial que os cidadãos saibam quando estão a interagir com a IA e possam compreender como são tomadas as decisões automatizadas (art.8);
- responsabilidade: os governos e as empresas que utilizam a IA devem ser responsáveis pelos efeitos negativos que os seus sistemas possam ter sobre os direitos humanos, a democracia e o Estado de direito (art.9);
- igualdade e não discriminação: devem ser adotadas medidas para evitar preconceitos nos algoritmos que possam discriminar determinados grupos sociais ou géneros (art.10);
- proteção de dados e privacidade: os sistemas de IA devem respeitar padrões de segurança no tratamento dos dados pessoais (art.11).
A proteção legal para os cidadãos:
para garantir que os cidadãos possam defender-se de decisões erradas ou injustas tomadas pela IA, a Convenção estabelece que devem existir mecanismos de reclamação e acesso à justiça (art.14).
Além disso, é exigido que as pessoas tenham o direito de:
- ser informadas de forma adequada e suficiente sobre como funciona a IA quando as suas decisões influenciam os seus direitos;
- que sejam adotadas garantias e mecanismos eficazes de proteção sempre que a utilização de um sistema de IA possa ter um impacto significativo sobre os direitos humanos;
- contestar decisões automatizadas que possam prejudicá-las.
A avaliação e mitigação dos riscos:
os Estados aderentes à Convenção devem adotar estratégias de gestão de riscos para identificar e reduzir os possíveis impactos negativos da IA sobre os direitos humanos (art.16). Para tal, prevê-se que:
- os sistemas de IA sejam avaliados antes da sua implementação, assegurando que não representam um risco significativo;
- sejam estabelecidas auditorias periódicas para garantir que a IA continua a funcionar de acordo com as normas estabelecidas;
- sejam proibidas certas utilizações da IA se se considerar que atentam contra os valores democráticos ou a segurança das pessoas.
Cooperação internacional:
o princípio de cooperação que inspira esta Convenção internacional reflete-se claramente na sua redação. Nesse sentido, prevê-se a possibilidade de realizar reuniões entre os países partes da Convenção (art.23 - "Conference of the Parties"), que podem ser convocadas pelo Secretário-Geral do Conselho da Europa sempre que o considere necessário ou, em qualquer caso, quando solicitado pela maioria dos países membros.
Além disso, estabelece-se expressamente a obrigação dos Estados signatários de cooperar para alcançar os objetivos da Convenção, trocando informações úteis e colaborando para prevenir os riscos relacionados com a utilização da IA.
Por fim, a fim de garantir a mais ampla aplicação possível da Convenção, convida-se também os Estados membros a promover a adesão por parte de países não signatários, podendo partilhar com eles todas as informações necessárias para esse fim.
Em suma, a Convenção-Quadro sobre Inteligência Artificial do Conselho da Europa representa um marco na regulamentação global da IA.
Ao estabelecer princípios claros e obrigações legais, visa garantir um desenvolvimento tecnológico alinhado com os direitos humanos e os valores democráticos, de modo a aproveitar o potencial da IA sem comprometer os valores fundamentais da sociedade, responsabilizando os países de todo o mundo a empenharem-se nesse objetivo.