Press News & Events

IA, conformidade legal e governança digital

Friday, January 19, 2024 - 11:17
Publication
Jornal Económico (O)

Continuando a aumentar o uso profissional de sistemas de IA em todos os setores, é necessário abordar de forma compreensiva a adoção destes instrumentos tecnológicos.

Quando, em 2019, comecei a lecionar “Direito da Inteligência Artificial” no curso de licenciatura da Católica, a IA já estava omnipresente no nosso quotidiano, embora tal não fosse evidente para a generalidade das pessoas. Procurei desde o início sublinhar a centralidade da IA no processo de transformação digital e a sua aptidão para simultaneamente melhorar a qualidade de vida e colocar novos problemas com relevância jurídica.

IA, conformidade legal e governança digital - LBX_Janeiro 2024

Cinco anos mais tarde, sobretudo após a disseminação dos grandes modelos de linguagem (LLM) e dos grandes modelos multimodais (LMM), parecemos viver num mundo diferente. O desenvolvimento tecnológico é vertiginoso, a corrida às suas aplicações acentua-se e as iniciativas regulatórias sucedem-se.

Tudo indica que o Regulamento Europeu sobre IA (o AI Act) virá a ser aprovado e publicado entre março e abril, sendo aplicável dois anos depois, com exceção de algumas regras, cuja aplicação será antecipada (por exemplo, regras sobre usos proibidos da IA). Nos Estados Unidos, na China, no Reino Unido, no Brasil, em Singapura, novas iniciativas regulatórias estão em curso. No plano global, destaca-se o projeto de Tratado Internacional sobre IA, Direitos Humanos, Democracia e Estado de Direito, elaborado no âmbito do Conselho da Europa.

Para quem use profissionalmente sistemas de IA na Europa ou dirija as suas atividades para o mercado da UE, a conformidade com o panorama regulatório europeu será uma prioridade. Estão em causa potenciais ações de responsabilidade civil emergente de danos causados por estes sistemas, sanções de valor extraordinariamente elevado e possíveis danos reputacionais causados por efeitos indesejáveis da sua utilização.

Continuando a aumentar o uso profissional de sistemas de IA em todos os setores, é necessário abordar de forma compreensiva a adoção destes instrumentos tecnológicos. Todas as entidades, públicas ou privadas, devem incluir, nas suas estratégias, uma componente de conformidade legal digital (digital legal compliance) e planear a governação digital, especialmente pelo que respeita à IA (AI governance).

Estão em causa as regras e princípios do AI Act, e a sua articulação com o regime dos dados (RGPD, Regulamento Dados, Regulamento Governação dos Dados), com a disciplina dos mercados e serviços digitais (DMA, DSA), com a questão da cibersegurança (Regulamento Cibersegurança, Diretiva NIS2, Regulamento DORA, Diretiva REC), com a regulação da responsabilidade civil (futuras Diretivas sobre Responsabilidade por Produtos Defeituosos e sobre Responsabilidade Civil relativa a sistemas de IA), entre outras. Isto para não falar de regimes aplicáveis a setores específicos de atividade, como o da saúde ou o financeiro.

Se o uso destes sistemas é cada vez mais incontornável, a minimização do risco legal é condição para se ser bem-sucedido no mundo digital.


Luís Barreto Xavier, Professor Convidado da Universidade Católica Portuguesa e Consultor da Abreu Advogados