Entrevista/ “A evolução tecnológica está a ser mais rápida do que a capacidade dos humanos de a conterem dentro de limites aceitáveis”

“A adaptação do ecossistema empresarial português a esta nova realidade tecnológica e à correspondente conformidade regulatória é um processo difícil, que só pode ter sucesso através de um esforço dirigido transversalmente à literacia em IA e a uma cultura de inovação responsável”, afirma Luís Barreto Xavier, professor de Direito na Universidade Católica Portuguesa.

Uma semana depois da Comissão Europeia ter começado a aplicar as regras do Artificial Intelligence Act e os novos requisitos de transparência, Luís Barreto Xavier, professor da Faculdade de Direito da Universidade Católica Portuguesa, presidente do Instituto de Conhecimento da Abreu Advogados, e um dos coordenadores científicos do curso Direito e Prática da Inteligência Artificial (promovido pelo Católica Next), fala das  implicações da inteligência artificial e da regulação digital no setor empresarial e na vida dos cidadãos e dos desafios jurídicos e organizacionais que envolve.

Para já, diz, vê “com preocupação, a tendência de acentuação de desigualdades que o desenvolvimento não controlado das grandes empresas tecnológicas pode criar entre sociedades e entre indivíduos”.

Globalmente, que análise faz da atual regulação digital europeia, concretamente no que se trata do AI Act?

Sobretudo a partir de 2019, a União Europeia tem tentado criar um quadro regulatório para a sociedade e a economia digitais com o objetivo de proteger os cidadãos, num contexto de aceleradas transformações tecnológicas. Trata-se de um esforço meritório, apesar de naturalmente imperfeito. Dois dos principais problemas relacionam-se entre si: a complexidade normativa e o elevado custo de compliance. O AI Act representa um compromisso, culminando um intenso debate, entre a necessidade de proteção da saúde, da segurança e dos direitos fundamentais das pessoas, por um lado, e a conveniência de incentivar a inovação e o crescimento económico na União Europeia. Esta segunda vertente está mais presente no Regulamento que altera o AI Act, publicado em julho: o Regulamento Omnibus Digital em matéria de IA, que visou simplificar algumas das obrigações mais pesadas para as organizações.

“Desejo (…) que a necessidade de conformidade seja encarada como uma oportunidade para a transformação digital das organizações (…)”.

Quais as mudanças mais significativas que as alterações à regulação digital que a União Europeia está a implementar irão provocar no setor empresarial?

A regulação digital não é unitária, abarcando domínios tão diversos como a proteção e a transferência e disponibilização de dados, a inteligência artificial, a cibersegurança, os serviços e mercados digitais, as infraestruturas digitais, a proteção dos consumidores, os criptoativos, entre muitas outras. É impossível sintetizar em poucas linhas o seu impacto no setor empresarial. Diria apenas que a competitividade das empresas exige o conhecimento das ferramentas tecnológicas disponíveis, do seu potencial para melhorar a produtividade, bem como dos riscos que elas envolvem. Desejo, pois, que a necessidade de conformidade seja encarada como uma oportunidade para a transformação digital das organizações e para a mudança cultural que lhe é inerente.

Com o atual cenário legislativo europeu, quais são, na sua visão os principais desafios que as organizações enfrentam no que concerne à governação, conformidade e gestão do risco, por exemplo?

A questão da governação é aqui crucial. Não são já problemas da responsabilidade das equipas de TI. Trata-se antes de questões estratégicas, em que a responsabilidade cabe, em primeira linha, aos boards, até por imposição legal. O maior problema em Portugal reside na enorme prevalência de PMEs, especialmente de microempresas, que na sua maioria não têm capacidade para abordar todos estes temas de maneira adequada.

Como pode a União Europeia acelerar a sua indústria de inteligência artificial sem fragilizar a proteção dos cidadãos?

Neste segundo mandato da Comissão Europeia liderada por Ursula von der Leyen, as questões da competitividade da economia europeia têm sido centrais. Isso levou à criação e ao reforço de programas destinados a apoiar a indústria de IA, através das AI Factories, das AI Gigafactories, dos centros de dados, que canalizam importante investimento público e privado. Outras iniciativas em curso são a “Apply Strategy”, destinada a reforçar a adoção de IA pelas empresas em diversos setores, bem como a estratégia de apoio a start-ups e scaleups. O objetivo é tornar a União Europeia um Continente de IA.

Em síntese, a União Europeia está a afetar recursos financeiros significativos, mas infelizmente tais recursos são apenas uma fração dos que estão disponíveis aos principais atores do desenvolvimento tecnológico nos Estados Unidos e na China.

Adicionalmente, o Regulamento Digital Omnibus em matéria de IA visa simplificar o AI Act, sem pôr em causa a proteção dos cidadãos. Mas as causas do atraso europeu em matéria de IA prendem-se com outros fatores (especialmente a menor disponibilidade de capital público e privado e a fragmentação da União em 27 estados com legislações e culturas diferentes), mais do que com o peso da regulação.

“(…) temos de aceitar que a regulação digital (…) será cada vez mais imprescindível”.

Na sua opinião, o rumo que a regulação digital europeia está a adotar é o mais adequado para o cenário que se vive atualmente e para as tendências que se perspetivam no domínio da IA?

Regular em matéria de inteligência artificial é extremamente difícil, pela rapidez da evolução tecnológica, pelo aumento exponencial do seu impacto, e pelo carácter transversal dos setores em que se aplica. Todavia, a alternativa de deixar o desenvolvimento da IA sem importantes salvaguardas é muito pior do que a tentativa de regular imperfeitamente para proteger as pessoas. Isto mesmo está hoje a ser percebido nos Estados Unidos, onde os tribunais estão, na falta de legislação especializada, a responsabilizar grandes empresas, como a Open AI, a Meta ou a Google, por danos sofridos por menores ou pessoas vulneráveis em função de algoritmos considerados viciantes ou nocivos.

Creio que temos de aceitar que a regulação digital, especialmente no domínio da IA, estará sempre a ser atualizada, será sempre imperfeita, mas será cada vez mais imprescindível.

No caso português, que implicações terá este regulamento nas empresas portuguesas? Estará o ecossistema empresarial português preparado para adaptar os seus processos internos às novas regras europeias?

Temos de ter presente que o Regulamento de IA tem especial aplicação nas utilizações consideradas de risco elevado, como por exemplo no acesso ao crédito, no recrutamento de trabalhadores ou no acesso ao ensino, na aplicação da lei pelas autoridades policiais, na administração da justiça ou nos processos democráticos, em matéria de infraestruturas críticas, entre outras. Por outro lado, o AI Act exige transparência no uso de sistemas de IA como chatbots ou na criação de conteúdo sintético.

Isto significa que as empresas devem procurar classificar os casos de uso de inteligência artificial, com o objetivo de determinar se estão sujeitas a um conjunto especialmente significativo de requisitos e obrigações (registo, controlo humano, explicabilidade, cibersegurança, entre várias outras). Devem também estar atentas às obrigações de transparência no uso de IA.

A adaptação do ecossistema empresarial português a esta nova realidade tecnológica e à correspondente conformidade regulatória é um processo difícil, que só pode ter sucesso através de um esforço dirigido transversalmente à literacia em IA e a uma cultura de inovação responsável.

“(…) receio que apenas um pequeno grupo de grandes empresas esteja a preparar-se adequadamente para retirar todas as vantagens da adoção da IA (…)”.

Têm as competências necessárias para enfrentar os desafios jurídicos e organizacionais colocados pela crescente adoção da IA?

Neste momento, receio que apenas um pequeno grupo de grandes empresas esteja a preparar-se adequadamente para retirar todas as vantagens da adoção da IA, com consciência dos desafios organizacionais e jurídicos correspondentes.

Qual pode ser a mais-valia da academia para o debate em torno da IA? Qual a importância de uma abordagem interdisciplinar e multisetorial na definição das regras que regularão a transformação digital/tecnológica em curso?

A academia tem uma enorme responsabilidade na contribuição para a disseminação de conhecimento transferível para as organizações públicas e privadas. Esse conhecimento tem necessariamente de ser interdisciplinar, pois só desse modo serão quebrados os silos que impedem o sucesso de uma estratégia integrada de transformação digital. Um exemplo da contribuição da academia está no curso “Direito e Prática da Inteligência Artificial”, que beneficia da parceria da Faculdade de Direito da Universidade Católica Portuguesa com o Instituto Superior Técnico e com o Instituto de Conhecimento da Abreu Advogados, onde se aliam abordagens jurídicas e tecnológicas, teóricas e práticas, para uma compreensão integrada da IA e da sua regulação.

Enquanto professor de Direito, presidente do Instituto de Conhecimento da Abreu Advogados e especialista nestas matérias, o que o preocupa quando olha para o rumo que a Inteligência Artificial está a tomar e para os desafios que lhe estão associados?

Excelente questão, apesar de ser difícil sintetizar uma resposta. Telegraficamente, direi o seguinte: A inteligência artificial é suscetível de ter um impacto extraordinário na sociedade atual e futura, pelo que o seu desenvolvimento deve estar sujeito à supremacia do humano, como sublinha o Papa Leão XIV na sua primeira Encíclica. A inovação e o desenvolvimento tecnológico não são fins em si mesmos, mas meios para a realização e a felicidade das pessoas.

Não podemos nem devemos criar barreiras à disseminação destas tecnologias, mas temos a obrigação de as desenvolver e usar de forma responsável. Vejo, por isso, com preocupação, a tendência de acentuação de desigualdades que o desenvolvimento não controlado das grandes empresas tecnológicas pode criar entre sociedades e entre indivíduos.

Um dos maiores desafios atuais respeita à educação. O ensino precisa de se reinventar para poder adaptar-se à omnipresença de IA. Isso implica rever objetivos de aprendizagem, métodos de ensino, e conteúdos curriculares. E supõe regras claras sobre o uso de IA por professores, investigadores e alunos.

Outra das questões mais importantes respeita ao trabalho. A transformação das tarefas pela IA, a eliminação de postos de trabalho e a criação de novas profissões necessita de uma reflexão profunda que os ciclos político-eleitorais não favorecem. Aqui joga-se em grande medida o futuro das nossas sociedades.

Uma última questão é suscitada por notícias recentes sobre agentes de IA que, obedecendo a objetivos que lhe foram traçados, usaram métodos que escaparam a quem os programou. Penso que a evolução tecnológica está a ser mais rápida do que a capacidade dos humanos de a conterem dentro de limites aceitáveis. A prioridade das empresas e dos Estados deveria estar em orientar o desenvolvimento técnico para o bem estar humano, e não dirigir-se para uma concorrência desenfreada com o objetivo de atingir uma IA que ultrapasse os humanos.

* Presidente do Instituto de Conhecimento da Abreu Advogados e coordenador científico do curso Direito e Prática da Inteligência Artificial, do Católica Next.