Entrevista/ “A IA que é desenvolvida pela big tech parece um carro sem travões e sem cintos de segurança”

“Não são as condições materiais que fazem a ciência, mas a qualidade e o empenho das pessoas”. A opinião é de Virgínia Dignum, especialista portuguesa em IA, professora de Inteligência Artificial Responsável na Universidade de Umeä (Suécia) e responsável do AI Policy Lab.

Com um currículo internacional invejável na área das ciências, Virgínia Dignum vai estar em Lisboa amanhã para participar no 113.º aniversário da Faculdade de Ciências da Universidade de Lisboa, instituição em que começou os seus estudos. Oradora convidada do evento, onde vai abordar o tema “Para além da onda da IA: Articulando Inovação com Responsabilidade Social”, a investigadora portuguesa partilhou com o Link to Leaders a sua visão sobre a evolução tecnológica a que assistimos nos mais diversos setores da sociedade.

Com um extenso percurso profissional e académico, atualmente Virgínia Dignum é professora de Inteligência Artificial Responsável na Universidade de Umeä (Suécia), onde lidera o AI Policy Lab, e também consultora sénior em políticas de IA das Fundações Wallenberg. É doutorada em Inteligência Artificial pela Universidade de Utrecht (2004), membro da Academia Real Sueca de Ciências da Engenharia e membro da Associação Europeia de Inteligência Artificial (EURAI). No final do ano passado foi uma das 32 especialistas, de várias partes do mundo, convidadas a integrar o novo grupo consultivo de alto nível e multissetorial das Nações Unidas dedicado à inteligência artificial (IA).

O tema da sua apresentação na Universidade de Lisboa é sobre como se articula inovação com responsabilidade social? Como se consegue este equilíbrio?
Os carros andam depressa porque têm travões. Nenhum de nós consideraria entrar num carro sem travões. Neste momento, a IA que é desenvolvida pela big tech parece um carro sem travões e sem cintos de segurança a ser conduzido por uma pessoa sem carta de condução numa estrada sem regras de trânsito. Penso que o big tech está a começar a entender que vender carros sem travões não compensa no longo prazo. Mas todos nós temos responsabilidade, começando pelo dever de recusar tecnologia ranhosa.

Qual o lado bom e o lado mau da IA, na sua opinião?
Não é uma questão da IA ter um lado bom ou mau. Mas de nós termos a responsabilidade de a usar e desenvolver para o bom ou para o mau.

Qual o papel de uma agência internacional na criação de regras para governar a tecnologia?
Há muitas opções, desde a definição de legislação (como ex. o AI Act), ou a definição de standards para vários setores, como através da educação. Não há um tamanho que serve para todos.

“(…) os maiores avanços são quando técnica, política e benefício estão juntos duma maneira sustentável”.

A sua experiência profissional passou por vários países e diferentes realidades. Onde é que a IA está a ser melhor aplicada na sua opinião? E em que setores de atividade?
As maiores diferenças não são entre países, mas entre setores. Para medir os avanços temos de olhar para o contexto todo não só a prática tecnológica. Ou seja, os maiores avanços são quando técnica, política e benefício estão juntos de uma maneira sustentável. Exemplos veja em aplicações alinhadas com os Objetivos de Desenvolvimento Sustentável.

Foi uma das especialistas convidadas para o grupo de discussão das Nações Unidas dedicado à inteligência artificial. Qual o propósito deste grupo de trabalho? Definir as regras que os países individualmente não conseguem criar?
O nosso mandado é promover uma abordagem globalmente inclusiva sobre IA através de análises de oportunidades e riscos, para avançar recomendações para a governança internacional da IA. A ideia não é criar legislação (isto não é competência da UN), mas criar um espaço para diálogo, cooperação e interoperabilidade.

Ajudou a fundar o ALLAI, uma organização dos Países Baixos para promover o desenvolvimento responsável da IA. Quais os pilares base do desenvolvimento responsável desta tecnologia?
Os nossos princípios são resultado da nossa colaboração dentro do grupo de alto nível de IA da UE, ou seja, pretendemos promover uma IA que seja legal, ética e sócio tecnicamente robusta, em conformidade com os valores, leis e regulamentos europeus, direitos humanos, democracia e o estado de direito, informar os formuladores de políticas (inter)nacionais sobre ética, leis, padrões e estratégias de políticas de IA, e construir e aumentar continuamente o conhecimento e a consciencialização sobre os benefícios e desafios da IA com todos os intervenientes, incluindo a sociedade em geral.

Além disso, procuramos promover a colaboração entre todos os intervenientes da IA (academia, indústria, sociedade civil e política) e o envolvimento de várias especialidades (IA, direito, ética, humanidades, economia, etc.), ajudar organizações públicas e privadas a implementar a IA Responsável nas suas operações através da educação, tradução de diretrizes, planeamento estratégico e ferramentas, e realizar e traduzir resultados de pesquisa em IA em políticas, práticas e produtos e serviços de IA viáveis que beneficiem a sociedade. Identificar a demanda por pesquisa.

Para onde caminha a IA?  Vai no sentido certo?
Não há caminhos lineares, mas avançamos sempre com altos e baixos. Penso que a tendência é na direção certa (ou seria melhor não estar aqui), mas o caminho somos nós que fazemos e só o vemos quando olhamos para trás, como diz o António Machado. 

O que é importante ter em conta é que o estudo e desenvolvimento da IA não é tecnológico, mas multi disciplinário; a responsabilidade é um suporte para a inovação, não um bloqueio; a medida de qualidade não é uma questão de acurácia, mas um desafio constante entre muitos valores (tradeoff).

São várias as pesquisas que preveem que a IA irá alterar o mundo do trabalho como o conhecemos e substituirá algumas profissões. Partilha esta opinião? O risco é real, na sua perspetiva?
A IA é um ‘moving target’, quanto mais avança mais nós percebemos que há mais para a qualidade humana do que aquilo que vamos implementando. Sim, haverá tarefas (mais do que profissões completas) em que vamos utilizar inteligência artificial para realizar, como com qualquer outra tecnologia. Mas não é uma questão da IA nos substituir, mas uma questão de uma pessoa com a ajuda de IA substituir aqueles que não utilizam a IA.

Quem é Virgínia Dignum?
Provavelmente é uma pergunta para outros responderem.

“(…) não são as condições materiais que fazem a ciência, mas a qualidade e o empenho das pessoas”.

O que é que a sua formação na Faculdade de Ciências de Lisboa lhe deu para vida?
 A primeira vez de que ouvi falar de IA foi na FCUL num curso com o nome ‘inteligência artificial’ em 1985-86, pelo que posso dizer que a FCUL me deu a IA. Por outro lado também me deu a entender que não são as condições materiais que fazem a ciência, mas a qualidade e o empenho das pessoas. Sou da geração que estudou no ‘anexo’ e na ’24 de julho’, locais não só sem condições, mas também completamente degradados. O que não impediu a nossa educação, embora não deseje igual a ninguém.

Enquanto mulher, e portuguesa, quais os desafios que tem enfrentado ao logo da sua carreira internacional?
Nunca encaro desafios pela perspetiva de serem relacionados com a minha nacionalidade ou sexo.

Quais as suas ambições?
Tenho 60 anos, provavelmente a mais realista é a reforma. Mas se quer uma resposta mais relevante, a ambição é a realização que a única IA possível é a IA responsável.

Enquanto, investigadora e especialista em tecnologias, qual gostaria que fosse o seu legado?
Os meus alunos e as ambições e resultados deles.

*Professora na Universidade de Umeä (Suécia) e responsável do AI Policy Lab.