Entrevista/ “Espero que a Administração Pública elimine a redundância de tarefas impostas ao cidadão ou ao empresário”

“Se observarmos atentamente o nosso quotidiano, a presença da IA é já inegável: uma plataforma de streaming antecipa o que poderemos querer assistir a seguir, uma aplicação de GPS no nosso smartphone indica a rota mais eficiente para evitar trânsito e custos adicionais”, afirma Gonçalo Caseiro, consultor e especialista em inovação e transformação digital, ao Link to Leaders.

Que a inteligência artificial (IA) acarreta desafios para a sociedade tal como a conhecemos, não é novidade para ninguém. Tal tem sido sobejamente debatido. Para Gonçalo Caseiro, consultor e especialista em inovação e transformação digital, um dos desafios mais críticos da tecnologia “é o risco de existência de preconceito nos algoritmos, o que pode perpetuar ou até intensificar desigualdades existentes, especialmente em áreas sensíveis como a Justiça. Por exemplo, se um algoritmo de IA usado no sistema judiciário é treinado com dados históricos, pode levar a decisões judiciais enviesadas”. Por isso, defende a regulação da IA “baseada no risco que determinado sistema pode implicar, como aliás propõe a legislação europeia para o efeito, e garantir que é utilizada de forma responsável”.

O consultor vislumbra uma Administração Pública “que seja cada vez mais proativa e centrada no cidadão“, porque “melhor do que um serviço online é a ausência da necessidade de qualquer interação. Isso significará continuar a mudança de paradigma a que já assistimos hoje em alguns serviços: de uma postura reativa para uma abordagem antecipatória das necessidades dos cidadãos e empresas“, diz.

Gonçalo Caseiro é licenciado em Engenharia Informática (2003) pelo Instituto Superior Técnico, pós-graduado em Gestão do Conhecimento e Business Intelligence (2008) no ISEGI-Universidade Nova de Lisboa e completou ainda o programa de Alta Direção de Empresas (2014-2015), da AESE Business School. Tem mais de 13 anos de experiência executiva em organizações de grande dimensão e esteve sempre ligado ao setor público. Participou inclusive no desenho e implementação de estratégias interministeriais de simplificação administrativa e na redução de burocracia de que é exemplo o programa Simplex.

A Inteligência Artificial (IA) tem gerado debate. Qual o impacto da IA nos serviços públicos, tanto a nível de benefícios como de desvantagens? Os organismos públicos estão a saber tirar partido da IA?
A IA pode proporcionar eficiência e melhor serviço público, mas face ao impacto que esta tecnologia pode causar é necessária uma melhor capacidade de governação e regulação. Os benefícios da IA nos serviços públicos incluem a automação de tarefas rotineiras, melhoria na tomada de decisões através de análise de dados e a personalização de serviços ao cidadão.

No entanto, a adoção da IA também apresenta desafios significativos. E um dos mais críticos é o risco de existência de preconceito nos algoritmos, o que pode perpetuar ou até intensificar desigualdades existentes, especialmente em áreas sensíveis como a Justiça. Por exemplo, se um algoritmo de IA usado no sistema judiciário é treinado com dados históricos pode levar a decisões judiciais enviesadas.

Assim, coloca-se como desafio a capacidade de exercer a regulação da IA, baseada no risco que determinado sistema pode implicar, como aliás propõe a legislação europeia para o efeito, e garantir que é utilizada de forma responsável.

“Áreas como a saúde pública ou os transportes estão entre as que mais beneficiam da IA”.

De todas as áreas do setor público, qual ou quais as que mais podem – ou estão a – beneficiar da IA e porquê?
Áreas como a saúde pública ou os transportes estão entre as que mais beneficiam da IA. A saúde pública usa IA para diagnósticos mais rápidos e precisos (ULS São João, por exemplo, faz parte do consórcio AI4 Lung Cancer, criado através das Agendas Mobilizadoras de Inovação (PRR), visando criar soluções para diagnosticar o cancro do pulmão mais precocemente). No setor dos transportes podemos identificar a otimização de tráfego e a manutenção preditiva (vide o caso do Metro do Porto que, em 2019, iniciou um projeto com a academia para, com dados e inteligência artificial, antecipar necessidades de manutenção no material circulante).

Considera que os líderes portugueses da Administração Pública (AP) têm as competências necessárias para o desenvolvimento de estratégias que valorizem o potencial da IA nos seus projetos, nas suas equipas e nas suas organizações?
Essa capacidade depende de vários fatores. Mas posso dar o exemplo de um caso notável no Ministério da Justiça no qual foi pensado um programa de governação tecnológica, incluindo a necessária capacitação, em parceria com o Inovalegal – Instituto de Inovação Legal e Tecnológica em Português.

A Agência para a Modernização Administrativa pode alargar as iniciativas com o uso de IA, através de um guia criado com orientações para o uso responsável dessa tecnologia. E essa área pode ser desenvolvida além da execução do Plano de Recuperação e Resiliência (PRR). Isso inclui a criação de fundos que seriam direcionados e exclusivamente aplicados a projetos públicos através de parcerias com a academia ou lançar desafios públicos utilizando a inteligência artificial. E referir também que é importante não esquecer a capacitação das pessoas.

De que forma está o Estado a saber usar a tecnologia nos processos de recrutamento?
A atração e a retenção de talento não é um desafio apenas para os empregadores do privado. Também no Estado a oferta formativa pode motivar a retenção. 

Fala-se muito do envelhecimento dos quadros da Administração Pública. De que modo é que esse cenário pode, de alguma forma, influenciar e afetar a abertura para este tipo de tecnologia?
Não considero um fatalismo imutável que a Administração pública não seja atrativa para os jovens qualificados que o país produz. O que verifico é que no passado existiram determinadas políticas e discursos de desvalorização dos funcionários públicos e populismos sobre a sua produtividade. Em vez disso, é importante partilhar uma visão de que não existe uma economia desenvolvida sem um Estado forte, com recursos qualificados que consigam planear estrategicamente e antecipar necessidades.

Por outro lado, a ideia de que faltam competências no setor público é errada. Falta capacidade associada a cada uma dessas competências, isso sim, porque faltam recursos. Para dar um exemplo, não é que não existam engenheiros informáticos no Estado, existem é poucos engenheiros informáticos face às necessidades. Aliás, existem muitos recursos, muito qualificados, cuja resiliência só se pode dever a uma convicção forte de lutar pelo serviço público.

Considero que é a valorização das carreiras dos funcionários públicos, a garantia de que existe capacidade de inovação e experimentação, e a melhor comunicação dos excelentes exemplos existentes, que criarão atração para os jovens. E, simultaneamente, irá permitir à Administração Pública ter o capital intelectual que necessita para responder aos anseios daqueles a quem serve.

No que respeita à formação, e verificando o PRR, existem cerca de 100 milhões de euros para formação, parte dos quais para formação em competências digitais para trabalhadores e dirigentes públicos. E, para além disso, existem também diversas rubricas de financiamento para rever modelos de trabalho e programas de transformação digital desses modelos de trabalho.

“O desafio nos projetos da Administração Pública são em torno das pessoas e da interoperabilidade organizacional e semântica, não em torno da tecnologia”.

De todos os projetos em que já esteve envolvido na AP, qual o mais desafiador?
O desafio nos projetos da AP são em torno das pessoas e da interoperabilidade organizacional e semântica, não em torno da tecnologia. Os desafios surgem na criação de serviços públicos que estejam centrados no cidadão, que muitas vezes implicam diversos organismos e vários ministérios em simultâneo.

Por exemplo, o balcão “perdi a carteira” foi desmantelado em 2012 ou 2013. Esse balcão era um serviço que implicou o envolvimento de múltiplos ministérios, assim como a colaboração com o setor privado. Quando alguém perde a carteira ou sofre um furto, recorreria a um só balcão para fazer a denúncia, solicitar novos documentos, fossem eles pertencentes a diferentes instituições públicas (cartão de cidadão, cartão de dador de sangue) ou privadas (cartão bancário). Este exemplo refere-se a projetos de desafios não tecnológicos e os mais desafiadores para alcançar (porque esteve a funcionar na Loja do Cidadão das Laranjeiras) e manter a funcionar (o que parece não ter sido possível).

Países como os Estados Unidos da América, Reino Unido, Japão, Singapura já são exemplos bem-sucedidos da aplicação da IA no setor público. O que falta a Portugal para vir a ser um exemplo bem-sucedido?
Prefiro ver a IA como uma forma da Europa poder recuperar posicionamento global no que respeita à indústria tecnológica. Em meados de 2023, a start-up francesa Mistral recebeu 105 milhões de euros em financiamento para desenvolver sua tecnologia de inteligência artificial e competir em igualdade de condições com a OpenAI. Espero que dentro de alguns anos isto seja apenas um exemplo!

Como garantir que a inteligência artificial será ética e segura?
O legislador europeu percorreu um longo caminho, tendo assegurado uma legislação inovadora sobre uma matéria que está em constante evolução. A abordagem, baseada no risco – maior risco para o indivíduo ou sociedade implica, naturalmente, maiores obrigações e responsabilidades -, permite assegurar com proporcionalidade um conjunto de princípios.

Assim, é crucial que os sistemas desenvolvidos coloquem o ser humano no centro, permitindo-lhes tomar decisões informadas, defendendo sempre os seus direitos fundamentais. A supervisão pode ser alcançada através de abordagens como human-in-the-loop (onde um humano está diretamente envolvido na tomada de decisões do sistema de IA, revendo e aprovando cada ação antes de ser efetivada), human-on-the-loop (um humano supervisiona o sistema de IA continuamente, mas as decisões são automáticas, podendo o humano intervir a qualquer momento), e human-in-command (garantindo que, independentemente da autonomia do sistema de IA, a autoridade final sobre o seu uso e decisões permanece sempre com um humano).

Além disso, é fundamental respeitar e proteger a privacidade e a governação dos dados. Os dados utilizados, os sistemas de IA e os modelos de negócios devem ser transparentes, com mecanismos de rastreabilidade que facilitem o entendimento das decisões tomadas pela IA. É importante que todos os envolvidos compreendam que estão a interagir com um sistema de IA e estejam cientes das suas capacidades e limitações.

Por último, a responsabilidade dos sistemas de IA deve ser claramente estabelecida. É necessário implementar mecanismos que assegurem a prestação de contas por parte dos sistemas de IA e dos seus resultados, com especial atenção à auditoria dos algoritmos (o que implica conseguir identificar os dados de treino e de teste envolvidos), especialmente em aplicações críticas.

“(…) deveremos assistir à valorização da componente humana, porque um serviço prestado por um humano pode ser diferenciador”.

Como devemos lidar com as mudanças da IA no mercado de trabalho?
Ora, é natural que empregos baseados em tarefas repetitivas estejam mais suscetíveis ao impacto da IA, da robótica, entre outros. Idem para empregos relacionados com modelos matemáticos, que podem ser desenvolvidos por um computador no futuro (exemplo é a análise de risco de uma transação bancária ou de um seguro) ou profissões que se baseiam em modelos de linguagem como a tradução, por exemplo.

Contudo, deveremos assistir à valorização da componente humana, porque um serviço prestado por um humano pode ser diferenciador. Pensemos nos robot táxis, quando a condução autónoma expandir a fase experimental: será que vamos aceitar pagar mais por um condutor experiente, que nos ajude com as malas, para transportar a nossa família? Não é possível prever o futuro, mas podemos verificar alguns dos efeitos que já estão a fazer-se sentir.

Segundo um relatório da PWC, a IA aumentará em cerca de 16 mil milhões de dólares o PIB mundial em 2030, mais do que o contributo conjunto da China e da Índia. A par deste fenómeno, vários estudos apontam a IA como uma das peças fundamentais para resolver vários desafios que o setor público enfrenta atualmente. Como perspetiva o futuro desta tecnologia?
O LISP, linguagem fundamental nos desenvolvimentos iniciais da inteligência artificial, foi desenvolvida há 50 anos. O Garry Kasparov foi vencido pelo DeepBlue em 1997. A inteligência artificial está connosco há décadas, tendo-se mediatizado, por um lado, com a sua vertente generativa (ChatGPT e muitas outras ferramentas), e, por outro, tornou-se economicamente viável com o desenvolvimento de capacidades de computação e comunicação inexistentes no passado.

Com isto, quero transmitir que algumas das transformações, preconizadas em relatórios que tentam medir o impacto futuro, já estão entre nós. Se observarmos atentamente o nosso quotidiano, a presença da IA é já inegável: uma plataforma de streaming antecipa o que poderemos querer assistir a seguir, uma aplicação de GPS no nosso smartphone indica a rota mais eficiente para evitar trânsito e custos adicionais. E o aspirador automático determina o melhor momento para ativar-se e navega habilidosamente sem colidir com os móveis.

“Não podemos continuar a exigir um cidadão intermediário na transferência de documentos ou certidões entre departamentos”.

Como vê a Administração Pública daqui a cinco anos?
Vislumbro uma Administração Pública que seja cada vez mais proativa e centrada no cidadão. Melhor do que um serviço online é a ausência da necessidade de qualquer interação. Isso significará continuar a mudança de paradigma a que já assistimos hoje em alguns serviços: de uma postura reativa para uma abordagem antecipatória das necessidades dos cidadãos e empresas. Um exemplo atual é o sistema que permite aos cidadãos renovar o cartão de cidadão automaticamente, recebendo um SMS que facilita este processo sem necessidade de deslocações ou esperas desnecessárias.

Além disso, espero que a Administração Pública elimine a redundância de tarefas impostas ao cidadão ou ao empresário (quantas vezes entregámos a um serviço público uma declaração de não dívida da AT ou da Segurança Social que está dentro do próprio Estado?). Não podemos continuar a exigir um cidadão intermediário na transferência de documentos ou certidões entre departamentos.

Outro aspeto fundamental será a transição de um modelo baseado em licenciamentos prévios para um regime de fiscalização à posteriori, o que pode agilizar significativamente a implementação de novos negócios e serviços, reduzindo os obstáculos burocráticos enquanto mantém o rigor e a segurança necessários.

Estas mudanças não só aumentarão a eficiência dos serviços públicos como também melhorarão a experiência de todos, fortalecendo a confiança na Administração Pública e promovendo um ambiente mais dinâmico às necessidades atuais e futuras dos cidadãos e das empresas.

Respostas rápidas:
Maior risco:  Ser pai. Nada desafia ou ensina tanto alguém como ser pai.
Maior erro: Subestimar a dificuldade de uma mudança seja a que nível for.
Maior lição: A resiliência é uma chave mestra, a mudança acontece devagar.
Maior conquista: Participar em projetos que impactaram milhares de pessoas, como criar uma loja do cidadão, ou contribuíram para aumentar a transparência, como a criação do primeiro dados.gov.pt.