Entrevista/ “Os algoritmos reforçam problemas estruturais que existem na sociedade”

“Se a algoritmização continuar de vento em popa, então estamos numa situação muito complicada e teremos de nos questionar: de onde vem o talento de liderança? A partir de uma certa altura virá só do staff. Deixaremos de ter pessoas que percebem do negócio e passaremos a ter pessoas que só entendem de marketing, finanças… ”, referiu João Vieira da Cunha, diretor de Investigação da IÉSEG School of Management, em França, em entrevista ao Link To Leaders.

Passaram mais de 20 anos entre a apresentação do conceito de Inteligência Artificial (IA) num workshop em Dartmouth College, em 1956, até que a primeira aplicação comercial desta tecnologia visse a luz do dia. Era um sistema inteligente que permitia configurar ordens para novos sistemas de computador, na Digital Equipment Corporation. Mas foi apenas na última década que a IA e o machine learning passaram a ser utilizados em várias áreas de diferentes indústrias.

De chatbots a carros autónomos, a implementação generalizada de aplicações de IA está a transformar os negócios e a sociedade, trazendo novos processos e automatizando tarefas repetitivas. De acordo com um estudo da Accenture, estima-se que até 2035 a IA permita aumentar os lucros, numa média de 38%, em 16 indústrias diferentes.

Mas, apesar de todos os seus benefícios, os algoritmos de IA também podem comportar riscos e implicações a longo prazo, quando aplicados em áreas mais importantes da estrutura corporativa.

Segundo João Vieira da Cunha, diretor de Investigação da IÉSEG School of Management, uma das mais prestigiadas instituições académicas francesas na área da gestão, e autor de vários livros e artigos em revistas científicas de referência, a maior preocupação prende-se com a automatização da gestão intermédia e as perdas que daí advêm. Como referiu em entrevista ao Link To Leaders, “a automatização de tarefas de gestão por algoritmos tem vantagens, mas o que se tem se tem vindo a descobrir é que os custos são demasiado pesados para a capacidade de resposta das empresas”.

João Vieira da Cunha publicou recentemente um livro sobre liderança.

Como define liderança digital hoje em dia?
Mais do que falar na liderança digital, gosto de falar na liderança na Era do algoritmo. Obviamente que a base da era digital vai mudando. Há livros sobre a Era digital nos anos 90, em que a novidade eram as tecnologias de comunicação como o e-mail e a Internet. Se olharmos à nossa volta e para o que está a acontecer, não só ao nível nas empresas, mas também a um nível maior no mercado, percebemos hoje que liderança na Era digital é sinónimo de liderança na Era do algoritmo. Há dois grandes chavões hoje em dia da aplicação das Tecnologias de Informação na liderança e na gestão. Um é o Big Data, ou seja, hoje especialmente por causa das redes sociais, e não só, temos acesso a uma quantidade gigantesca de dados para analisar e tomar decisões. O outro são os algoritmos, que resultam de Big Data porque estes precisam de muitos dados para se construírem.

Temos, portanto, algoritmos a condicionar a gestão das empresas? O que acha da automatização ao nível da gestão?
Exatamente. Acho que aconteceu algo diferente do que se estava à espera. O que se estava à espera era que o trabalho fosse automatizado. E é muitas vezes isso que é popularizado na imprensa e na Internet. Em Portugal, por exemplo, a Jerónimo Martins abriu um supermercado na Nova SBE sem empregados. A Amazon tem supermercados sem empregados. E também há aquele vídeo dos robôs nos armazéns da Amazon a irem buscar as mercadorias sozinhos. Mas se olharmos para aquilo que é visto como a principal mudança hoje em dia, temos a uberização da economia. E o que é isto da uberização da economia? É basicamente a substituição de toda a gestão intermédia por algoritmos.

Se olharmos para a Uber, Uber Eats ou para a Deliveroo, por exemplo, as entregas continuam a ser feitas por pessoas, ou seja, o trabalho não foi automatizado. O que foi automatizado foi a gestão do trabalho dessas pessoas. O que é que motiva essas pessoas? O que é que faz com que um condutor da Uber esteja disponível para só mais uma viagem, como é que se decide que viagem é que o colaborador vai fazer, como se avalia esse colaborador, como se premeia ou castiga? Isto tudo é decidido não por pessoas como um patrão ou um supervisor, mas por um algoritmo da aplicação da Uber. Em vez de automatizarmos o trabalho, estamos a automatizar a gestão do trabalho.

“O problema não se relaciona só com o facto de que as empresas podem perder talento e de que uma pessoa mereça estar num lugar e não está, mas há todo um ciclo de feedback sobre a sociedade que reforça as desigualdades que sustentam o algoritmo”.

E ao nível do recrutamento, faz sentido a automatização em determinadas tarefas?
A automatização tem vantagens. Mas o que se tem vindo a descobrir é que os custos são demasiado pesados. O problema é quando se usam algoritmos para tomar decisões de recrutamento. Os algoritmos são só um processo para acelerar tarefas. Há outros. Por exemplo, recorrer a agências, a freelancers ou fazer-se subcontratação é só uma maneira de resolver o problema de ter CV a mais que não requer automação. Mas, pior que isso, os algoritmos repetem e reforçam problemas estruturais que existem na sociedade. Se pensarmos nos anúncios que as pessoas recebem, as pessoas com um emprego estável e um salário que permite viver não recebem anúncios de empréstimos predatórios, anúncios de empréstimos com taxas de juro muito elevadas. O que isto significa? As pessoas que sofrem mais de desigualdades sociais ainda vão ver a sua situação agravada, se forem sensíveis a anúncios de produtos deste tipo que as colocam em situações ainda piores.

Se olharmos para o que acontece ao nível de recrutamento, deparamo-nos com o enviesamento de géneros, etnias, etc., repetido por estes algoritmos. Uma mulher tem menos probabilidade de ser recrutada para uma posição do que um homem. As mulheres vão, portanto, receber “os restos” do mercado de trabalho e isso vai colocá-las em posições mais precárias, em posições mais difíceis para subirem em termos de liderança. Por isso, o problema não se relaciona só com o facto de que as empresas podem perder talento e de que uma pessoa mereça estar num lugar e não está, mas há todo um ciclo de feedback sobre a sociedade que reforça as desigualdades que sustentam o algoritmo. Sabemos que há grandes vantagens em coisas como reconhecimento facial e policiamento preditivo, mas há cada vez mais governos a banir estas técnicas porque os custos sociais são demasiado elevados.

Os algoritmos são caixas negras que não dão para abrir, não permitem fazer pequenos ajustamentos porque não são programados, são construídos. No caso do recrutamento, isto acontece, dando centenas de milhares de CV a um programa, cuja função é aprender o que é que faz com que uma pessoa tenha sucesso ou não num emprego.

Isto leva-nos à perda do diferencial nas equipas, àquilo que as torna diferentes e inovadoras?
O pior que aconteceu à igualdade de género e à inclusão foi a diversidade. O argumento da diversidade é que as mulheres têm um ponto de vista diferente e devem ser incluídas em equipas para haver diversidade de pontos de vista. Isto tem dois problemas. O primeiro, cristaliza a ideia errada de que as mulheres têm um cérebro diferente dos homens e isso significa que há profissões de mulheres e profissões de homens. O segundo, se é diversidade que se quer, só precisamos de ter ideias diferentes.  Por isso, um algoritmo pode, em teoria, tentar maximizar a diversidade de uma equipa só que pode fazê-lo, por exemplo, com base na diferença formação das pessoas. Se todos têm um MBA, quero pessoas que tenham uma licenciatura em engenharia, outra em gestão, outra em biologia…

“Porque o algoritmo castiga. Quando os trabalhadores param para pensar, o algoritmo vê a produtividade a baixar e toma decisões para que volte a aumentar. Na Amazon há um algoritmo que despede as pessoas automaticamente”.

Para além do enviesamento, que outros problemas poderemos ter com os algoritmos?
Flexibilidade. Uma das ideias mais importantes da gestão é a gestão da qualidade total, que foi popularizada pelos livros de William Deming, que resultaram da intervenção que ele fez, junto com outros cientistas americanos, na gestão das empresas no Japão depois da Segunda Guerra Mundial e que está parcialmente na origem do chamado Milagre Japonês, da transição do Japão de uma economia de produtos baratos, de baixo custo, para uma economia de produtos de alta tecnologia e de desenvolvimento. A ideia era muito simples: se as empresas ensinarem estatística básica aos empregados e criarem um contexto em que os empregados possam usar essas estatísticas para melhorar a qualidade dos produtos, a qualidade vai aumentar através de ideias e inovações dos colaboradores com base nos dados que recebem do processo produtivo.

Desde os livros de Deming que sabemos que uma parte importante da inovação de processos nas empresas vem dos colaboradores. Só que isso requer cooperação de quem supervisiona os colaboradores. Requer que os colaboradores tenham tempo e espaço para pensarem em soluções que encontram no trabalho e, para isso, não podem ter um algoritmo a medir a produtividade. Porque o algoritmo castiga. Quando os trabalhadores param para pensar, o algoritmo vê a produtividade a baixar e toma decisões para que volte a aumentar. Na Amazon há um algoritmo que despede as pessoas automaticamente.

Depois há todo o tema da motivação. Quem motiva os colaboradores não é a diretora ou CEO da empresa, é quem os supervisiona. Se não há ninguém a supervisioná-los, perdemos o mecanismo mais importante de motivação dos colaboradores. Todas estas adaptações ao nível mais baixo da empresa deixam de existir. Por outro lado, há uma perda de flexibilidade no fim do processo estratégico, ou seja, na altura em que se tomam decisões sobre a estratégia da empresa porque não temos gestores intermédios que participem no processo de definição.

Aí temos de olhar para a forma como a estratégia aparece. Como é que as pessoas que não se sentam na mesa de reuniões participam nas decisões estratégicas. Essencialmente participam de duas maneiras. Uma é “vender assuntos”, ou seja, basicamente a ideia é que os gestores intermédios têm ideias sobre a estratégia da empresa e há processos que usam para fazerem com que essas ideias sejam discutidas no topo das empresas. Podem ser conversas de corredor com o chefe ou podem ser estratégias de networking. E depois há todo o processo da produção de indicadores do ponto de vista prático, ou seja, hoje em dia quando se tomam decisões nas empresas há um PowerPoint com uns gráficos e a pergunta é: quem é que decide os números que estão nesses gráficos? Na prática é uma conversa entre quem vai estar nessa reunião e a pessoa que vai fazer o gráfico, o gestor de topo e o gestor mais intermédio.

Quando os algoritmos substituem os gestores intermédios perde-se o principal motor de adaptabilidade e flexibilidade da empresa. Os gestores intermédios são as pessoas nas empresas que estão mais próximas do mercado, mas que também têm o ouvido de quem manda na empresa. Logo, há menos flexibilidade.

“Como é que uma pessoa que conduz para a Uber passa para a gestão? Não passa porque não há gestão intermédia”.

Falava-se muito da questão horizontal e vertical. De que forma o algoritmo intervém nestes conceitos? Temos ainda um maior gap?
Isto é um dos grandes temas da legislação laboral hoje em dia. A pergunta que surge é se os condutores da Uber são empregados ou não. A Uber Portugal é uma start-up, são 20 amigos e para eles os taxistas não fazem parte da organização. Mas se calhar são. O que está a acontecer é que mesmo nas economias onde há menos simpatia pelos direitos dos trabalhadores, a Inglaterra, na Europa, e os Estados Unidos, fora da Europa, há cada vez mais casos em que as pessoas que trabalham para estas empresas são legalmente reconhecidas como trabalhadores.

Nas duas últimas semanas falou-se das ações do IPO da Deliveroo na bolsa de Londres e de como o desempenho das ações estava a ser afetado pelas manifestações dos vendedores da Deliveroo. E houve uma série de decisões a favor de considerar as pessoas que trabalham para estas empresas como trabalhadores das empresas. Então aí deixa de ser uma start-up e passa a ser uma estrutura onde temos o topo e depois a base, onde está a massa. Mas só não há comunicação entre ambos porque está o algoritmo no meio. E também não há carreiras. Como é que uma pessoa que conduz para a Uber passa para a gestão? Não passa porque não há gestão intermédia.

Como vê a utilização de algoritmos no futuro?
Sou bastante otimista sobre este tema e acho que há muitas pessoas muito inteligentes empenhadas em acabar com a utilização de algoritmos fora de casos muito específicos. É óbvio que há casos em que os algoritmos funcionam bem, como na análise de sintomas médicos e aí há menos consequências sociais. O que se começa a ver é que a legislação tende a ir contra a utilização de algoritmos. Os problemas dos algoritmos têm sido popularizados não só através de documentários, como também da imprensa. Tenho algum otimismo que os algoritmos sejam adotados apenas de forma limitada.

Tendo em conta as tendências atuais na Europa, como perspetiva a gestão e a liderança nas organizações?
Na Europa estamos relativamente bem porque temos um sistema legislativo tendencionalmente protecionista. A principal tendência do ponto de vista da gestão e da liderança é a precarização do trabalho e isso está a acontecer a todos os níveis. Veja o que se passa nas universidades. Mesmo nos Estados Unidos há cada vez mais professores a recibos verdes. Há uma maior subcontratação de pessoas. Obviamente que isto flexibiliza e poupa recursos, mas elimina o empenho e o compromisso que as pessoas têm com a organização. E isto é preocupante. Perde o trabalhador, perde a organização!

Este é um período difícil de liderança. Há muitas coisas que retiram as pessoas fisicamente e emocionalmente da organização. Por outro lado, isto pode passar a ser um fator de diferenciação. Temos o exemplo da Patagónia cujo sucesso vem em parte de ter como valor chave o emprego para a vida toda.

Que desafios iremos enfrentar e ao que devemos estar atentos?
Eu diria que estamos num caminho que se divide em dois, pelo que temos de estar atentos ao que vai acontecer com esta decisão sobre os algoritmos. Se a coisa correr bem, ou seja, se os algoritmos passarem a ser usados de forma muito limitada, podemos reimaginar a gestão intermédia nestes contextos de precarização e eventualmente sermos uma empresa que vai contra esta trajetória. Se a algoritmização continuar de vento em popa, então estamos numa situação muito complicada e teremos de nos questionar: de onde vem o talento de liderança? A partir de uma certa altura virá só do staff. Deixaremos de ter pessoas que percebem do negócio e passaremos a ter pessoas que só entendem de marketing, finanças…

“Uma das ativistas contra a perpetuação das injustiças raciais provocada pelos algoritmos conseguiu que a IBM aceitasse retreinar o seu algoritmo para reconhecer pessoas que não fossem só homens brancos. E houve melhorias de dois dígitos, mais de 10% na qualidade do algoritmo”.

De que forma pode a educação capacitar os futuros gestores para fazerem mudanças desejáveis e positivas nas organizações?
Há essencialmente duas coisas que é importante ensinar. Uma delas é que as mudanças tecnológicas devem ser entendidas como processos sociais. Quando desenvolvemos tecnologias temos de ter isso em consideração. Quando estamos a desenvolver um algoritmo temos de ter em mente que dados estamos a usar e quais as consequências disso. Uma das ativistas contra a perpetuação das injustiças raciais provocada pelos algoritmos conseguiu que a IBM aceitasse retreinar o seu algoritmo para reconhecer pessoas que não fossem só homens brancos. E houve melhorias de dois dígitos, mais de 10% na qualidade do algoritmo.

Por outro lado, ensinar às pessoas que adotar uma tecnologia tem consequências muito sérias e que é uma decisão que tem de ser pensada não só com base na redução de custos e aumento de faturação, mas também em outros critérios que podem ter impacto na organização. Tornar uma organização menos robusta, menos flexível a mudanças internas e externas é mau. Temos de acabar com a ideia de que a tecnologia é um resultado do progresso. A sua utilização é inevitável e não é neutra do ponto de vista social.