O que nunca foi escrito: os limites humanos da Inteligência Artificial

No meu último artigo escrevi sobre a síndrome do impostor e sobre o momento em que a competência deixa de ser saber a resposta e passa a ser reconhecer quando não a temos, rodearmo-nos de quem a pode ter e, ainda assim, assumir a responsabilidade pelo rumo tomado. Fiquei depois a pensar numa pergunta que esse texto deixava em aberto: o que acontece quando quem tem sempre a resposta já não é uma pessoa, mas um sistema que analisa em segundos aquilo que uma equipa inteira levaria semanas a reunir?

A palavra “decidir” vem do latim decidere, formada a partir de caedere, cortar. Decidir é, na sua origem, cortar, escolher um caminho e amputar todos os outros. Durante grande parte da minha vida profissional esta etimologia deixou de ser uma curiosidade linguística, porque passei muitos anos a reestruturar operações, a simplificar processos, a procurar eficiência e a eliminar redundâncias, e quem já fez este trabalho sabe que, quase sempre, o caminho termina no mesmo lugar, em pessoas que saem.

A parte analítica desse trabalho foi sempre a mais simples. Recolher dados, cruzar custos, medir produtividade, desenhar o novo modelo operacional, tudo isso exigia tempo e rigor, mas seguia uma lógica que hoje uma boa ferramenta de IA executa numa fração do tempo, com menos custo e menos erros. Se o problema fosse apenas matemático, a tecnologia já o teria resolvido melhor do que qualquer um de nós.

Acontece que cada linha daquelas folhas de cálculo tinha um nome, e por trás de cada nome havia uma família, uma situação de saúde, compromissos financeiros, um contexto social que não aparece em nenhum relatório. Podemos ensinar a um algoritmo algumas destas variáveis, mas nunca todas, porque o contexto que realmente importa raramente está escrito em algum lado. E nenhuma ferramenta, por mais sofisticada que seja, sente o peso de uma conversa que vai mudar a vida de alguém.

Houve uma coisa que demorei anos a compreender. Ao longo da minha vida tive de dispensar alguns dos meus melhores amigos, e essas foram, curiosamente, as conversas mais fáceis. Perceberam que era estritamente uma questão de negócio, e continuam hoje a ser meus amigos. As difíceis foram sempre com pessoas que não me conheciam, que não sabiam quem eu era nem como pensava, porque aí a conversa deixa de ser lida como negócio e passa a ser lida como pessoal. Porquê eu? Ele não gosta de mim? Tem preferidos? Quem nos conhece lê a decisão, quem não nos conhece lê-nos a nós. E se for um algoritmo a ditar o desfecho, todos passam a estar no lugar do desconhecido, sem ninguém para ler e sem ninguém que responda.

Há ainda outra dimensão que nenhum data lake contém. Recolher informação e produzir uma análise completa tornou-se dramaticamente mais rápido, mas continua a ser preciso sentar com as pessoas no terreno, entrevistá-las, ouvir o que sentem sobre a empresa, sobre o mercado, sobre o produto, perceber o que dizem e sobretudo o que calam. Essa informação nunca chegou a nenhuma base de dados. A máquina analisa o que foi registado. As pessoas guardam o que nunca chegou a ser escrito.

Lembro-me de ver escritórios com centenas de pessoas a escrever código lado a lado, porque durante décadas quase ninguém acreditava que pudesse ser de outra forma. Em 2021 escrevi que a pandemia tinha feito mais pelo trabalho remoto num ano do que centenas de livros, palestras e gurus nos vinte anteriores, e defendi, como tantos outros, que o trabalho não precisava de um lugar físico para acontecer. Hoje assistimos a uma mudança ainda maior. Uma equipa de cinco pessoas, em qualquer parte do mundo, com uma boa configuração de IA, consegue fazer o mesmo que essas centenas faziam, numa fração do tempo, do custo e dos erros. É uma transformação dramática na vida de muitas pessoas, e não vale a pena fingir o contrário.

Não é a primeira vez que acontece. Em 1950 havia nos Estados Unidos cerca de 1,34 milhões de operadoras telefónicas, aproximadamente uma em cada treze mulheres com emprego, e hoje são menos de duas mil. Um artigo da Reserva Federal de Richmond descreve-as como uma versão primitiva de um assistente inteligente com reconhecimento de voz, o que torna a ironia evidente, porque o primeiro assistente inteligente foi uma pessoa.

No Reino Unido, em 1980, 89% do leite comprado pelas famílias chegava à porta de casa pelas mãos de um leiteiro, e na década passada esse número rondava os 3%. As dactilógrafas, os compositores tipográficos e os técnicos de revelação fotográfica seguiram o mesmo caminho. Mas a história também tem contraexemplos. Quando as caixas automáticas se multiplicaram, muitos previram o fim dos caixas bancários, e o economista James Bessen mostrou que o número não caiu como se esperava, porque os bancos abriram mais balcões e a função mudou, passou de contar notas a resolver problemas. A tecnologia raramente se limita a eliminar, quase sempre também transforma, e quem paga a transição são os que não têm oportunidade de a acompanhar.

Ajay Agrawal, Joshua Gans e Avi Goldfarb defendem em Prediction Machines que a inteligência artificial é, no essencial, um avanço na capacidade de prever, e que quanto mais barata se torna a previsão, mais valioso se torna o juízo humano. O exemplo que usam é a radiologia, em que o modelo prevê se um tumor é maligno, mas é uma pessoa que pondera o que fazer com essa previsão.

Nesse mesmo ano de 2021 defendi também que já não se contratam braços, mas cabeças. A IA levou essa ideia mais longe, porque agora assume até os braços mentais, o trabalho repetitivo de pensar sempre a mesma coisa. Imagino um mundo em que as pessoas são retiradas desse trabalho automático e formadas para analisar resultados e alimentar os sistemas não apenas com dados, mas com regras, contexto e ângulos emocionais que só elas conhecem, trabalhando menos horas e produzindo exponencialmente mais. Esse mundo exige um perfil diferente, alguém que combine o rigor de quem lê números e procura eficiência com o lado humano e social, o cuidado, o afeto e até o instinto que nos permite ler uma sala antes de ler um relatório.

E há escolhas que, por mais apoio que a tecnologia nos dê, têm de continuar a ser humanas. Dispensar alguém, fechar um serviço, mudar uma operação que vai afetar clientes e a vida de pessoas que nunca aparecem na análise. A tentação de dizer “foi o sistema que decidiu” vai ser cada vez maior, e pode tornar-se o esconderijo mais perigoso que a liderança alguma vez teve.

Não tenho uma resposta para tudo isto, e desconfio de quem diga que a tem. Em 1930, John Maynard Keynes escreveu, em Economic Possibilities for our Grandchildren, que a geração dos seus netos poderia viver com turnos de três horas ou semanas de quinze horas, e quase cem anos depois continuamos a trabalhar como se a tecnologia nunca nos tivesse devolvido tempo nenhum. A IA pode finalmente cumprir essa promessa, ou pode simplesmente servir para fazer mais com menos pessoas, e essa escolha não vai ser feita por nenhum algoritmo. Vai ser feita por alguém, numa sala, a olhar para uma lista de nomes, a decidir se cada linha é um custo a eliminar ou uma pessoa a reconverter. A pergunta que fica não é o que a máquina vai fazer por nós, é o que vamos fazer com o tempo que ela nos devolve.

Uma máquina pode dizer o que é eficiente. Talvez só uma pessoa possa responder pelo que isso custa.

Nota do autor: Este artigo não foi escrito sozinho. Foi construído em diálogo com um agente de inteligência artificial que conhece o meu percurso, a forma como penso e o ritmo das minhas frases, e que ao longo da conversa fez aquilo que este texto descreve. Leu os meus artigos anteriores para encontrar o fio que os une, procurou e confirmou cada número e cada citação, propôs estruturas, sugeriu frases, e algumas ficaram, como aquela que diz que a máquina analisa o que foi registado. Fez em minutos o que me levaria dias, e com um rigor que nem sempre consigo ter sozinho. Mas não sabia que tive de dispensar amigos, nem o que se sente do outro lado de uma mesa quando alguém que não nos conhece pergunta porquê. Isso tive de ser eu a contar-lhe. Foi, talvez, a demonstração mais honesta do que aqui defendo: a máquina trouxe a eficiência, eu trouxe aquilo que ela não vê