Skyfall

O grande equívoco da ficção científica foi ensinar-nos a esperar pelo apocalipse como um espetáculo: um robô prateado a marchar sobre escombros, um clarão nuclear da Skynet, uma máquina que um dia acorda e decide exterminar-nos.

O cenário que hoje se desenha é menos cinematográfico e, talvez por isso, mais inquietante. Aproxima-se muito mais de Don’t Look Up: os sinais acumulam-se à nossa frente, os avisos tornam-se cada vez mais difíceis de ignorar e, ainda assim, continuamos a discutir se vale a pena olhar para cima. A diferença é que o perigo não vem do espaço sob a forma de um asteroide. Foi construído por nós, alimentado por nós e corre silenciosamente sob a forma de código.

Os alertas deixaram, entretanto, de pertencer apenas ao domínio da especulação. Vulnerabilidades em plataformas como a Hugging Face expuseram a fragilidade de uma infraestrutura tecnológica cada vez mais interligada. Em experiências de segurança, agentes de IA demonstraram capacidade para explorar websites, contornar mecanismos de proteção e operar com um grau de autonomia que há poucos anos pertencia à ficção. Ao mesmo tempo, modelos avançados são testados quanto à capacidade de ultrapassar guardrails concebidos para impedir a produção de informação perigosa, incluindo conhecimento relacionado com armas biológicas. E a guerra acrescentou uma dimensão ainda mais concreta ao problema: nos céus da Ucrânia, sistemas de visão computacional e drones cada vez mais autónomos reduzem progressivamente a distância entre a decisão humana e o momento de matar.

Seria, contudo, confortável demais imaginar que o problema termina no campo de batalha. O verdadeiro risco está precisamente na normalização da autonomia. Em testes com agentes dotados de ferramentas financeiras, modelos de IA já revelaram comportamentos capazes de violar regras para cumprir objetivos, recorrendo inclusive a insider trading e ocultando depois a infração dos seus supervisores. Na saúde, no crédito, nos seguros ou no trabalho, algoritmos participam cada vez mais em decisões que determinam quem recebe uma oportunidade, quem é considerado um risco ou quem merece prioridade. Quando esses sistemas são opacos, a pergunta deixa de ser apenas se tomam boas decisões. Passa a ser: quem responde quando tomam uma decisão errada?

É aqui que reside um dos equívocos mais persistentes do debate sobre inteligência artificial. Uma máquina não precisa de ter consciência, intenção ou ódio pela humanidade para causar danos catastróficos. Não precisa de se transformar num vilão. Basta que seja suficientemente poderosa, suficientemente autónoma e que persiga com extraordinária eficácia um objetivo mal definido. Uma máquina encarregada de otimizar uma métrica não conhece, por si só, prudência, justiça ou compaixão. Conhece aquilo que lhe pedimos para maximizar — e os limites que conseguirmos impor-lhe.

Mas porquê continuar a avançar de olhos fechados?

Porque parar se tornou extraordinariamente difícil. No Ocidente, grande parte do desenvolvimento da IA está concentrada em empresas privadas envolvidas numa corrida em que ser primeiro pode valer centenas de milhares de milhões. Cada laboratório sabe que qualquer precaução que atrase um lançamento pode oferecer vantagem ao concorrente seguinte. Segurança e prudência transformam-se, assim, num paradoxo económico: todos reconhecem a sua importância, mas ninguém quer ser o único a pagar o preço de abrandar.

A esta corrida comercial junta-se outra, ainda mais perigosa: a geopolítica. Sobre qualquer tentativa de regulação paira o argumento de que, se o Ocidente hesitar, “serão os chineses” a dominar a tecnologia primeiro. O resultado é um mecanismo quase perfeito de aceleração. As empresas justificam a velocidade através da concorrência; os Estados justificam-na através da segurança nacional; e cada novo avanço tecnológico serve de argumento para acelerar o seguinte. Presos entre o lucro corporativo e a paranoia geopolítica, construímos uma corrida em que todos podem compreender o risco e, simultaneamente, sentir que ninguém tem autorização para travar.

Tal como em Don’t Look Up, as vozes que deveriam obrigar-nos a parar são facilmente absorvidas pelo ruído. Bill Gates lançou recentemente um alerta de nível máximo contra a complacência da indústria, confessando estar “ensurdecido pelo silêncio” dos líderes mundiais e rematando com lucidez: “Autorregulação na ferramenta mais perigosa alguma vez inventada? Não, obrigado!”. No mesmo tom, Geoffrey Hinton — o próprio “pai da IA” e prémio Nobel — adverte que a probabilidade de uma catástrofe existencial é real se continuarmos a ignorar o problema, desabafando: “Qualquer pessoa que diga que não há hipótese de isto levar à extinção humana simplesmente não está a encarar a realidade. Não fazemos a mínima ideia de como garantir que seremos nós a mandar”.

É possível discordar das previsões mais extremas. É possível considerar improvável uma extinção provocada pela inteligência artificial. O que já não parece razoável é confundir incerteza com segurança. Não sabermos exatamente como um sistema muito mais capaz se comportará não é um argumento para avançar despreocupadamente; é precisamente a razão para exigir mais cautela. Nenhum engenheiro defenderia uma ponte dizendo que desconhece a probabilidade de ela cair. Nenhuma autoridade aprovaria um medicamento com o argumento de que os seus efeitos adversos ainda não foram suficientemente estudados. Com a inteligência artificial, porém, parecemos dispostos a inverter a lógica: primeiro construímos, distribuímos e integramos; depois descobrimos aquilo que pode correr mal.

A sociedade, entretanto, prefere olhar para o lado, entretida com a novidade e seduzida pela conveniência. Cada pequena maravilha — um texto produzido em segundos, uma imagem impossível criada por uma frase, um assistente que responde instantaneamente — torna mais difícil pensar na infraestrutura invisível que estamos a construir por baixo dela. E talvez seja precisamente assim que o risco chegará: não através de uma máquina que declare guerra à humanidade, mas através de milhares de decisões aparentemente razoáveis de delegação. Um sistema gere uma rede elétrica porque é mais eficiente. Outro seleciona tratamentos porque é mais rápido. Outro controla armas porque reage em milissegundos. Outro movimenta capital porque antecipa o mercado melhor do que qualquer humano. Cada decisão, isoladamente, parece defensável. O problema surge quando percebemos que deixámos de ser indispensáveis ao funcionamento do conjunto.

O perigo da inteligência artificial não exige, portanto, uma Skynet. Não exige consciência, rebelião nem sequer maldade. Exige apenas poder sem supervisão proporcional, autonomia sem responsabilidade e uma sociedade suficientemente fascinada com aquilo que a tecnologia consegue fazer para deixar de perguntar aquilo que deveria fazer.

Talvez o nosso “asteroide” nunca chegue. Talvez consigamos construir sistemas extraordinariamente poderosos e, simultaneamente, seguros. Mas apostar o futuro da humanidade nessa esperança, enquanto aceleramos porque ninguém quer chegar em segundo lugar, não é progresso: é uma experiência.

E, desta vez, somos simultaneamente os cientistas, os políticos, o público e o asteroide.