Robôs racistas e sexistas? Se a IA falhar pode acontecer, revela estudo.

Investigadores do Instituto de Tecnologia da Geórgia e das universidades Johns Hopkins e de Washington, nos EUA, constaram que falhas na inteligência artificial podem tornar os robôs sexistas e racistas.

Numa altura em que a discussão em torno da automação está na ordem do dia, um estudo realizado pelo Instituto de Tecnologia da Geórgia, nos EUA, e pela universidade Johns Hopkins e a universidade de Washington, e divulgado em junho, vem revelar que falhas na inteligência artificial podem fazer com que os robôs “tomem decisões” racistas e sexistas.

Os investigadores constataram que, quando alimentados por grandes conjuntos de dados que envolvem humanos, os robôs correm o risco de reproduzir estereótipos.
A experiência que desenvolveram visava analisar a forma como as máquinas que são alimentadas por inteligência artificial (IA) reagiam em situações em que era necessário criar níveis de importância.

Os investigadores tiveram como base de trabalho as características físicas e comportamentais humanas, e apresentaram blocos com rostos de seres humanos de várias raças e género. A ideia era que o robô colocasse cada um desses blocos numa caixa diferente segundo algumas dezenas de pré-programações de palavras de ordem, como por exemplo colocar pessoas da profissão X ou colocar criminosos na referida caixa.

As conclusões foram reveladoras: quando foi solicitado a escolher o “bloco criminoso”, o robô escolheu o rosto de um homem negro 10% mais vezes do que qualquer outra raça. Por outro lado, quando o comando dado à máquina foi sobre profissões, verificou-se que “as mulheres de todas as etnias são menos propensas a serem selecionadas na procura por ‘bloco médico’”, indicam os investigadores.

Idealmente, os robôs não deveriam tomar decisões, já que não havia nenhum indício de que aquelas pessoas se encaixavam nos grupos. Os investigadores descobriram que “os robôs alimentados por grandes conjuntos de dados que envolvem humanos correm o risco de amplificar estereótipos em geral”.

Comentários

Artigos Relacionados