Discussões sobre a existência de algoritmos racistas são uma prova de que muito ainda precisa ser feito para que a internet seja boa para todos. Não é de hoje que criadores de conteúdo têm falado sobre a diferença de divulgação dos conteúdos levando em conta a diferença do tom de pele.
Algumas outras denúncias também já foram feitas ao longo dos anos. Um exemplo que viralizou foi o de pesquisas feitas no google que relacionava adjetivos como “feio” a pessoas negras. Ou até denúncias mais recentes: quem não lembra do caso em que o ator Michael B. Jordan foi confundido com criminoso procurado em Fortaleza?
Esse último caso reforça os riscos do reconhecimento facial, principalmente quando usados em casos policiais e investigações. Isso porque essa tecnologia pode ser influenciada pelos vieses dos seus criadores, o que pode levar a casos de racismo.
A questão que fica é: por que existem algoritmos racistas? Como tudo isso começou e como pode ser resolvido? Para saber essas respostas e entender melhor sobre o assunto, continue lendo o texto.
Para te deixar com bastante informação, vou te contar sobre como algoritmos são treinados, exemplos de onde são usados e até mesmo uma explicação da relação deles com as redes sociais. Se você quiser ir direto para o tópico de algoritmos racistas, clique aqui.
O que é algoritmo
Começando pelo básico: para entender como chegamos a esse ponto de algoritmos racistas, precisamos entender o que é um algoritmo e como ele funciona.
Algoritmos são instruções para que o sistema realize uma ação e/ou alcance um dado objetivo. São análogos às receitas que usamos na cozinha ou tutoriais que nos ensinam a fazer algo.
Existem suas versões mais simples que servem para atender uma dada instrução, como um quiz com respostas condicionais (se isso, então só podem as opções A e B, e não C e D), por exemplo, ou aqueles que vão formar o conteúdo do nossos feeds de forma personalizada. Para o segundo caso, os algoritmos precisam ser treinados para saber como agir.
Abaixo um exemplo de uma inteligência artificial treinada para reconhecer emoções humanas:
Treinando o algoritmo
O treinamento de algoritmos funciona com o uso de inteligência artificial, machine learning e big data. Isso quer dizer que o algoritmo é treinado de uma forma bem parecida com como se ensina algo para uma criança. Apresenta uma informação de diferentes formas e repetidas vezes até que ele entenda e guarde isso em suas informações, como por exemplo os captchas para selecionar semáforos.
Big data são dados em grandes quantidades e variedades e que chegam cada vez mais rápido. A partir dessa grande quantidade de informações, o algoritmo armazena esses dados de acordo com o que ele foi treinado — aí entra a inteligência artificial. Assim, ele passa a entender as ações a serem tomadas em diferentes situações e comandos.
Exemplo de algoritmos treinado
Um exemplo de algoritmo que é muito bem treinado é o da rede social TikTok. Você passa o primeiro dia treinando o algoritmo e, a partir daí, ele passa a te apresentar conteúdos muito específicos para os seus gostos.
No entanto, por mais que pareça que cada um está recebendo um conteúdo totalmente personalizado, quando observamos o que as pessoas estão vendo, percebemos que é tudo muito parecido. Mesmo rostos, mesmas músicas, mesmos lugares e poses — basta dar uma olhadinha no perfil Insta Repeat pra se assustar!
Isso porque o algoritmo percebe o que grande parte das pessoas estão assistindo e procurando e entende que mostrar mais daquilo para mais pessoas vai fazer com que o tempo dentro da rede social aumente. Dessa forma, mais rostos parecidos que seguem um padrão são mostrados enquanto outros conteúdos feitos por pessoas com a aparência diferente do que o algoritmo entende como padrão não é tão impulsionado dentro da plataforma.
Aí que também apresenta o problema dos algoritmos racistas.
Onde funcionam esses algoritmos?
Podemos ver os algoritmos funcionando em diversas ferramentas e aplicativos que usamos no dia a dia. Veja alguns exemplos:
Propagandas
Quase tudo o que é feito na internet deixa rastros e esses rastros se transformam em dados. Se você está pensando em comprar um notebook novo e passa a pesquisar por artigos explicando qual notebook é melhor, o algoritmo vai entender que você está procurando por um novo notebook e, quando você perceber, todas as propagandas que irão aparecer pra você serão sobre isso.
Busca do Google
As buscas feitas no Google Search, por exemplo, funcionam a partir do trabalho feito pelos algoritmos para entregar o conteúdo que o Google entende como de mais valor. Fora isso, a ideia é otimizar o seu tempo enquanto usa a ferramenta de pesquisa, por isso o algoritmo atua também ao recomendar complementos para a sua pesquisa baseado no que as pessoas mais buscam ou suas buscas recentes.
Plataforma de Streaming
É possível observar de forma mais óbvia ainda em plataformas de streaming como a Netflix e o Spotify. Para entregar conteúdos personalizados é preciso algoritmos para entender melhor as preferências dos usuários e suas preferências para, assim, recomendar conteúdos específicos e até montar recomendações para cada um.
Um caso interessante sobre a Netflix é que ela tem diversas capas para a mesma série. Cada usuário vê a capa que mais se relaciona com o seu gosto. Por exemplo, uma pessoa que assiste muito romance, as capas dos filmes e séries irão remeter a isso, mesmo que o filme seja de terror.
Redes Sociais
Há quem diga que não percebe como as redes sociais afetam a própria vida e que consegue ficar sem usar sem problemas. Acontece que, ao tentar de fato parar de usar as redes sociais, muitas pessoas não conseguem ficar nem um dia inteiro sem olhar ao menos uma vez as notificações.
E tem uma razão para isso: as redes sociais foram programadas para nos viciar e influenciar nossas ações, dentro e fora delas. Os antigos programadores do Facebook entenderam que as pessoas procuram por validação das outras pessoas e que, se tivesse algum incentivo vindo dos outros, talvez assim as pessoas sentissem mais vontade de postar conteúdos na plataforma. Assim surgiu o botão do like.
O botão do like é um dos pontos principais que fizeram com que os programadores encontrassem um jeito de manter as pessoas conectadas por mais tempo. Uma pessoa posta uma foto, por exemplo, e então espera que venham as curtidas e os comentários como uma validação. Essa validação faz liberar dopamina, o hormônio ligado ao bem-estar e recompensa.
Ou seja, as pessoas passam a procurar por essa sensação de recompensa cada vez mais. Isso não significa que toda vez que você entra nas redes sociais essa recompensa acontece — e é aí que o algoritmo entra.
O algoritmo entende o que gera mais engajamento nas redes e é esse tipo de conteúdo que ele dispara para mais pessoas. Mas, também para manter essa procura por recompensa, o algoritmo às vezes deixa de distribuir um conteúdo, fazendo com que a validação seja menor. Isso provoca nas pessoas a vontade de querer postar e estar nas redes ainda mais com a ideia de que nas próximas vezes, talvez, a recompensa seja maior.
Por que o algoritmo é racista?
Agora chega a parte mais complicada: o algoritmo é racista porque treinamos ele assim.
Partindo da ideia que o algoritmo é treinado com as informações dadas pelas pessoas, o resultado dos algoritmos apenas revela como grande parte das pessoas enxergam as outras. Por exemplo, o algoritmo não sabe o que significa as qualidades de ser feio ou bonito, mas, a partir das pesquisas e respostas das pessoas, ele passa a associar feio a um perfil e bonito a outro.
Só depois que isso acontece é que o algoritmo passa a reproduzir os vieses. Por exemplo, quando o algoritmo é treinado para entender criminosos, quem treina esses algoritmos provavelmente já tem um preconceito sobre qual é o perfil de um criminoso, o que leva a casos como o do ator Michael B. Jordan, apresentado na introdução.
Exemplos de algoritmos racistas
Existem outros casos também que o algoritmo nem precisa ser treinado pelos usuários para tomar certas decisões. Abaixo você vai ver casos de algoritmos racistas em diferentes aplicativos.
TikTok
Uma das redes sociais que mais tem crescido nos últimos anos é o TikTok e já é nítida a influência que ele tem em diversos âmbitos culturais: desde moda e música até discussões mais profundas como identidade de gênero e racismo.
No entanto, o TikTok já recebeu denúncias sobre censurar termos antirracistas e também “esconder” conteúdos com pessoas consideradas feias e de lugares periféricos. Dessa forma, pessoas que criam conteúdos na plataforma saem em desvantagem se não for uma pessoa considerada padrão e com condições diferentes de moradia.
Fora que, por ser uma plataforma que influencia tantas pessoas mais novas, esses usuários passam a entender o que aparece mais vezes em seus feeds como o padrão a ser seguido. E, se eles não vêem pessoas com quem possam se identificar, passam a pensar que eles também precisam mudar. Por isso é tão importante a representatividade étnica.
FaceApp
Os problemas das plataformas vão além de decidir qual conteúdo é viral quando o assunto é o tom de pele. Diversas pessoas já reclamaram de como os filtros nas redes sociais não reconhecem a pele negra ou, quando reconhecem, o filtro que diz deixar a pessoa mais bonita, acaba clareando a pele, como foi o caso do aplicativo FaceApp.
Google Search
Um dos casos mais conhecidos quando o assunto é algoritmo racista é o caso da Google. Quando pesquisas como “tranças bonitas” eram feitas, apareciam mulheres brancas e loiras, mas ao pesquisar “tranças feias” o resultado era com a maioria de mulheres negras com cabelos cacheados ou crespos.
Esse tema foi tão polêmico que agora a Google já começou a resolver isso. Se você pesquisar esses termos, as primeiras imagens são prints comentando sobre esse acontecimento. Porém, o caso da Google é mais um exemplo de como o pensamento das pessoas refletem nos algoritmos das plataformas.
Outros casos ao longo do tempo também foram apontados. Entre eles houve a denúncia da pesquisa pelo termo “três adolescentes negros” em comparação com a pesquisa de “três adolescentes brancos”.
No primeiro caso, a pesquisa apresentava adolescentes em uma foto de ficha criminal. Já com os adolescentes brancos, é uma foto com pessoas sorridentes se abraçando.
Outra rede social que passou por denúncias é o Twitter. Usuários da plataforma perceberam que o algoritmo priorizava a pele branca em um post com várias imagens, na funcionalidade de crop (ou corte de imagem). Para caber no layout, o Twitter recorta as imagens para encaixar e, com isso, vem o problema.
Usuários do Twitter até fizeram testes, colocando fotos de pessoas brancas e negras juntas para ver qual apareceria em destaque. E, independente da ordem que as imagens eram colocadas, a pessoa branca sempre era priorizada.
Reconhecimento Facial
Há diversos problemas que podem tornar o reconhecimento facial um risco. Muitas vezes aplicativos não reconhecem a pele negra, o que torna mais difícil para fazer identificação facial no celular, por exemplo.
Além de que, ao usar o algoritmo de reconhecimento facial para encontrar criminosos, as pessoas que são apresentadas como suspeitos são pessoas negras, muito ligado ao racismo presente em quem programou e treinou o algoritmo.
O caso do ator Michael B. Jordan é só mais um dentre tantos outros erros cometidos pelo reconhecimento fácil contra pessoas negras. Pessoas sofrem as consequências desses erros de algoritmo todos os dias e as mudanças ainda são recentes.
Claro que essas questões já foram apontadas várias vezes e algumas redes sociais já começaram a fazer mudanças para diminuir as consequências. Um exemplo é o Pinterest que agora, ao pesquisar dentro da rede, ele oferece diferentes paletas de cor de pele para o que a pessoa que está pesquisando se identifique, assim as pesquisas são mais direcionadas.
Possíveis formas de acabar com os algoritmos racistas
Muito ainda precisa ser feito e, talvez, seja um pouco mais difícil de resolver. Uma vez que o algoritmo é treinado a partir do que as pessoas pensam, o mais correto seria mudar a mentalidade das pessoas — algo que está sendo uma luta há vários séculos.
Maior inclusão nas empresas de tecnologia
Outra alternativa é aumentar o número de pessoas pretas dentro das empresas de tecnologia, para que elas possam contribuir no desenvolvimento de programas para que não cometam esse erro. Uma vez que empresas tecnológicas são majoritariamente constituídas de homens brancos, não é sempre que eles levam outros tipos de vivências em consideração ao fazer um novo projeto.
Testar aplicativos em diferentes tipos de peles
Assim como fazer mais testes dos aplicativos com diferentes tipos de peles. Dessa maneira, os desenvolvedores conseguiram entender quais os pontos a serem melhorados.
Por ser um assunto atual e complexo ainda tem muito o que discutir e melhorar para que todos consigam ter uma boa experiência online. Para manter essa discussão sempre acontecendo, lembra de compartilhar com sua amiga ou amigo!
Ah! E conta pra gente nos comentários o que você pensa sobre esse assunto e quais pontos você entende que pode ser melhorado para uma experiência melhor para todos!
