Racismo Algorítmico: os impactos no Marketing de Influência

Pautas raciais que abordam a representatividade e a diversidade estão cada vez mais presentes na comunicação, seja ela interna, publicitária ou institucional. No marketing de influência não seria diferente.

Mesmo que em passos tímidos, diversas marcas estão produzindo conteúdos mais diversos para suas mídias e incluindo influenciadores digitais negros em suas campanhas. Contudo, a estrutura das próprias plataformas está tornando a diversidade mais difícil por conta do chamado racismo algorítmico.

O que é Racismo Algorítmico?

O racismo algorítmico é uma forma de machine learning tendencioso. Ou seja, os algoritmos aprendem sobre nós captando módulos de comportamento e podem replicar e perpetuar ideias indesejáveis como misoginia, racismo e homofobia, conforme explica Joy Buolawini, pesquisadora do MIT.

Dessa forma, o racismo algorítmico é a aplicação de preconceitos e vieses raciais na programação de plataformas online, como sites de pesquisa, bancos de dados e até redes sociais. Por conta disso, acabam por replicar e intensificar dinâmicas de cunho racista nesses ambientes, seja com o ocultamento de pessoas negras ou até a intensificação do discurso de ódio.

Perpetuar Preconceitos

É comum considerar que a parcialidade é uma característica puramente humana e que a inteligência artificial colaboraria para superar isso. Porém, sistemas de aprendizagem de máquina podem perpetuar preconceitos existentes na sociedade, pois, em sua programação, podem ser incutidos vieses humanos, já que são alimentados por dados criados, selecionados e fornecidos por pessoas.

Qual a causa do Racismo Algorítmico?

O processo de construção dos algoritmos das mídias sociais é feito a partir da alimentação dos códigos com dados que são identificados e aprendidos no processo de machine learning.

Esse aprendizado pode ocorrer durante o uso dos algoritmos nas redes, como na priorização do tipo de conteúdo mais consumido pelo usuário, ou da implementação desses algoritmos, como no processo de reconhecimento de rostos humanos.

Neste segundo caso, temos a possibilidade da manifestação do racismo algorítmico como resultado da falta de diversidade no mercado tecnológico.

A baixa presença de pessoas negras na construção desses códigos acaba por fazer com que problemas de representatividade no processo de alimentação de dados não seja tão percebido. Assim, se torna muito mais comum o uso enviesado de bancos de dados e de imagens, que acabam “ensinando” os códigos a invisibilizar pessoas negras.

Isso decorre do racismo estrutural, ou seja, do racismo que molda a forma de pensamento e a visão de mundo da sociedade. Assim, esse não é um processo individual, mas o resultado de uma construção que exclui e invisibiliza pessoas negras de forma inconsciente, tornando o racismo a regra e não a exceção.

Por que pensar no Racismo Algorítmico no Marketing de Influencia?

Por conta dessa manifestação do racismo nas plataformas, muitas vezes conteúdos com pessoas negras são invisibilizados em um processo de shadowban, ou seja, de bloqueio ou limitação de locais que o conteúdo aparece nas comunidades online, fazendo com que essas publicações sejam menos propensas a serem visualizadas por outros usuários.

Isso acontece pois, muitas redes sociais, incluindo o Instagram e o Twitter, fazem o impulsionamento de publicações com rostos humanos e, segundo Buolamwini, os códigos de reconhecimento facial mais comuns usados por programadores foram treinados de forma enviesada, com bancos de dados sem diversidade, e, assim, têm dificuldades em fazer o reconhecimento de pessoas negras.

Dessa forma, há um impulsionamento, majoritariamente, de conteúdos de pessoas brancas. Os demais, sejam campanhas com influenciadores negros ou outros tipos de postagens que apresentem diversidade racial, acabam sendo invisibilizados pelas plataformas.

Racismo Algorítmico em Ação

O Twitter já admitiu o uso de algoritmos racistas para os recortes das imagens postadas nas redes. Seus códigos eram construídos para identificar e destacar os pontos mais relevantes das fotos na rede. Porém, o algoritmo tendia a privilegiar rostos de pessoas brancas nos cortes e reposicionamentos.

Um exemplo destes recortes tendenciosos é – uma imagem do ex-presidente americano Barack Obama com um senador, Mitch McConnel. Apesar de Obama ter uma maior expressão dentro e fora do país, o algoritmo identificou o senador como figura de maior relevância e ocultou a imagem do ex-presidente.

A partir de denúncias, estudos internos foram feitos e a rede social está trabalhando para corrigir os vieses de seus algoritmos.

O mesmo pode ser dito sobre o Instagram. O Facebook, empresa dona da rede social, declarou que está investigando as alegações de racismo nos algoritmos da plataforma.

A rede social foi acusada de entregar aos seguidores mais conteúdos contendo imagens de pessoas brancas. Como forma de teste, influencers negros postaram fotos com pessoas caucasianas em seus perfis para compreender o nível diferenciado de entrega dos conteúdos.

Como resultado, os influenciadores identificaram um alcance maior dessas publicações em comparação com seu engajamento médio. A exemplo disso, temos a página @falandoderacismo, que identificou, proporcionalmente, um alcance 100% maior na publicação com a imagem de uma moça branca em comparação com a média.

Influenciadores Negros vão ter menos resultado?

Essa dificuldade na entrega de conteúdos e a invisibilidade de figuras negras em duas grandes mídias sociais do mercado podem gerar o questionamento sobre a presença de influenciadores negros em campanhas de marketing de influência.

Contudo, a invisibilização de postagens com diversidade racial está mudando. As mídias sociais estão revendo seus algoritmos e trabalhando para reverter essa realidade. Assim, influenciadores  negros não terão mais desvantagens algorítmicas nos seus resultados e conseguem mostrar ainda mais sua relevância para ações de marketing de influência.

Além disso, as métricas alcançadas não são os únicos resultados relevantes para a escolha de influenciadores negros em campanhas. Esses produtores de conteúdo têm uma conexão maior com a população negra, que representa mais de 50% do total da população, segundo o IBGE.

Um ponto que deve ser destacado é que a inclusão de pessoas negras em campanhas de marketing de influência colabora para a construção de uma cultura de diversidade na comunicação, além de pressionar as plataformas para que as reparações em seus algoritmos sejam mais rápidas e eficientes.