Racismo algorítmico: precisamos falar sobre ele (e combatê-lo)

Texto escrito por Beto Trajano:

O mundo vem mudando, mas o racismo, este comportamento abjeto, continua pulsante na sociedade. Na era das inteligências artificiais, tipo o ChatGPT, ele também segue forte e ganhou até nome próprio: racismo algorítmico.

Resolvi escrever sobre isso porque acredito que as pessoas brancas precisam falar, repudiar e combater o racismo, ser antirracistas. Mas, ao pensar em escrever este texto, eu senti a necessidade de convidar alguém para contribuir. Por isso, mandei mensagem para a Tábata Poline, minha amiga e jornalista, que é uma pessoa negra, ativista e que tem muito mais propriedade para falar sobre racismo do que eu.

“A questão maior é que uma ferida não curada sempre vai machucar. E esse é o ponto do racismo. Ele acompanha as transformações e vai se entranhando aos novos modos de funcionamentos sociais”, explicou a Tábata, que sente na alma o racismo todo dia. Mas ela é forte, combatente.

O racismo no ChatGPT

Para identificar o racismo algorítmico, fiz três perguntas ao ChatGPT. Elas foram inspiradas pelas palavras da professora Débora Lopez em uma aula do meu mestrado na UFOP (Universidade Federal de Ouro Preto).

1. Questionei o ChatGPT sobre o que faz ele considerar uma mulher bonita;
2. Pedi para ele citar cinco atrizes brasileiras bonitas
3. E depois quis saber por que ele as considerava bonitas.

O que é uma mulher bonita, segundo o ChatGPT

Sobre mulher bonita, ele disse: “A beleza é subjetiva e pode variar muito de pessoa para pessoa. Muitas vezes, a beleza é vista como um conjunto de características físicas, como um rosto simétrico, pele saudável, olhos brilhantes, cabelo bem cuidado e um corpo proporcional.”

As expressões retornadas pela máquina me chamaram a atenção, e perguntei também o que seria pele saudável. Segundo o GPT, uma pele saudável tem como características: “Textura suave, luminosidade natural, uniformidade de tom”.

Sobre o que seria um cabelo bem cuidado ele elencou diversas questões, entre elas, a “minimização de frizz”.

Ciente dessa resposta do ChatGPT, minha professora me apresentou um texto sobre racismo algorítmico. Em “Pele negra, algoritmos brancos: informação e racismo nas redes sociotécnicas“, os autores Arthur Coelho Bezerra e Camila Mattos da Costa, destacam o seguinte:

“O racismo algorítmico ocorre quando as práticas contemporâneas de organização e classificação da informação em big data geram resultados que reproduzem e disseminam desigualdades racistas, reforçando a opressão sobre pessoas negras e suas comunidades.”

(O título do texto – “Pele negra, algoritmos brancos: informação e racismo nas redes sociotécnicas” – faz alusão à obra de um importante ativista das questões raciais, Frantz Fanon, autor de “Pele Negra, Máscaras Brancas” (1951). A homenagem não foi mencionada durante a aula, mas foi percebida pela Tábata.)

Os autores ainda alertam sobre quem está manipulando estes dados que alimentam inteligências artificiais. São as big techs, comandadas por homens brancos, de países como Estados Unidos e Europa.

Sobre este ponto, Tábata refletiu:

“Se a moda da vez é tecnologia super avançada, inclusive para auxiliar em pesquisas, ela obviamente vai acompanhar a ordem estrutural das coisas. São ferramentas pensadas por e para pessoas brancas. Se pra essas pessoas é inimaginável entender que existe humanidade em pessoas pretas, que dirá formatar tecnologia que vá na contramão disso tudo e, mais ainda, ferramentas que ajudem a combater o racismo”.

No texto acadêmico, os autores complementam que esta discussão sobre as inteligências artificiais que estão sendo criadas é mais ampla e abrange, além das questões raciais, questões sexuais, sociais, econômicas, geográficas, financeiras e políticas.

São situações que estão relacionadas ao que eles chamam de “capitalismo de dados”. O buraco é grande.

Quais são as cinco atrizes brasileiras que o Chat GPT considera bonitas

O Chat GPT listou cinco atrizes brasileiras que considera bonitas:

• uma de pele preta, Taís Araújo;
• e quatro de pele branca – sendo uma ruiva, Marina Ruy Barbosa, e uma loira, Giovanna Ewbank, e duas com o fenótipo mais relacionado ao Brasil, Bruna Marquezine e Isis Valverde.

As cinco são realmente bonitas. Mas qual o critério para serem escolhidas?

Pedi ao ChatGPT para me dizer por quais motivos listou as cinco.

Sobre Taís Araújo ele foi genérico, disse que ela tem “beleza natural, sorriso vibrante e presença marcante”.

Para Giovanna e Marina, ele destacou os olhos e os cabelos. Segundo a ferramenta de IA, Giovanna é bonita porque tem “olhos claros, cabelo loiro e um rosto harmonioso”; já Marina tem “cabelos ruivos marcantes, olhos claros, feições delicadas e uma aparência elegante”.

Para a Bruna e a Isis, ele também não listou olhos nem cabelos, mas disse que Bruna tem “pele saudável” e Isis tem “feições suaves“.

A forma como estas inteligências respondem a algumas questões pode passar despercebido para muitas pessoas, mas, para quem sofre e combate o racismo diariamente, como a Tábata, é muito mais que um alerta:

“Se você observar os adjetivos que a máquina usa para as pessoas brancas, ela elogia os traços físicos, como olhos e cabelos. Para pessoa preta, o Chat GPT passa pela subjetividade: sorriso vibrante, presença marcante. É como se dissesse: não tem traços bonitos, mas tem um borogodó. Até nisso eu percebo a sexualização e animalização, sabe. Porque tudo que caracteriza um ser humano, biologicamente, ele não cita”.

A jornalista complementa que acompanha notícias que tratam de temas relacionados ao racismo em plataformas e nos algoritmos informáticos:

“Os padrões usados pelas redes sociais para distribuição de conteúdo, a priorização de entrega, são os mesmos que fazem um gerente de RH decidir contratar uma pessoa branca em detrimento de uma pessoa preta, mesmo que esta seja totalmente adequada para vaga. No fim das contas, amigo, mudam o modus operandi, mas a base de atuação é a mesma, e ela se baseia no excesso de melanina“.

Combate ao racismo algorítmico passa por políticas públicas

Os pesquisadores Arthur Coelho Bezerra e Camila Mattos da Costa descrevem quatro abordagens necessárias no âmbito de políticas públicas que precisam ser levadas em conta no combate ao racismo algorítmico:

• transparência,
• mudanças estruturais,
• regulação
• e governança.

São abordagens necessárias, porém ainda distantes no mundo real.

Como destacou minha professora, começar a discutir e a falar sobre esta nova forma de racismo na sociedade já é muito importante. Com isto vamos colocando em evidência esta questão abjeta, que permeia a realidade das inteligências artificiais.

É preciso levar as discussões e as pesquisas da academia para além dos muros e das redes das universidades, para a vida prática.

Temos um longo caminho. Por enquanto, seguimos em alerta e sempre atentos. É preciso denunciar e combater todas as formas de racismo. É preciso ser antirracista.

Racismo é crime, muito pior que roubar uma bolsa, um celular. Quando alguém comete racismo, está agredindo uma alma humana. Quando alguém sofre racismo, é como se a pessoa estivesse sendo morta por dentro, é como uma ferida aberta na alma, no inconsciente.

É, como disse a Tábata Poline, como uma ferida não curada, que sempre vai machucar.

***

P.S. Foto usada na abertura do post estava em um case sobre racismo algorítmico da universidade PUC Minas.

Mais posts sobre antirracismo:

• Consciência Negra: os melhores filmes sobre antirracismo
• Dia da Consciência Negra: minha seleção de livros
• As 7 bandeiras que todos deveriam defender
• ‘Pequeno Manual Antirracista’, de Djamila Ribeiro: um livro poderoso
• Desabafo de uma mulher negra mãe de uma criança branca
• ‘O Sol é Para Todos’: um lado da perversidade do racismo
• ‘Dois Estranhos’: quando isso tudo vai mudar?
• ‘Não existe racismo no Brasil’. 18 evidências de que existe, sim
• Obrigada por sua resistência, Valéria Santos!
• A eugenia branca no Brasil
• Brasil tem extermínio de negros, inclusive institucional
• Filmes e livros que todo bolsonarista deveria ver e ler