Twitter se desculpa após denúncias de viés racista de algoritmo

2 min de leitura
Imagem de: Twitter se desculpa após denúncias de viés racista de algoritmo
Imagem: Kacper Pempel/Reuters
Avatar do autor

O Twitter publicou no último domingo (20) um pedido oficial de desculpas por um algoritmo de corte de imagem de viés racista, após denúncias de diversos usuários que descobriram que o recurso focava automaticamente em rostos brancos em vez de negros. A empresa, a princípio, afirma ter testado o serviço antes de usar, mas, perante várias evidências, reconheceu que não foi o bastante.

Quando o Twitter começou a utilizar a ferramenta de corte inteligente em 2018, a explicação da empresa era de que um algoritmo iria determinar a parte mais "saliente" da imagem, aquela onde normalmente os olhos do usuário são atraídos, para fazer um recorte como prévia da fotografia de visualização.

Como esta palavra "saliente" permite uma interpretação subjetiva, logo começaram algumas especulações sobre o que seria exatamente esse foco. A princípio, ficou claro que o item prioritário do algoritmo seriam os rostos. Mas ninguém conseguiu determinar se seriam rostos sorridentes, ou sisudos, ou se a sua luminosidade teria alguma influência na priorização.

Os cortes tendenciosos

Esses cortes de imagens têm o objetivo de evitar que elas ocupem muito espaço no feed principal e também para permitir que um número maior de imagens seja mostrado num mesmo tuíte. Porém, um estudante de doutorado chamado Colin Madland começou a desconfiar de um viés racial quando usava o software de videoconferência Zoom.

Ao postar uma imagem da live, retratando a si próprio, Madland, que é branco, percebeu que a imagem de um colega negro foi apagada da chamada do Zoom porque o algoritmo do Twitter cortou automaticamente a imagem, e mostrou somente a de Madland.

Após tuitar que a empresa não havia encontrado nenhum tipo de tendência, a porta-voz do Twitter, Liz Kelly, afirmou que a empresa irá abrir o código-fonte de seu trabalho para quem se interessar em revisá-lo ou reproduzi-lo.

Também o Diretor de Tecnologia (CTO) da empresa, Parag Agarwal, se manifestou afirmando que o modelo necessita de melhorias contínuas e reconhecendo que a equipe está "ansiosa para aprender" com essa experiência.

Posicionamento oficial

Por meio do seu perfil oficial, o Twitter também se posicionou:

Twitter se desculpa após denúncias de viés racista de algoritmo