Twitter confirma que IA prefere mulheres e pessoas brancas em fotos

1 min de leitura
Imagem de: Twitter confirma que IA prefere mulheres e pessoas brancas em fotos
Avatar do autor

O Twitter publicou nesta quarta-feira (19) o relatório final a respeito das denúncias de que o seu algoritmo tem um viés racista, além de outras escolhas que interferem no corte automático de imagens na rede social.

Segundo o estudo, que foi assinado por três pesquisadores da plataforma, o algoritmo de corte de imagem de fato realizava escolhas que eram excludentes.

Os testes internos realizados indicam que 8% das escolhas favoreceu mulheres em vez de homens, enquanto a preferência de pessoas brancas em relação às negras foi de 4% — porcentagens consideradas significativas na pesquisa.

Por outro lado, havia a hipótese de que a IA também preferia partes do corpo no lugar de rostos, em uma possível sexualização de imagens. Essa acusação, entretanto, foi refutada.

O GIF explica em resumo como funciona o algoritmo de corte.O GIF explica em resumo como funciona o algoritmo de corte.Fonte:  Twitter Blog 

"O corte baseado em aprendizado de máquina é fundamentalmente falho porque ele remove o poder do usuário e restringe a expressão de sua própria identidade e valores, em vez de impor um olhar normativo sobre que parte da imagem é considerada a mais interessante", diz o relatório.

A plataforma citou várias razões para o viés do algoritmo, mas nenhuma explica todos os casos. Os problemas envolvem a cor dos olhos e confusões com as cores do fundo das imagens. Ainda assim, a empresa diz que o corte de imagens "é um trabalho melhor feito por pessoas" e que "nem toda tarefa na rede é boa para ser feita por um algoritmo".

Muito trabalho pela frente

A plataforma começou a investigar o assunto em setembro de 2020, quando conjuntos de mensagens na rede social sugeriam que o corte automático de imagens era enviesado, dando preferência para pessoas brancas e, em alguns casos, deixando rostos de fora para focar em outras partes do corpo.

Como conserto parcial até o momento, desde maio de 2021 o Twitter exibe de forma integral as imagens no aplicativo para dispositivos móveis, evitando o uso de IA para mexer no arquivo.

Twitter confirma que IA prefere mulheres e pessoas brancas em fotos