Game mostra preconceito por trás de algoritmo de apps de relacionamento

1 min de leitura
Imagem de: Game mostra preconceito por trás de algoritmo de apps de relacionamento
Avatar do autor

O game MonsterMatch — disponível somente em inglês — pretende revelar o viés preconceituoso dos algoritmos de aplicativos de namoro. Lançado recentemente, o jogo é de autoria do desenvolvedor Ben Berman e do designer Miguel Perez e tem como objetivo simular o funcionamento desse tipo de app na prática. Contudo, no lugar de imagens de humanos, o game usa perfis de monstros. O projeto inicial da dupla  ganhou o prêmio Creative Media Awards 2018, da Mozilla.

Para jogar o MonsterMatch é bem fácil: basta criar um personagem e depois deslizar a tela para visualizar outros perfis de monstros. Assim como em um app de relacionamento, será possível ignorar, rejeitar ou selecionar um usuário que seja de seu interesse.

À medida que essa interação ocorre, o algoritmo do MonsterMatch começa a funcionar, fazendo recomendações e mostrando aos usuários como o seu sistema funciona. Dessa forma, alguns candidatos também começam a se repetir enquanto a tela do MonsterMatch é deslizada.

Perfil recomendado no game MonsterMatch. (Fonte: MonsterMatch/Reprodução).

Algoritmo de filtragem colaborativa

Isso acontece porque a maioria dos apps de relacionamentos usa um tipo de algoritmo de filtragem colaborativa, algo semelhante àqueles que fazem sugestões no Spotify e de produtos em e-commerces.

Esse tipo de algoritmo, como o próprio nome sugere, analisa decisões anteriores de outros usuários para prever novas preferências, o que pode reduzir as chances de certos tipos específicos de perfil serem vistos. Assim, o algoritmo pode passar a reter alguns usuários em detrimento de outros.

“A filtragem colaborativa [em apps de namoro] significa que os usuários mais antigos e mais numerosos do aplicativo têm influência excessiva nos perfis que os usuários veem posteriormente”, destaca o blog da MonsterMatch. Devido a esse fator, correspondências étnicas e de orientação sexual podem ser ignoradas.

MonsterMatch explica como seu algoritmo funciona em algumas recomendações. (Fonte: MonsterMatch/Reprodução)

Objeto de estudo e discussões

O uso de algoritmos está interligado ao aprendizado de máquina, no qual suas decisões passam a ser tomadas com base em bancos de dados. Caso esses últimos representem determinados padrões com relação à raça ou orientação sexual, por exemplo, a tendência é que o algoritmo passe a se comportar conforme essa lógica.

O assunto tem sido discutido em várias áreas e já foi inclusive tema de estudos científicos. A principal reivindicação é que algumas questões éticas sejam determinadas quando esse tipo de tecnologia for aplicada em alguma ferramenta.

Cupons de desconto TecMundo:

Comentários

Conteúdo disponível somente online
Game mostra preconceito por trás de algoritmo de apps de relacionamento