Fail épico: sistema do Google Fotos identifica pessoas negras como gorilas

2 min de leitura
Imagem de: Fail épico: sistema do Google Fotos identifica pessoas negras como gorilas

Durante o Google I/O 2015, a Gigante das Buscas anunciou o Google Fotos, o novo sistema de armazenamento e organização de fotografias que prometia não limitar o espaço na nuvem para os consumidores. Um de seus destaques é exatamente o fato de ser ilimitado, ou seja, os usuários podem guardar quantas imagens quiserem na internet.

Porém, outra funcionalidade interessante do Google Fotos é a capacidade de organizar e marcar com tags – uma espécie de "etiqueta digital" – fotos semelhantes e reuni-las em um mesmo álbum. O recurso utiliza um sistema de reconhecimento de imagens para qualificar cada fotografia. Entretanto, apesar de prática e interessante, a funcionalidade acaba de se envolver em uma polêmica muito, mas muito constrangedora.

A tag atribuída a esse álbum foi "gorillas". Que feio, hein Google?

Google Fotos? Não, Google Fail

Jacky Alciné, um usuário do app da Google, fez o upload de algumas de suas fotos tiradas com sua amiga para o armazenamento da empresa. Contudo, ao vascular o serviço por esses arquivos, encontrou todas as imagens organizadas em um álbum intitulado "Gorilas". O detalhe é que tanto Jacky Alciné quanto sua companheira são negros.

Indignado, o usuário – que é programador e diz entender a essência do problema – foi ao Twitter relatando a situação e questionando "que tipo de dados de amostras de imagens coletadas resultariam nisso"? Em 30 minutos, Yonatan Zunger – chefe de arquitetura social da Google – veio com uma resposta tentando apaziguar as ânimos.

O primeiro tweet de Jacky Alciné que estava – obviamente – completamente indignado com a situação.

Resposta da Google

"Puta m*rd*. Falo em nome do Google+ aqui. Não, não é dessa forma que você determina o seu público alvo. Isso está 100% errado", disse Zunger através do Twitter. Para lidar com a situação, o profissional da Google pediu acesso a conta Jacky Alciné para resolver o problema através de uma atualização. "Estamos chocados e sentimos muito pelo que aconteceu. Estamos tomando medidas imediatas para evitar que esse tipo de resultado reapareça", disse também.

Ao site ArsTechnica, a empresa disse estar profundamente constrangida com o ocorrido e genuinamente triste. "Estamos tomando medidas imediatas para evitar que este tipo de resultado apareça novamente. Claramente, ainda há muito trabalho a ser feito com a rotulagem automática de imagens e nós estamos estudando como podemos evitar esse tipo de erro no futuro". Que fail épico, hein Google?

Você sabia que o TecMundo está no Facebook, Instagram, Telegram, TikTok, Twitter e no Whatsapp? Siga-nos por lá.