IA da Microsoft confunde cantoras negras em notícia sobre racismo

Uma Inteligência Artificial da Microsoft confundiu artistas da banda Little Mix em notícia sobre racismo, uma semana após a empresa anunciar a demissão de jornalistas do site MSM, que foram substituídos pela tecnologia. A matéria, que abordava a experiência da cantora Jade Thirlwall, foi publicada com uma foto de sua colega de banda Leigh-Anne Pinnock.

Nesta sexta-feira (06), Thirlwall fez uma publicação no Instagram em resposta ao erro do MSN. Na postagem, ela disse que este tipo de situação ocorre frequentemente. "Me ofende que você [o site] não soube diferenciar duas mulheres negras em um grupo de quatro", escreveu a cantora.

O software da Microsoft publicou uma matéria sobre a cantora Jade Thirlwall (esquerda) com uma imagem de sua colega Leigh-Anne Pinnock (direita)Fonte:  The Guardian/Reprodução 

Com as demissões, o software da Microsoft seleciona e publica notícias automaticamente, sem a revisão de um jornalista. Quando questionada sobre as razões para manter uma tecnologia que não consegue diferenciar pessoas negras, a empresa apenas respondeu: "Assim que ficamos cientes sobre o problema, nós tomamos as providências necessárias para corrigir a imagem".

Enquanto o site The Guardian classificou a tecnologia da empresa como racista, um funcionário interno disse que a Microsoft estava muito preocupada com a repercussão da matéria: "Com todos esses protestos anti-racistas, agora não é o momento para cometer erros". No entanto, a empresa não anunciou mudanças em seu sistema.