Machine learning está ajudando YouTube na luta contra conteúdos violentos

O YouTube é uma plataforma aberta para publicação de vídeos, o que significa que podemos encontrar materiais variados nele – incluindo nessa relação conteúdo mais violento e até mesmo associado ao terrorismo. Entretanto, a Google anunciou algumas medidas que estão ajudando a diminuir drasticamente esse tipo de gravação de aparecer na página.

Segundo informações divulgadas pela própria Google, a empresa vem utilizando machine learning em conjunto com esforços de funcionários para tentar fazer do YouTube um lugar livre de vídeos com violência extrema. Graças a essa medida, a Gigante das Buscas conseguiu remover mais de 75% desse tipo de conteúdo no último mês antes mesmo que alguém pudesse sinalizar o material como impróprio.

Outro detalhe mencionado pela companhia é o fato de que o sistema tem sido mais eficiente que os funcionários humanos, bem como o fato de que a inteligência artificial ajudou a duplicar a quantidade de vídeos removidos e também a taxa em que eles são apagados da rede.

Com mais de 400 horas de conteúdo sendo enviada para o YouTube a cada minuto, encontrar e tomar a ação [necessária] contra o conteúdo extremista se mostra um desafio significante

“Com mais de 400 horas de conteúdo sendo enviada para o YouTube a cada minuto, encontrar e tomar a ação [necessária] contra o conteúdo extremista se mostra um desafio significante. Mas no decorrer do último mês, nosso uso inicial de machine learning mais que dobrou tanto o número de vídeos relacionados à violência extrema que temos removido, bem como a taxa com a qual esse tipo de conteúdo desaparece”, explicou a Google.

Mais medidas

Para complementar essa leva de ações, a Google está contratando pessoas de organizações de renome (No Hate Speech Movement, Anti-Defamation League e Institute for Strategic Dialogue), além de mostrar listas com curadoria para as pessoas e introduzir padrões mais rígidos para vídeos que não são ilegais, mas que já foram sinalizados pelos usuários. “E isso é apenas o começo”, conclui a empresa.