Instagram anuncia novo sistema com IA para detectar bullying em imagens

O Instagram anunciou nesta terça-feira (9) sua primeira ferramenta após a saída da dupla de cofundadores, Kevin Systrom e Mike Krieger. O novo chefe da plataforma, Adam Mosseri, apresentou um sistema de identificação de bullying em imagens, a partir do uso do aprendizado de máquina de inteligência artificial (IA).

No ano passado, a rede social implementou o monitoramento proativo de comentários ofensivos e a ideia é fazer o mesmo com o conteúdo audiovisual — incluindo no material distribuído em tempo real. “Mas como funciona isso?”, você deve estar se perguntando. Ainda não há uma solução infalível para essa questão, então a proposta é se basear em casos confirmados.

Um porta-voz afirmou ao Mashable que o “detector de bullying” consegue identificar "ataques à aparência ou ao caráter de uma pessoa, bem como ameaças ao bem-estar ou à saúde" em uma foto. O processo envolve moderadores humanos, que vão usar as diretrizes da comunidade do app para remover a postagem. Essa notificação é que ajudará a máquina a reconhecer os comportamentos inadequados e servirá para alimentar o aprendizado do algoritmo.

Novos controles para a seção de comentários.Fonte: Mashable

"Essa mudança nos ajudará a identificar e remover significativamente mais bullying — e é um próximo passo crucial, pois muitas pessoas que sofrem ou observam bullying não informam o ocorrido. Isso também nos ajudará a proteger os membros mais jovens da comunidade, já que os adolescentes experimentam taxas mais altas de bullying on-line do que outros", explicou Mosseri.

“Câmera da bondade” também vem para deixar o Insta mais “saudável”

O Instagram também está introduzindo um novo filtro, chamado de "câmera da bondade", para ajudar a espalhar positividade na plataforma. Quando você seleciona o efeito no modo selfie, corações preenchem a tela e você será incentivado a marcar um amigo.

Quem for taggeado será notificado e poderá compartilhar o post em sua própria história ou "espalhar gentileza" com uma selfie própria. Se você ligar o recurso com a câmera traseira, poderá adicionar um filtro com a hashtag #kindcomments e “gentileza” em vários idiomas.

A nova "câmera da bondade" do Insta. Fonte: Mashable

Tudo isso vem para deixar a imagem do Instagram “mais leve”, dissociada do Facebook. A “empresa-mãe”, além dos escândalos de privacidade que enfrentou neste ano, costuma ser citada em muitos casos de ciberbullying. As novidades devem ser distribuídas nas próximas semanas, em sincronia com o Mês de Prevenção Nacional de Bullying, nos Estados Unidos, e da Semana Anti-Bullying, no Reino Unido.