){kind=small}
)
O Grok, que é o chatbot de inteligência artificial (IA) da rede social X, pode ser manipulado para ajudar cibercriminosos na aplicação de golpes na plataforma. A descoberta é do pesquisador Nati Tal, do Guardio Security, que publicou a denúncia em seu perfil no serviço.
O especialista descobriu que é possível burlar um mecanismo do Grok para proteger usuários e direcionar esse recurso para amplificar fraudes que são criadas em anúncios na plataforma. Até o momento, nem o X e o bilionário Elon Musk, dono da rede social e principal porta-voz do serviço, se manifestaram sobre o caso.
Nossos vídeos em destaque
Como o Grok é usado em golpes no X
De acordo com Tal, o golpe se aproveita de uma proibição imposta pelo X que impede o uso de links diretos para outros sites em anúncios. Como resultado, essas publicidades precisam envolvem outros conteúdos, como postagens comuns, vídeos e atalhos para instalação de apps, por exemplo.
- O esquema começa quando os criminosos criam anúncios para conteúdos chamativos falsos, como materiais adultos, e anexam na postagem um clipe para atrair vítimas. Em um campo que fica abaixo do reprodutor de vídeo, porém, eles inserem o endereço para a página que deve ser acessada para iniciar o golpe;
- Após a postagem, um perfil que pertence aos responsáveis pela fraude e finge ser um usuário interessado aciona o Grok em um comentário e pede que ele mostre qual é o link de origem daquele vídeo;
- O Grok, sem saber que está expondo uma página insegura e perigosa, encontra o endereço no anúncio e envia a URL completa em um novo comentário que pode ser acessado por quem clicou na publicação original;
- Por fazer parte inclusive do feed da IA, esse tipo de interação gera legitimidade para o post e faz com que o link esteja acessível para uma grande quantidade de pessoas;
- Em vez de entregar o conteúdo prometido no vídeo, esses endereços direcionam as vítimas para links diretos com malwares de roubo de dados, páginas que aplicam phishing e redes que monetizam com anúncios indesejados.
Segundo o pesquisador, esse tipo de brecha precisa ser corrigido por vários motivos. Para começar, ele se aproveita de uma IA bastante popular que é nativa da rede social — e já esteve envolvida em várias controvérsias sobre o seu comportamento, além de ganhar recursos contestáveis que incluem um modo ‘picante' de geração de imagens.
Só que o problema é ainda mais profundo, já que comprova que os próprios anúncios no X estão fora de controle, com a plataforma aprovando até mesmo a circulação de conteúdos apelativos e com várias evidências de que são falsos.
Recentemente, Pesquisadores descobriram também uma técnica para obter dados protegidos de chatbots como o ChatGPT. Leia mais sobre isso no site do TecMundo.
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
