Entre as muitas novidades lançadas com inteligência artificial (IA) embutida, um dos setores que mais cresce em downloads é o de chatbots que simulam namoradas. O problema é que esse é também um dos mais perigosos, de acordo com um levantamento da Mozilla.
A Mozilla, dona do Firefox fez um estudo avaliando 11 dos principais chatbots que simulam um relacionamento romântico. Eles incluem apps populares para Android e iOS, como Replika: My AI Friend, EVA AI Chat Bot & Soulmate, iGirl e CrushOn.AI.
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
No geral, as conclusões são preocupantes: esse tipo de serviço digital é um risco para a sua privacidade e capaz até de causar mais danos do que prestar algum auxílio.
Quais os riscos das namoradas de IA?
O estudo avaliou os chatbots em cinco quesitos: uso de dados, controle de dados, rastreamento, segurança e IA. Todos os 11 foram considerados uma ameaça à proteção da privacidade de quem interage com esses robôs.
Um dos problemas é a quantidade de informações absorvidas por esses chatbots, em especial pelo conteúdo sensível das conversas. IAs de namoro ficam sabendo dados pessoais, histórico médico e questões íntimas, como hábitos sexuais e de identidade de gênero.
Um dos chatbots de IA pede até áudio e fotos do usuário.Fonte: Mozilla
Além disso, há muitos rastreadores que coletam dados do usuário e podem compartilhar essas informações com terceiros, como no caso de publicidade direcionada.
Para piorar a situção, essas IAs são pouco transparentes sobre o armazenamento dessas informações e as camadas de segurança do chatbot em relação a esses conteúdos escritos em conversas. Metade delas nem sequer permitia ao usuário pedir o apagamento do histórico ou dos dados pessoais trocados no bate-papo.
Para Misha Rykov, um dos pesquisadores envolvidos na pesquisa, é importante entender que esses chatbots de IA especializados não são amigos ou companheiros. Além disso, eles podem até piorar a condição emocional de alguém que acaba ficando dependente da IA para conversar.
"Apesar de serem vendidos como algo que vai melhorar a sua saúde mental e o bem-estar, eles se especializam em entregar dependência, solidão e toxicidade, tudo isso enquanto tentam tirar o máximo de dados de você", diz.
Apps como o Genesia são personalizados para atender à necessidade da pessoa.Fonte: Google Play Store
Na loja do ChatGPT, é proibido comercializar ou oferecer robôs que simulam namoradas virtuais — mas isso não impede que elas apareçam com frequência lá ou em lojas como a Google Play Store e a App Store.
O estudo completo da Mozilla com a avaliação completa das IAs pode ser lido neste link (em inglês).
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
Fontes
Categorias
