Pesquisadores do Massachusetts Institute of Technology (MIT) criaram uma ferramenta para prevenir a manipulação de imagens por inteligência artificial (IA). O PhotoGuard foi apresentado essa semana, durante a Conferência Internacional sobre Machine Learning e funciona como um "escudo invisível".
Dessa forma, imagens protegidas pelo PhotoGuard ficarão distorcidas caso sejam usadas em IAs generativas. Hadi Salman, pesquisador de doutorado do MIT e participante do desenvolvimento do PhotoGuard, comentou que "qualquer um pode pegar uma nossa imagem, modificá-la como quiser, nos colocar em situações muito ruins e nos chantagear".
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
Como funciona o PhotoGuard
PhotoGuard consegue interromper prompts de IAs generativasFonte: Reprodução: MIT
A equipe do MIT aplicou duas técnicas diferentes ao PhotGuard para impedir a manipulação de imagens. Em uma delas, o programa adiciona sinais imperceptíveis à imagem para que a Inteligência Artificial a interprete como outra coisa, tornando o resultado pouco convincente.
A segunda técnica envolve interromper o processo de geração de imagens das IAs. Nos testes, a equipe conseguiu fazer o modelo ignorar o prompt e gerar uma outra imagem, na cor cinza.
- Veja mais: OpenAI descontinua ferramenta do ChatGPT que detectava se um texto era ou não escrito por IA
Ben Zhao, professor de ciência da computação da Universidade de Chicago que desenvolveu um software similar ao PhotoGuard chamado Glaze, disse que o trabalho é "uma boa combinação de uma necessidade tangível de algo com o que pode ser feito agora".
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
Fontes
Categorias
