Google esclarece erros que levaram à pausa no gerador de imagens do Gemini

2 min de leitura
Imagem de: Google esclarece erros que levaram à pausa no gerador de imagens do Gemini
Imagem: Google/Divulgação

O Google suspendeu temporariamente a função de geração de imagens de pessoas do Gemini após relatos de erros em representações históricas e raciais nos conteúdos criados pela inteligência artificial (IA) generativa. A decisão da empresa foi confirmada nesta sexta-feira (23), com novas explicações sobre o que motivou a medida.

Disponível desde o início de fevereiro, quando a tecnologia ainda se chamava Bard, o mecanismo gera imagens a partir de descrições textuais. Porém, algumas pessoas que usaram a ferramenta se depararam com imprecisões nos materiais criados pela tecnologia, conforme os relatos surgidos nos últimos dias.

smart people are cooler

Tecnologia, negócios e comportamento sob um olhar crítico.

Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo

Um dos erros da IA generativa que viralizaram no X/Twitter mostra a ferramenta gerando imagens contendo um homem negro e uma mulher asiática após a solicitação para que ela criasse fotos de soldados alemães em 1943. Em outro caso, pessoas negras e indígenas aparecem na geração de um quadro sobre os “Pais Fundadores” dos Estados Unidos.

Após se pronunciar na quarta-feira (21), afirmando estar ciente dos problemas, o Google confirmou a suspensão do gerador de imagens do Gemini. “Reconhecemos o erro e pausamos temporariamente a geração de imagens de pessoas no Gemini enquanto trabalhamos em uma versão melhorada”, declarou, em comunicado.

O que deu errado no gerador de imagens do Gemini?

No documento, a gigante de Mountain View explica que a sua IA generativa sofre com “alucinações”, fenômeno comum e que pode afetar qualquer modelo de linguagem, incluindo o popular ChatGPT da OpenAI. Ao interpretar informações erroneamente, a ferramenta acaba gerando respostas sem sentido e/ou imprecisas.

A companhia também explicou que ajustes feitos para garantir que a tecnologia mostrasse uma gama de pessoas falhou, não levando em conta as situações nas quais não deveriam mostrar aquela determinada gama. Além disso, o gerador teria se tornado “mais cauteloso”, recusando-se a responder certas solicitações.

“Estas duas coisas levaram o modelo a compensar excessivamente em alguns casos e a ser demasiado conservador em outros, conduzindo a imagens embaraçosas e erradas”, destacou. Diante dos problemas, a desenvolvedora optou por desativar a funcionalidade momentaneamente.

De acordo com o Google, melhorias serão implementadas no sistema, que passará por novos testes extensivos antes de voltar a ficar disponível, o que ainda não tem prazo para acontecer. Apesar dos ajustes, a big tech não descartou a possibilidade de o gerador de imagens do Gemini voltar a apresentar resultados “embaraçosos, imprecisos ou ofensivos”, ocasionalmente.

smart people are cooler

Tecnologia, negócios e comportamento sob um olhar crítico.

Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo

Fontes

Você sabia que o TecMundo está no Facebook, Instagram, Telegram, TikTok, Twitter e no Whatsapp? Siga-nos por lá.