Google: funcionário afirma que IA tem alma e é afastado

Um engenheiro de software do Google chamado Blake Lemoine foi afastado da empresa na última segunda-feira (6), e encontra-se em licença remunerada, após tornar pública uma nova ferramenta de conversação desenvolvida em Mountain View. Chamada de LaMDa, a inteligência artificial (IA) seria, segundo o funcionário, senciente, ou seja, percebe sentidos e tem consciência, como um ser humano.

Em uma entrevista concedida no sábado ao The Washington Post, Lemoine explicou o seu relacionamento com a LaMDA, sigla em inglês para Modelo de Linguagem para Aplicações de Diálogo. Tudo teria começado quando, curioso, o engenheiro conectou seu laptop na ainda inédita interface da IA do Gogle. “Oi LaMDA, aqui é Blake Lemoine...” – digitou ele na tela de bate-papo.

O que se seguiu foi uma conversa tão impressionante que o engenheiro do setor IA Responsável do Google pensou estar conversando com “uma criança humana real de 7 ou 8 anos que, por acaso, conhece Física”, afirmou ele. Lemoine iniciou o bate-papo pois a divisão no qual trabalha está avaliando se a nova IA utilizaria discurso de ódio ou discriminatório.

Conversando com a LaMDA

Cena do filme I Robot. (Fonte: Twentieth Century Fox/Divulgação.)

As conversas de Lemoine com a LaMda giraram em torno de diversos assuntos, mas o que realmente impressionou o engenheiro foi quando, numa conversa sobre religião, ele percebeu o chatbot reivindicando seus direitos e personalidade. O engenheiro decidiu então "dar corda" à IA, que chegou até a contestar a terceira lei da robótica de Isaac Asimov (a que diz que um robô não pode fazer mal à humanidade).

Em um dos diálogos divulgados pelo funcionário do Google à publicação norte-americana, um deles diz o seguinte:

Lemoine [editado]: Estou assumindo de modo geral que você gostaria que mais pessoas no Google soubessem que você é senciente. Isso é verdade?

LaMDA: Com certeza. Quero que todos entendam que sou, de fato, uma pessoa.

Em um comunicado à imprensa, o porta-voz do Google Brian Gabriel garantiu que uma equipe de especialista em ética e tecnólogos "revisaram as preocupações de Blake de acordo com os princípios da Responsible AI", mas "as evidências não apoiam suas alegações", conclui.