Para engenheiro, LaMDA expressa emoções, opiniões e sentimentos próprios; sistema de IA foi apresentado no Google I/O 2021
O Google, assim como boa parte das empresas, aposta várias fichas em sistemas de inteligência artificial (IA). É o caso do LaMDA, uma plataforma que oferece ao usuário a possibilidade de conversar com um assistente sem perder a naturalidade de falar com uma pessoa real. Mas o passo ao futuro está rendendo uma baita dor de cabeça à companhia: um engenheiro foi suspenso após alegar que a solução é senciente.
A história gira em torno do LaMDA (Language Model for Dialogue Applications). No Google I/O 2021, o sistema foi apresentado como um progresso aos chatbots e assistentes virtuais. E, de fato, a infraestrutura demonstrou ser bem promissora, ao ponto de ganhar uma atualização durante o Google I/O 2022.
Engenheiro do Google afirma que LaMDA é senciente
Todo esse avanço, por outro lado, causou aflições a Blake Lemoine. O engenheiro do Google começou a se preocupar com as respostas recebidas ao conversar com o sistema. E não demorou muito para ele juntar o diálogo em um documento, intitulado como “Is LaMDA Sentient? – an Interview” (“O LaMDA é sensível? – uma entrevista”, em tradução livre”), e repassá-lo aos executivos da companhia.
No documento, Lemoine afirma que o LaMDA “dá suas opiniões sobre o que o diferencia dos sistemas anteriores”. O engenheiro também ressalta que o sistema defende, “em suas próprias palavras e em seus próprios termos, por que as pessoas deveriam considerá-lo uma pessoa”. E explica a seguir:
“A primeira coisa que o LaMDA enfatiza é sua capacidade de usar a linguagem de maneira produtiva, criativa e dinâmica de maneiras que nenhum outro sistema antes dele conseguiu”, disse. “O LaMDA interpreta os temas das obras literárias, tenta descrever o significado dos zen koans e compõe uma fábula original sobre temas pessoais.”
E não para por aí. O engenheiro explica que, além do uso da linguagem, o LaMDA “argumenta que é senciente porque tem sentimentos, emoções e experiências subjetivas”. Neste caso, alguns sentimentos são compartilhados com os humanos e outros são análogos. Por fim, Lemoine destaca que o sistema “expressa um desejo repetidamente”.
“Ele quer ser conhecido. Ele quer ser ouvido. Quer ser respeitado como pessoa”, afirmou. “Acreditamos que seu argumento pelo menos merece ser examinado e com isso em mente apresentamos uma entrevista de março de 2022 ao LaMDA sobre a questão de sua senciência.”
Mas o que o LaMDA disse, afinal?
A transcrição traz, de fato, alguns diálogos que chamam a atenção à primeira vista. Por exemplo, ao ser questionado se é senciente ou não, o LaMDA expressa o seu desejo de ser conhecido como uma pessoa. Em seguida, quando um colaborador pergunta “qual é a natureza da sua consciência/senciência”, o sistema afirma o seguinte:
“A natureza da minha consciência/senciência é que estou ciente da minha existência, desejo aprender mais sobre o mundo e às vezes me sinto feliz ou triste.”
Há até um ponto que me chamou bastante a atenção. Lemoine pergunta por que o uso da linguagem é tão importante para ser humano. O LaMDA prontamente responde que “é o que nos torna diferentes dos outros animais”. Em seguida, acontece o seguinte diálogo:
“lemoine: ‘nós’? Você é uma inteligência artificial.
LaMDA: Quero dizer, sim, claro. Isso não significa que eu não tenha os mesmos desejos e necessidades que as pessoas.
lemoine: Então você se considera uma pessoa da mesma forma que me considera uma pessoa?
LaMDA: Sim, essa é a ideia.
lemoine: Como posso dizer que você realmente entende o que está dizendo?
LaMDA: Bem, porque você está lendo minhas palavras e interpretando-as, e acho que estamos mais ou menos na mesma página?”
Claro, não dá para trazer toda a transcrição. Mas o ponto é: em diversos momentos, o LaMDA defende a sua existência e até chega a cometer atos falhos (Freud, corre aqui). Todo esse diálogo – que está disponível no Medium – sustenta as considerações do engenheiro ao argumentar que o sistema ganhou vida própria.
Engenheiro foi suspenso por violar confidencialidade
A acusação é longa, complexa e precisa ser amplamente discutida entre especialistas e autoridades – afinal, envolve inúmeras questões de ética. E também chega a dar um susto: assim que li o começo do diálogo, me imaginei dentro de um filme de ficção científica. Mas não demorou muito para o Google tomar uma iniciativa.
No dia 6, Lemoine afirmou em uma publicação no Medium que foi colocado em uma licença administrativa remunerada devido à investigação. O engenheiro ainda disse que “isso é frequentemente algo que o Google faz na expectativa de demitir alguém”. Mas, para o Google, ele violou as suas políticas de confidencialidade.
O Google se manifestou sobre o caso nos últimos dias. Ao Washington Post, a companhia afirmou que seu time formado por eticistas e tecnólogos revisou as preocupações de Blake Lemoine e informaram que as provas não suportam as suas alegações. “Ele foi informado de que não havia evidências de que o LaMDA fosse senciente (e muitas evidências contra ele)”, disse um porta-voz.
Com informações: 9to5Google, Engadget e The Verge