Fantasmas de IA: ajuda ou obstáculo ao luto?

Todos enfrentamos a perda e o luto. Mas imagine que não precisava de se despedir das pessoas de quem gosta. Imagine que conseguia recriá-las virtualmente, para poder conversar com elas e perceber como se sentem.

No quadragésimo aniversário de Kim Kardashian, o então marido, Kanye West, ofereceu-lhe um holograma do seu pai falecido, Robert Kardashian. Segundo foi noticiado, Kim Kardashian reagiu com incredulidade e alegria à aparição virtual do pai na sua festa de aniversário. Poder voltar a ver um ente querido, morto há muito tempo e profundamente sentido, a mover-se e a falar pode trazer algum conforto a quem ficou.

Afinal, fazer regressar um familiar ou amigo falecido pode parecer milagroso - e talvez também bastante perturbador -, mas que consequências terá para a nossa saúde? Os fantasmas de IA ajudam ou dificultam o processo de luto?

Enquanto psicoterapeuta que investiga de que forma a tecnologia de IA pode melhorar as intervenções terapêuticas, acompanho com interesse o surgimento dos ghostbots. No entanto, também me preocupa bastante o possível efeito desta tecnologia na saúde mental de quem a utiliza, em especial das pessoas em luto.

Transformar pessoas mortas em avatares pode acabar por causar mais prejuízos do que benefícios, prolongando a confusão, o stress, a depressão, a paranoia e, em determinados casos, a psicose.

Os progressos recentes na inteligência artificial (IA) deram origem ao ChatGPT e a outros chatbots, capazes de permitir conversas sofisticadas e semelhantes às humanas.

Com recurso à tecnologia de deepfake, o software de IA pode produzir uma representação virtual interativa de uma pessoa falecida, recorrendo aos seus conteúdos digitais, como fotografias, e-mails e vídeos.

Há apenas alguns anos, algumas destas criações pertenciam exclusivamente ao universo da ficção científica; hoje, são uma realidade científica.

Ajuda ou obstáculo?

Os fantasmas digitais podem confortar pessoas enlutadas, ajudando-as a restabelecer uma ligação com os entes queridos que perderam. Podem também dar ao utilizador a possibilidade de dizer algo ou fazer perguntas que nunca teve oportunidade de colocar enquanto a pessoa, agora falecida, ainda vivia.

Contudo, a semelhança inquietante dos ghostbots com alguém que se perdeu pode não ser tão positiva como parece. A investigação indica que os deathbots devem ser usados apenas como um apoio temporário durante o luto, para evitar uma dependência emocional potencialmente nociva da tecnologia.

Os fantasmas de IA podem prejudicar a saúde mental ao interferirem no processo de luto.

O luto exige tempo e pode envolver muitas fases distintas, que se prolongam por vários anos. Após uma perda recente, é possível que as pessoas em luto pensem frequentemente no ente querido que morreu. Podem recordar vivamente memórias antigas, sendo bastante comum que sonhem de forma mais intensa com a pessoa que perderam.

O psicanalista Sigmund Freud preocupou-se com a forma como os seres humanos reagem à experiência da perda. Salientou que podem surgir dificuldades adicionais para quem está de luto quando uma morte é rodeada de sentimentos negativos.

Por exemplo, se alguém nutria sentimentos ambivalentes por uma pessoa que morreu, poderá ficar com um sentimento de culpa. Ou, caso a morte tenha ocorrido em circunstâncias horríveis, como um homicídio, quem está de luto poderá ter mais dificuldade em aceitá-la.

Freud chamou a isto “melancolia”, embora também possa ser designado por “luto complicado”. Em alguns casos extremos, a pessoa pode ter aparições e alucinar que vê o morto, começando a acreditar que ele está vivo. Os ghostbots de IA podem traumatizar ainda mais quem vive um luto complicado e agravar problemas associados, como as alucinações.

O horror dos chatbots

Há ainda o risco de estes ghostbots dizerem coisas prejudiciais ou darem maus conselhos a alguém que está de luto. Programas generativos semelhantes, como os chatbots do ChatGPT, já são amplamente criticados por fornecerem informações erradas aos utilizadores.

Imagine que a tecnologia de IA se descontrolava e começava a fazer comentários inadequados ao utilizador - uma situação vivida pelo jornalista Kevin Roose em 2023, quando um chatbot do Bing tentou convencê-lo a deixar a mulher. Seria muito doloroso se um filho ou filha evocasse o pai falecido como um fantasma de IA e ouvisse comentários de que não era amado, de que não era apreciado ou de que não era o favorito do pai.

Num cenário ainda mais extremo, o ghostbot poderia sugerir que o utilizador se juntasse a ele na morte ou que deveria matar ou magoar alguém. Isto pode soar ao enredo de um filme de terror, mas não é assim tão inverosímil. Em 2023, o Partido Trabalhista do Reino Unido propôs uma lei para impedir o treino de IA destinado a incitar à violência.

A medida surgiu em resposta à tentativa de assassinato da rainha, ocorrida no início desse ano, por um homem que foi encorajado pela sua namorada chatbot, com quem mantinha uma relação “emocional e sexual”.

Atualmente, os criadores do ChatGPT reconhecem que o software comete erros e continua a não ser totalmente fiável, porque inventa informações. Quem sabe como serão interpretadas as mensagens, os e-mails ou os vídeos de uma pessoa e que conteúdos serão gerados por esta tecnologia de IA?

Em qualquer caso, parece claro que, por mais que esta tecnologia evolua, continuará a ser necessária uma supervisão considerável e humana.

Esquecer faz bem

Esta tecnologia mais recente revela muito sobre a nossa cultura digital, marcada por possibilidades infinitas e sem limites.

Os dados podem ficar armazenados indefinidamente na nuvem; tudo pode ser recuperado e nada é verdadeiramente apagado ou destruído. Esquecer é uma componente importante de um luto saudável, mas, para o conseguirem, as pessoas terão de encontrar formas novas e significativas de recordar quem morreu.

Os aniversários desempenham um papel fundamental ao ajudarem quem está de luto não só a recordar os entes queridos perdidos, mas também a representar a perda de novas formas. Os rituais e os símbolos podem assinalar o fim de algo, permitindo aos seres humanos recordar devidamente para conseguirem esquecer devidamente.

Nigel Mulligan, Professor Assistente de Psicoterapia, Escola de Enfermagem, Psicoterapia e Saúde Comunitária, Dublin City University

Este artigo é republicado de The Conversation ao abrigo de uma licença Creative Commons. Leia o artigo original.