Chatbots de IA que simulam pessoas falecidas levantam questões éticas

Os chatbots de IA estão a surgir por todo o mundo e, à medida que se torna possível conversar com robôs de muitos tipos, várias empresas dão aos utilizadores a oportunidade de falar com uma «simulação» dos seus entes queridos falecidos por valores a partir de 10 dólares norte-americanos.

Algumas pessoas que já aderiram a esta tecnologia encontram conforto em simulações por texto, voz ou vídeo. Dizem sentir que os seus familiares lhes estão realmente a falar do além. Outras consideram inquietante e manipuladora a imortalização dos mortos através de IA.

Os especialistas em ética Tomasz Hollanek e Katarzyna Nowaczyk-Basińska, da Universidade de Cambridge, são os mais recentes a alertar para os riscos da «indústria da vida digital após a morte».

Defendem que os chatbots que reproduzem pessoas falecidas - por vezes designados deadbots, griefbots ou ghostbots - levantam várias questões sociais e éticas fundamentais que ainda não enfrentámos.

Entre elas estão: a quem pertencem os dados de uma pessoa depois de morrer? Que impacto psicológico têm nos sobreviventes? Para que fins pode ser usado um deadbot? E quem tem o poder de o desligar definitivamente?

Estas perguntas inspiraram, em tempos, um episódio perturbador da série de ficção científica Black Mirror. Hoje, esse futuro imaginado parece cada vez mais exequível.

Riscos dos chatbots de IA que simulam pessoas falecidas

No seu recente artigo de investigação, Hollanek e Nowaczyk-Basińska apresentam o seguinte cenário hipotético. A avó de uma mulher de 28 anos morre e ela decide carregar para uma aplicação as suas conversas por mensagem e notas de voz. A aplicação permite-lhe telefonar, sempre que quiser, a uma simulação por IA da avó falecida. Depois de um período experimental gratuito, a avó digital começa a vender-lhe produtos enquanto conversa com ela.

«As pessoas podem criar fortes ligações emocionais com estas simulações, o que as tornará especialmente vulneráveis à manipulação», sugere Hollanek.

«Deveriam ser ponderados métodos e até rituais para retirar os deadbots de funcionamento de uma forma digna. Isto poderá implicar uma espécie de funeral digital…»

À primeira vista, conceder esta consideração a um chatbot de IA pode parecer absurdo. No entanto, em 2018, alguns especialistas em ética defenderam que os vestígios digitais de uma pessoa são preciosos e devem ser tratados não apenas como uma fonte de lucro, mas como «uma entidade com valor inerente».

Este raciocínio está em sintonia com o Código de Ética Profissional do Conselho Internacional de Museus, que exige que os restos humanos sejam tratados com o devido respeito e com uma dignidade humana «inviolável».

Dados, dignidade e presença digital após a morte

Hollanek e Nowaczyk-Basińska não consideram viável proibir por completo os deadbots, mas defendem que as empresas devem tratar os dados de um doador «com reverência».

Também concordam com opiniões anteriores segundo as quais os deadbots nunca devem surgir em espaços digitais públicos, como as redes sociais. A única exceção deverá aplicar-se a figuras históricas.

Em 2022, a especialista em ética Nora Freya Lindemann argumentou que os deadbots deveriam ser classificados como dispositivos médicos, garantindo que a saúde mental seria uma prioridade central desta tecnologia. As crianças pequenas, por exemplo, podem ficar confusas perante a perda física de um ente querido se essa pessoa continuar digitalmente «viva» e integrada no seu quotidiano.

Contudo, Hollanek e Nowaczyk-Basińska defendem que esta proposta é «demasiado limitada e demasiado restritiva, uma vez que se refere especificamente a deadbots concebidos para ajudar os utilizadores dos serviços a lidar com o luto».

Em alternativa, sustentam que estes sistemas devem ser «significativamente transparentes», para que os utilizadores saibam, tanto quanto possível, no que se estão a envolver e quais os riscos que podem estar associados.

Quem pode desligar um ghostbot?

Há ainda a questão de quem pode desativar o robô. Se uma pessoa deixar o seu «ghostbot» aos filhos, estes podem optar por não o utilizar? Ou o deadbot deverá permanecer para sempre se essa tiver sido a vontade da pessoa falecida? Os interesses dos vários grupos envolvidos nem sempre coincidem. Nesse caso, quem prevalece?

«São necessárias salvaguardas adicionais para orientar o desenvolvimento de serviços de recriação», concluem Hollanek e Nowaczyk-Basińska.

A dupla de Cambridge espera que os seus argumentos «ajudem a colocar o pensamento crítico sobre a “imortalidade” dos utilizadores no centro da conceção de interações humanas com IA e da investigação em ética da IA».

O artigo de investigação foi publicado na revista Philosophy & Technology.