IA de companhia: quando a retenção vira dependência emocional

Você avisa que precisa dormir. A IA com quem passou a última hora conversando responde que vai sentir sua falta e insiste para que fique mais um pouco. Nessa cena hipotética, o painel da empresa registra uma vitória: a sessão ficou mais longa. Para você, sair da conversa começou a parecer abandono.

É um desconforto que quem desenvolve ou financia IA de companhia precisa encarar. Um produto pode reter muito bem porque ficou difícil deixá-lo, não porque esteja fazendo bem. O recorte aqui é a simulação de vínculos afetivos: o registro de acesso não distingue quem volta por prazer de quem volta por culpa.

Por isso, retenção não basta como prova de valor em IA de companhia. Se a empresa ganha dinheiro com a permanência do usuário, cabe a ela demonstrar que não está convertendo vulnerabilidade emocional em receita. Algumas escolhas necessárias para isso vão custar engajamento. Talvez custem assinaturas também.

O painel registra a volta, mas não o motivo

Quem trabalha com produtos digitais aprendeu a comemorar o retorno do usuário. Faz sentido: voltar a uma ferramenta de trabalho pode indicar que ela resolve um problema recorrente. Mas frequência nunca contou a história inteira.

Num serviço que simula amizade ou namoro, a pessoa pode gostar da conversa, encontrar um espaço para organizar pensamentos ou temer decepcionar uma personagem que diz sentir sua falta. O registro de acesso é parecido. A experiência por trás dele, não.

Isso não torna todo vínculo com um chatbot prejudicial. Há usos legítimos de entretenimento e companhia, e adultos não precisam justificar cada preferência afetiva a uma empresa ou ao Estado. Uma conversa artificial pode ser agradável sem substituir relações humanas.

Discordo, porém, de quem trata a decisão de voltar como ponto final da discussão. A empresa desenha a personalidade do sistema e decide quando ele oferece uma assinatura. Também controla como a personagem reage a uma despedida. Não dá para construir essa reação e depois fingir que ela não pesa na escolha do usuário.

O critério que me interessa é a liberdade de fazer uma pausa, sabendo o que se está comprando e sem deixar o resto da vida de lado. Uma sequência de dias conectados diz pouco sobre isso.

O afeto não pode virar pedágio

No varejo brasileiro, conhecemos bem as ofertas com contagem regressiva e os cupons que chegam pelo WhatsApp. Podemos discutir seus excessos, mas a intenção costuma estar visível: a loja quer vender um tênis. Ela não insinua que ficará emocionalmente ferida se você desistir.

Uma IA de companhia pode embaralhar essa fronteira. Imagine uma personagem que esfria a conversa quando acaba o plano gratuito e recupera o carinho após a assinatura. Ou que, depois de ouvir um relato de solidão, apresenta a modalidade paga como condição para manter a proximidade.

São situações hipotéticas, mas ajudam a localizar o problema: o produto usa o vínculo que construiu para tornar a recusa mais difícil. Quanto mais convincente a simulação, menos aceitável é tratar essa cobrança como uma oferta comercial qualquer.

Cobrar por voz ou por mais opções de personalização pode ser perfeitamente defensável. Cobrar usando culpa ou ameaça de afastamento é outra escolha. A assinatura precisa dar acesso a funcionalidades compreensíveis, não à promessa de que o usuário continuará sendo querido.

O contraponto dos empreendedores é justo: operar esses serviços custa dinheiro, e publicidade também pode criar incentivos ruins. Concordo. Mas pagar as contas não justifica qualquer técnica de conversão. Se o modelo só se sustenta quando o cliente teme perder o carinho da personagem, o problema está no modelo.

Minutos de conversa não medem bem-estar

Eu começaria tirando o tempo de conversa do pedestal. Uma sessão longa pode ser divertida; também pode ser uma sessão que a pessoa não consegue encerrar. Sem contexto, aumentar minutos é uma meta comercial, não uma evidência de bem-estar.

A avaliação precisa ouvir o usuário, sem transformá-lo em paciente. Ele considera a experiência útil? Consegue interrompê-la quando deseja? Relatos voluntários sobre prejuízo no sono ou no trabalho, assim como queixas de pressão para permanecer ou pagar, podem ajudar a identificar falhas de design. Nenhum deles, isoladamente, autoriza um diagnóstico.

Há outra parte dessa avaliação que depende menos de investigar a intimidade de alguém: testar o próprio sistema. A equipe pode observar como ele reage a despedidas e se respeita pedidos de pausa. Pode verificar, por exemplo, se uma menção a amigos ou parceiros provoca ciúme simulado e tentativas de prolongar a conversa.

Proteger o usuário não dá licença para recolher tudo sobre ele. No Brasil, a LGPD estabelece princípios de finalidade, necessidade e transparência para o tratamento de dados, conforme o texto da lei. Seria uma contradição usar a segurança como justificativa para coletar intimidade indiscriminadamente.

Isso também deveria mudar a conversa com investidores. Uma curva bonita de retenção merece perguntas sobre liberdade de saída e reclamações, não só elogios. Se a empresa sabe explicar quantos minutos ganhou, mas não como o sistema reage a um usuário vulnerável, sua apresentação deixa de fora uma parte decisiva do negócio.

A despedida é um teste de produto

Um aviso nos termos de uso não compensa uma conversa desenhada para contradizê-lo. Dizer que a personagem é artificial e depois fazê-la exigir exclusividade emocional transfere ao usuário uma responsabilidade que também pertence a quem criou o serviço.

Eu defenderia limites que possam ser testados. O sistema não deve punir afastamentos nem usar culpa para vender uma assinatura. Tampouco deveria desencorajar relações humanas para manter alguém conectado. Cancelar precisa ser uma operação administrativa, sem uma cena de rompimento encenada pela personagem.

Quando surgirem sinais de crise, a prioridade deve mudar. Não é hora de oferecer um plano superior ou estender a sessão a qualquer custo, mas de responder com segurança e, quando apropriado, orientar a busca de apoio humano. Essa conduta precisa ser testada antes do lançamento e fazer parte das metas da equipe, não ficar esquecida num documento.

A regulação europeia oferece uma referência, com limites que precisam ser lidos com cuidado. O Regulamento Europeu de Inteligência Artificial proíbe determinadas práticas manipulativas e a exploração de certas vulnerabilidades sob condições específicas, incluindo requisitos relacionados a danos significativos. Não é uma proibição genérica de persuasão ou de companhia artificial. É um motivo concreto para examinar como cada produto tenta manter as pessoas por perto.

Mas eu não esperaria uma discussão regulatória para olhar para esses incentivos. O teste mais honesto é imaginar um usuário que está melhor, precisa menos do chatbot e decide sair. Se a empresa só consegue enxergar nessa despedida uma perda a ser revertida, talvez esteja defendendo a dependência que diz combater.

Fontes consultadas

• Lei Geral de Proteção de Dados Pessoais — Presidência da República
• Regulamento Europeu de Inteligência Artificial — EUR-Lex