Uma resposta bonita da IA não é uma resposta confiável
Uma resposta bonita da IA não é uma resposta confiável
A geladeira parece perfeita. O assistente de compras reuniu fotos, consumo de energia e dimensões em uma tela impecável, com um botão para fechar o pedido. Só há um problema: misturou as especificações de dois modelos.
A cena é hipotética, mas o risco merece atenção de qualquer empresa que coloque IA em um aplicativo ou no atendimento. Uma resposta que antes parecia provisória, perdida em um bloco de texto, ganha autoridade quando vira uma tabela bem diagramada. O acabamento mudou. A evidência que sustenta o conteúdo, não.
Minha posição é esta: empresas que incorporam IA aos produtos devem dar à verificação a mesma atenção que dedicam à apresentação. Se a resposta aparece com destaque e seus limites ficam escondidos, o design está pedindo uma confiança que o produto talvez não mereça.
A tela organiza a informação. E empresta autoridade
Quem trabalha com interfaces sabe o valor de uma tela bem resolvida. Tipografia legível e uma boa hierarquia ajudam a entender o conteúdo e reduzem o esforço para agir. Defender produtos confusos como proteção contra a confiança excessiva seria absurdo.
Mas a beleza interfere no julgamento. O chamado efeito estética-usabilidade, descrito pelo Nielsen Norman Group, mostra que as pessoas tendem a perceber interfaces mais atraentes como mais fáceis de usar. Isso não prova que uma resposta bonita será considerada verdadeira. Serve, porém, de alerta para o quanto a aparência pode pesar na avaliação de um produto.
Com IA, há uma dificuldade a mais: o conteúdo pode variar a cada interação, enquanto a apresentação mantém o mesmo ar de segurança. Uma tabela alinhada pode trazer valores sem origem verificável. Um cartão com aparência de recomendação especializada pode dar a uma suposição o mesmo tratamento visual de uma informação confirmada.
Volte à geladeira, agora no aplicativo de um varejista brasileiro. Se as medidas estiverem trocadas, a boa organização da tela poderá facilitar a compra de um eletrodoméstico que não cabe na cozinha. O design não criou necessariamente o erro, mas ajudou a torná-lo convincente.
O gráfico não conferiu os dados
Imagine uma ferramenta para pequenos comerciantes que anuncie: “Seu faturamento deve crescer no próximo mês”. Ao lado, uma curva ascendente em cores discretas e um botão para comprar mais estoque. Tudo convida à ação.
Antes de facilitar essa compra, o produto deveria esclarecer de onde veio a previsão. Ela usa o histórico da loja? Depende de uma hipótese informada pelo comerciante? Sem essa explicação, o gráfico corre o risco de parecer uma confirmação quando é somente outra maneira de exibir a mesma estimativa.
Dados observados pedem origem e período. Projeções precisam explicitar suas premissas e seus limites. Tratar os dois como se tivessem o mesmo grau de certeza tira do leitor uma distinção necessária para decidir.
O perfil de riscos de IA generativa do NIST trata da confabulação: conteúdo falso ou incorreto produzido de maneira convincente. Para quem desenha produtos, a implicação é clara: qualidade de apresentação não é certificado de veracidade. Quanto mais fácil for agir a partir de uma resposta, mais necessário será mostrar o que a sustenta antes do clique.
A dúvida certa atrapalha menos que o erro
Existe um contraponto legítimo: ninguém quer transformar cada interação em um parecer técnico. Um assistente que interrompe toda resposta com alertas genéricos pode cansar o usuário e ensiná-lo a ignorar avisos. Transparência mal desenhada também produz ruído.
Concordo. O que não aceito é usar esse argumento para apagar qualquer sinal de dúvida da tela. Cabe à equipe de produto escolher a informação necessária para aquela decisão e apresentá-la no momento certo, em vez de esconder a complexidade até que ela vire prejuízo.
Num aplicativo financeiro, por exemplo, um assistente pode explicar uma cobrança com base no extrato ou sugerir uma causa provável. “Esta tarifa consta no lançamento” e “esta pode ser a origem da tarifa” dizem coisas diferentes. Trocar uma frase pela outra para deixar o texto mais assertivo muda o que o produto está prometendo.
Às vezes, a resposta mais útil é uma pergunta. Uma ferramenta de gestão que recomenda uma compra sem conhecer o estoque disponível talvez devesse parar e pedir esse dado. A interrupção tem uma função: impedir que uma hipótese seja recebida como orientação pronta.
Por isso, desconfio de selos como “alta confiança” quando ninguém explica o que significam. Prefiro uma mensagem específica: “não encontramos o contrato” ou “a análise considera apenas os documentos enviados”. O usuário passa a saber o que falta e pode decidir como continuar, sem precisar interpretar um selo que talvez diga pouco.
Verificar precisa ser tão acessível quanto comprar
Colocar um link no fim da tela não resolve, por si só, a questão das fontes. O leitor precisa entender qual afirmação aquele documento sustenta e se ele serve para responder à pergunta. Uma referência verdadeira, mas irrelevante, também pode emprestar autoridade indevida a uma resposta.
Pense em um assistente de RH que explique a política de férias de uma empresa brasileira. Mostrar o trecho utilizado e a versão da política interna permite conferir a orientação. Também deixa espaço para separar o que é regra da empresa do que é uma explicação geral sobre legislação.
“Consulte o RH” pode ser uma saída necessária. Mas, se o sistema já entregou uma resposta categórica, essa frase no rodapé não desfaz a certeza que acabou de transmitir.
Corrigir um erro exige mais cuidado do que coletar uma avaliação negativa. O botão de “não gostei” pode ajudar a equipe responsável pelo produto, mas pouco faz pelo funcionário que recebeu uma orientação errada. Ele precisa conseguir corrigir o dado usado na análise ou contestar a premissa, com acesso a uma pessoa quando o risco justificar.
Isso custa espaço de tela e trabalho de desenvolvimento. Esconder esses caminhos, porém, pode apenas transferir o custo para o usuário e para a equipe que terá de lidar com o problema depois. Se a empresa oferece um botão destacado para executar a recomendação, deve oferecer um caminho compreensível para verificá-la.
Eu gostaria de ver equipes avaliando seus assistentes por uma pergunta menos confortável: o usuário consegue perceber quando não deve seguir a resposta? Rapidez e satisfação continuam relevantes. Mas conduzir alguém à ação sem hesitação nem sempre é sinal de uma boa experiência.
A resposta bonita tem seu lugar. Ela facilita a leitura e torna o produto mais agradável de usar. O limite aparece quando o acabamento faz o trabalho que caberia à evidência: convencer você de que pode confiar. Uma interface responsável também precisa ajudar o usuário a desistir daquele clique.
Fontes consultadas
Receba ideias mais inteligentes para o seu marketing.
Análises, ferramentas e estratégia direto da Império.
Sem ruído.