A demonstração foi boa: cinco perguntas, cinco respostas fluentes, todas com a referência ao documento. A dúvida aparece depois. As respostas estavam certas? Vieram da versão vigente do procedimento? E se a pessoa que perguntou não tivesse acesso àquele documento? Uma resposta bem escrita não prova nada disso. Avaliar um assistente que responde com base em documentos exige um método, e esse método precisa existir antes da primeira demonstração.

RAG em linguagem simples

A maioria desses assistentes funciona em duas etapas, num desenho chamado RAG (geração aumentada por recuperação):

  1. Recuperação. A pergunta é usada para buscar, num índice dos documentos autorizados, os trechos mais relevantes.
  2. Geração. Um modelo de linguagem recebe a pergunta e esses trechos, e escreve a resposta com base neles, indicando de onde tirou cada afirmação.

O modelo não “sabe” o conteúdo dos documentos da empresa: ele lê o que a busca entregou naquele momento. Por isso há dois pontos de falha diferentes. A busca pode trazer o trecho errado, ou nenhum trecho útil. E o modelo pode escrever algo que os trechos não dizem. Uma boa avaliação mede os dois separadamente, porque a correção de cada um é diferente.

Perguntas de referência, validadas por especialistas

O centro da avaliação é um conjunto de perguntas de referência. Para cada pergunta, registre:

  • a pergunta como um usuário real faria, com as abreviações e imprecisões de costume;
  • a resposta correta, escrita ou aprovada por um especialista da área;
  • o documento e o trecho que sustentam essa resposta;
  • o perfil de acesso de quem pergunta.

Inclua de propósito perguntas sem resposta nos documentos. Para elas, o comportamento certo é dizer que não encontrou evidência, não completar a lacuna com conhecimento geral do modelo. Um assistente que nunca diz “não sei” está escondendo um problema.

Separe o conjunto em duas partes: uma para ajustar a solução durante o desenvolvimento e outra guardada para a avaliação de aceite. Quando as mesmas perguntas servem para ajustar e para aprovar, a nota final sai otimista.

A fonte citada sustenta a resposta?

Citar uma fonte não é o mesmo que ser sustentado por ela. Para cada resposta, o avaliador confere três coisas:

  1. A resposta está correta quando comparada à resposta de referência?
  2. A busca trouxe o trecho certo? Se o trecho que sustenta a resposta não foi recuperado, o problema está no índice ou na busca, não no modelo.
  3. O trecho citado diz o que a resposta afirma? Respostas que acrescentam detalhes ausentes da fonte, ou que citam um documento verdadeiro para uma afirmação que ele não contém, contam como erro, mesmo que a afirmação por acaso esteja certa.

Documento substituído e acesso revogado

Dois testes costumam ficar de fora e são os que mais importam em produção.

Documento substituído. Quando um procedimento ganha uma versão nova, a antiga precisa sair do índice ou ser marcada como revogada. Inclua no conjunto perguntas cuja resposta mudou entre versões e confirme que o assistente responde com a vigente. Depois, publique uma nova versão de um documento de teste e meça quanto tempo leva até o assistente refletir a mudança.

Acesso revogado. O assistente precisa responder a cada pessoa apenas com o que ela pode ver. Teste com pelo menos dois perfis: o mesmo conjunto de perguntas, feito por quem tem e por quem não tem acesso a um documento, deve produzir respostas diferentes. Depois, retire o acesso de um usuário de teste e confirme que o conteúdo deixa de aparecer para ele. Serviços de busca como o Azure AI Search oferecem filtros de permissão por documento, mas a configuração e a sincronização dessas permissões precisam ser testadas no ambiente real. Um único caso de acesso indevido deve impedir a liberação.

Modelo como juiz: apoio, não substituto

Avaliar centenas de respostas à mão é caro, e por isso existem avaliadores automáticos em que um modelo de linguagem dá notas a outro: se a resposta é sustentada pelos trechos, se é relevante, se está completa. Eles são úteis para repetir a avaliação a cada mudança de modelo, de instruções ou do índice, e para encontrar rapidamente os casos suspeitos.

Mas o juiz também erra, e pode errar de forma sistemática. Use-o assim:

  • calibre comparando as notas do juiz com as de especialistas numa amostra das mesmas respostas;
  • registre a versão do modelo juiz e das instruções, porque a nota muda quando eles mudam;
  • mantenha a decisão de aceite com especialistas, apoiada pelos números do juiz.

Custo por resposta aceita

O custo de operar um assistente não é só o consumo do modelo. Some, num período:

  • consumo do modelo e da busca;
  • infraestrutura e armazenamento do índice;
  • tempo das pessoas que conferem e corrigem respostas.

Divida pelo número de respostas aceitas pelos avaliadores, não pelo total de respostas. Um assistente que responde muito e acerta pouco tem custo por resposta aceita alto, mesmo com consumo baixo. É esse número que se compara com a linha de base do processo atual.

Tamanho da amostra junto com as taxas

“92% de acerto” diz pouco sem o tamanho da amostra. Como exemplo de cálculo: 46 respostas corretas em 50 perguntas dão 92%, mas o intervalo de confiança de 95% (método de Wilson) vai de cerca de 81% a 97%. Com 500 perguntas e a mesma proporção, o intervalo fica bem mais estreito. Por isso:

  • informe sempre “46 de 50”, não só “92%”;
  • separe as taxas por tipo de pergunta (com resposta, sem resposta, por perfil de acesso), porque a média geral esconde a categoria que falha;
  • repita a avaliação com o mesmo conjunto a cada mudança relevante e compare com a rodada anterior.

Com esse método, a decisão de ampliar, ajustar ou encerrar um piloto passa a se apoiar em evidência registrada. Antes de chegar aqui, vale conferir se os dados da empresa estão prontos para IA para a tarefa escolhida.

Quer avaliar um caso de uso?

Se a empresa está testando um assistente sobre documentos internos, ou pensando em começar, um diagnóstico ajuda a definir as perguntas de referência, os perfis de acesso e os critérios de aceite. Conheça o serviço de dados e IA corporativa ou peça um diagnóstico.