A demonstração foi boa: cinco perguntas, cinco respostas fluentes, todas com a referência ao documento. A dúvida aparece depois. As respostas estavam certas? Vieram da versão vigente do procedimento? E se a pessoa que perguntou não tivesse acesso àquele documento? Uma resposta bem escrita não prova nada disso. Avaliar um assistente que responde com base em documentos exige um método, e esse método precisa existir antes da primeira demonstração.
RAG em linguagem simples
A maioria desses assistentes funciona em duas etapas, num desenho chamado RAG (geração aumentada por recuperação):
- Recuperação. A pergunta é usada para buscar, num índice dos documentos autorizados, os trechos mais relevantes.
- Geração. Um modelo de linguagem recebe a pergunta e esses trechos, e escreve a resposta com base neles, indicando de onde tirou cada afirmação.
O modelo não “sabe” o conteúdo dos documentos da empresa: ele lê o que a busca entregou naquele momento. Por isso há dois pontos de falha diferentes. A busca pode trazer o trecho errado, ou nenhum trecho útil. E o modelo pode escrever algo que os trechos não dizem. Uma boa avaliação mede os dois separadamente, porque a correção de cada um é diferente.
Perguntas de referência, validadas por especialistas
O centro da avaliação é um conjunto de perguntas de referência. Para cada pergunta, registre:
- a pergunta como um usuário real faria, com as abreviações e imprecisões de costume;
- a resposta correta, escrita ou aprovada por um especialista da área;
- o documento e o trecho que sustentam essa resposta;
- o perfil de acesso de quem pergunta.
Inclua de propósito perguntas sem resposta nos documentos. Para elas, o comportamento certo é dizer que não encontrou evidência, não completar a lacuna com conhecimento geral do modelo. Um assistente que nunca diz “não sei” está escondendo um problema.
Separe o conjunto em duas partes: uma para ajustar a solução durante o desenvolvimento e outra guardada para a avaliação de aceite. Quando as mesmas perguntas servem para ajustar e para aprovar, a nota final sai otimista.
A fonte citada sustenta a resposta?
Citar uma fonte não é o mesmo que ser sustentado por ela. Para cada resposta, o avaliador confere três coisas:
- A resposta está correta quando comparada à resposta de referência?
- A busca trouxe o trecho certo? Se o trecho que sustenta a resposta não foi recuperado, o problema está no índice ou na busca, não no modelo.
- O trecho citado diz o que a resposta afirma? Respostas que acrescentam detalhes ausentes da fonte, ou que citam um documento verdadeiro para uma afirmação que ele não contém, contam como erro, mesmo que a afirmação por acaso esteja certa.
Documento substituído e acesso revogado
Dois testes costumam ficar de fora e são os que mais importam em produção.
Documento substituído. Quando um procedimento ganha uma versão nova, a antiga precisa sair do índice ou ser marcada como revogada. Inclua no conjunto perguntas cuja resposta mudou entre versões e confirme que o assistente responde com a vigente. Depois, publique uma nova versão de um documento de teste e meça quanto tempo leva até o assistente refletir a mudança.
Acesso revogado. O assistente precisa responder a cada pessoa apenas com o que ela pode ver. Teste com pelo menos dois perfis: o mesmo conjunto de perguntas, feito por quem tem e por quem não tem acesso a um documento, deve produzir respostas diferentes. Depois, retire o acesso de um usuário de teste e confirme que o conteúdo deixa de aparecer para ele. Serviços de busca como o Azure AI Search oferecem filtros de permissão por documento, mas a configuração e a sincronização dessas permissões precisam ser testadas no ambiente real. Um único caso de acesso indevido deve impedir a liberação.
Modelo como juiz: apoio, não substituto
Avaliar centenas de respostas à mão é caro, e por isso existem avaliadores automáticos em que um modelo de linguagem dá notas a outro: se a resposta é sustentada pelos trechos, se é relevante, se está completa. Eles são úteis para repetir a avaliação a cada mudança de modelo, de instruções ou do índice, e para encontrar rapidamente os casos suspeitos.
Mas o juiz também erra, e pode errar de forma sistemática. Use-o assim:
- calibre comparando as notas do juiz com as de especialistas numa amostra das mesmas respostas;
- registre a versão do modelo juiz e das instruções, porque a nota muda quando eles mudam;
- mantenha a decisão de aceite com especialistas, apoiada pelos números do juiz.
Custo por resposta aceita
O custo de operar um assistente não é só o consumo do modelo. Some, num período:
- consumo do modelo e da busca;
- infraestrutura e armazenamento do índice;
- tempo das pessoas que conferem e corrigem respostas.
Divida pelo número de respostas aceitas pelos avaliadores, não pelo total de respostas. Um assistente que responde muito e acerta pouco tem custo por resposta aceita alto, mesmo com consumo baixo. É esse número que se compara com a linha de base do processo atual.
Tamanho da amostra junto com as taxas
“92% de acerto” diz pouco sem o tamanho da amostra. Como exemplo de cálculo: 46 respostas corretas em 50 perguntas dão 92%, mas o intervalo de confiança de 95% (método de Wilson) vai de cerca de 81% a 97%. Com 500 perguntas e a mesma proporção, o intervalo fica bem mais estreito. Por isso:
- informe sempre “46 de 50”, não só “92%”;
- separe as taxas por tipo de pergunta (com resposta, sem resposta, por perfil de acesso), porque a média geral esconde a categoria que falha;
- repita a avaliação com o mesmo conjunto a cada mudança relevante e compare com a rodada anterior.
Com esse método, a decisão de ampliar, ajustar ou encerrar um piloto passa a se apoiar em evidência registrada. Antes de chegar aqui, vale conferir se os dados da empresa estão prontos para IA para a tarefa escolhida.
Quer avaliar um caso de uso?
Se a empresa está testando um assistente sobre documentos internos, ou pensando em começar, um diagnóstico ajuda a definir as perguntas de referência, os perfis de acesso e os critérios de aceite. Conheça o serviço de dados e IA corporativa ou peça um diagnóstico.