O Fannar olha para dentro do modelo.

Ele reúne o que o modelo calcula por dentro, como ativações, gradientes, parâmetros ou, em árvores, os caminhos de decisão, num único espaço geométrico, e lê esse espaço camada a camada. Nesta página: como o método funciona, como ele trabalha junto com SHAP e LIME e o que ele encontrou em seis modelos.

Várias fontes do modelo, um único espaço geométrico

O Fannar é um método pós-hoc e independente de arquitetura. Ele não treina um modelo substituto. Trabalha sobre o que o próprio modelo já calcula.

Toda leitura é comparada à mesma arquitetura com os pesos iniciais. A única diferença entre a leitura e o piso é o treinamento, então o que se afasta do piso foi aprendido pelo modelo.

Três leituras, um relatório

Nenhum método de interpretabilidade responde tudo sozinho. Cada relatório combina três, e cada um contribui com o que mede melhor.

Seis modelos, seis perguntas

Modelos treinados para esta página com dados públicos ou sintéticos, para mostrar o tipo de resultado que um relatório entrega. Cada caso foi rodado uma vez; a avaliação sistemática do método está no artigo.

Por que um cliente foi recusado e outro aprovado?

XGBoost · Random Forest · Crédito (HELOC, FICO). Dois clientes parecidos receberam decisões opostas: 30% de chance de aprovação para A e 82% para B. A explicação mostra, atributo por atributo, o que separa os dois e quanto pesa cada diferença.

Onde revisar primeiro?

Rede neural (MLP) · Cancelamento de clientes de telecom. O modelo acerta 89% dos clientes, mas a maior parte dos erros vem com muita confiança, e a confiança do modelo não os denuncia. O Fannar mede outra coisa: o quanto cada cliente está perto da fronteira entre ficar e cancelar.

O retreino mudou o modelo?

Duas versões da mesma rede · Cancelamento de clientes de telecom. Duas versões com a mesma acurácia, 89,1% e 88,9%, treinadas com amostras diferentes dos dados. A métrica não muda, mas o modelo por dentro, sim.

O modelo aprendeu o gato ou a marca d’água?

ResNet-18 · Fotos de gatos e cachorros (Oxford-IIIT Pet). Um dos modelos foi treinado com uma pequena marca em 95% das fotos de cachorro e aprendeu o atalho: chama de cachorro 40% dos gatos com a marca, contra 3% do modelo treinado com fotos limpas. As duas versões têm acurácia alta no teste.

Como o transformer separa as intenções?

DistilBERT (transformer) · Mensagens de clientes de banco (Banking77). Um transformer ajustado para classificar oito intenções de clientes de um banco, com 96% de acurácia. O Fannar mostra a separação acontecendo bloco a bloco; os três métodos mostram o que pesou numa mensagem.

Onde está a falha no sinal?

CNN 1D · Vibração de motor (sinais sintéticos). Uma rede convolucional reconhece quatro estados de um motor a partir da vibração, com 99,8% de acurácia. Na falha de rolamento, a pergunta é em quais instantes o modelo se apoia.

Exemplos, não promessas

Estes modelos foram treinados para ilustrar o método, com uma rodada cada. Em um projeto, cada leitura é comparada a uma referência e o relatório diz quando um resultado não se sustenta. Dois resultados ficaram de fora desta página de propósito: nas árvores, o SHAP vira a decisão com tantas trocas quanto o Fannar ou menos, e num modelo LightGBM a geometria não antecipou os erros.

Início · Enviar uma demanda · Documentação da biblioteca · Código e artigo no GitHub