Saiba o que o seu modelo aprendeu antes de confiar nele.

Audito modelos de IA já treinados, de árvores de decisão a redes neurais, com o Fannar, um método de interpretabilidade que eu mesmo desenvolvi, junto com SHAP e LIME. O relatório mostra onde o modelo acerta, onde vai errar e por que decide como decide, e diz até onde cada conclusão vale.

Perguntas que o relatório responde

Cada resposta vem com uma referência de comparação. Se o resultado não se distingue dela, o relatório diz isso em vez de oferecer uma explicação que não se sustenta.

Veja o Fannar em ação

Seis modelos treinados para ilustrar o que um relatório entrega, cada um com uma pergunta e a resposta dos três métodos. Ver casos e resultados

Escopo fechado, entrega definida

Como o trabalho acontece

Onde o método não vale

Quando a decisão do modelo é fraca, a explicação de uma decisão pode não se sustentar, e o relatório mostra isso. A análise descreve o comportamento do modelo, mas não o prevê. Cada leitura vem com a condição em que é válida.

Perguntas frequentes

Enviar uma demanda · Ver valores por hora · Documentação da biblioteca · Código e artigo no GitHub · Fernando Dal' Maria