A funcionalidade de pesquisa está em construção.
A funcionalidade de pesquisa está em construção.

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. ex. Some numerals are expressed as "XNUMX".
Copyrights notice

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. Copyrights notice

Alternative Ruleset Discovery to Support Black-Box Model Predictions Descoberta alternativa de conjunto de regras para apoiar previsões de modelo de caixa preta

Yoichi SASAKI, Yuzuru OKAJIMA

  • Exibições de texto completo

    1

  • Cite isto

Resumo:

A crescente atenção à interpretabilidade dos modelos de aprendizado de máquina levou ao desenvolvimento de métodos para explicar o comportamento dos modelos de caixa preta de maneira post-hoc. No entanto, tais abordagens post-hoc geram uma nova explicação para cada novo input, e estas explicações não podem ser verificadas antecipadamente pelos humanos. Foi proposto um método que seleciona regras de decisão de um conjunto de regras finito como explicação para redes neurais, mas não pode ser usado para outros modelos. Neste artigo, propomos um método de explicação independente de modelo para encontrar um conjunto de regras finito pré-verificável a partir do qual uma regra de decisão é selecionada para apoiar cada previsão feita por um determinado modelo de caixa preta. Primeiro, definimos um modelo de explicação que seleciona a regra, a partir de um conjunto de regras, que fornece a previsão mais próxima; esta regra funciona como uma explicação alternativa ou evidência de apoio para a previsão de um modelo de caixa preta. O conjunto de regras deve ter uma cobertura elevada para fornecer previsões precisas para inputs futuros, mas também deve ser suficientemente pequeno para poder ser verificado antecipadamente por humanos. No entanto, minimizar o conjunto de regras e manter uma alta cobertura leva a um problema combinatório computacionalmente difícil. Assim, mostramos que este problema pode ser reduzido a um problema MaxSAT ponderado composto apenas por cláusulas de Horn, que pode ser resolvido de forma eficiente com solucionadores modernos. Os resultados experimentais mostraram que nosso método encontrou pequenos conjuntos de regras, de modo que as regras selecionadas a partir deles podem alcançar maior precisão para dados estruturados em comparação com o método existente usando conjuntos de regras quase do mesmo tamanho. Também comparamos experimentalmente o método proposto com dois modelos puramente baseados em regras, CORELS e defragTrees. Além disso, examinamos conjuntos de regras construídos para conjuntos de dados reais e discutimos as características do método proposto sob diferentes pontos de vista, incluindo interpretabilidade, limitação e possíveis casos de uso.

Publicação
IEICE TRANSACTIONS on Information Vol.E106-D No.6 pp.1130-1141
Data de publicação
2023/06/01
Publicitada
2023/03/09
ISSN online
1745-1361
DOI
10.1587/transinf.2022EDP7176
Tipo de Manuscrito
PAPER
Categoria
Inteligência Artificial, Mineração de Dados

autores

Yoichi SASAKI
  NEC Corporation
Yuzuru OKAJIMA
  NEC Corporation

Palavra-chave