A funcionalidade de pesquisa está em construção.
A funcionalidade de pesquisa está em construção.

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. ex. Some numerals are expressed as "XNUMX".
Copyrights notice

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. Copyrights notice

Stochastic Discrete First-Order Algorithm for Feature Subset Selection Algoritmo Estocástico Discreto de Primeira Ordem para Seleção de Subconjunto de Recursos

Kota KUDO, Yuichi TAKANO, Ryo NOMURA

  • Exibições de texto completo

    0

  • Cite isto

Resumo:

Este artigo aborda o problema de seleção de um subconjunto significativo de recursos candidatos para uso na regressão linear múltipla. Bertsimas et ai. [5] propuseram recentemente o algoritmo discreto de primeira ordem (DFO) para encontrar com eficiência soluções quase ótimas para este problema. No entanto, este algoritmo é incapaz de escapar de soluções localmente ótimas. Para resolver isso, propomos um algoritmo estocástico discreto de primeira ordem (SDFO) para seleção de subconjuntos de recursos. Neste algoritmo, perturbações aleatórias são adicionadas a uma sequência de soluções candidatas como um meio de escapar de soluções localmente ótimas, o que amplia a gama de soluções detectáveis. Além disso, derivamos o tamanho ideal do passo na direção gradiente-descida para acelerar a convergência do algoritmo. Também fazemos uso eficaz do L2-termo de regularização para melhorar o desempenho preditivo de um modelo de regressão de subconjunto resultante. Os resultados da simulação demonstram que nosso algoritmo supera substancialmente o algoritmo DFO original. Nosso algoritmo foi superior em desempenho preditivo ao laço e à seleção passo a passo também.

Publicação
IEICE TRANSACTIONS on Information Vol.E103-D No.7 pp.1693-1702
Data de publicação
2020/07/01
Publicitada
2020/04/13
ISSN online
1745-1361
DOI
10.1587/transinf.2019EDP7274
Tipo de Manuscrito
PAPER
Categoria
Inteligência Artificial, Mineração de Dados

autores

Kota KUDO
  University of Tsukuba
Yuichi TAKANO
  University of Tsukuba
Ryo NOMURA
  Waseda University

Palavra-chave