A funcionalidade de pesquisa está em construção.
A funcionalidade de pesquisa está em construção.

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. ex. Some numerals are expressed as "XNUMX".
Copyrights notice

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. Copyrights notice

Bridging between Soft and Hard Thresholding by Scaling Fazendo uma ponte entre limites suaves e rígidos por escala

Katsuyuki HAGIWARA

  • Exibições de texto completo

    0

  • Cite isto

Resumo:

Este estudo considerou uma extensão de um método de regularização esparsa com escalonamento, especialmente em métodos de limiarização que são exemplos simples e típicos de modelagem esparsa. Neste estudo, no cenário de um problema de regressão ortogonal não paramétrica, desenvolvemos e analisamos um método de limiarização no qual os estimadores de limiarização suave são expandidos independentemente por valores de escala empíricos. Os valores de escala têm um hiperparâmetro comum que é uma ordem de expansão de um valor de escala ideal para atingir um limite rígido. Nós simplesmente nos referimos a este estimador como um estimador de limiar suave escalonado. O método de limiar suave escalonado é um método de ponte entre os métodos de limiar suave e duro. Este novo estimador é de fato consistente com um estimador LASSO adaptativo no caso ortogonal; ou seja, é, portanto, outra derivação de um estimador LASSO adaptativo. É um método geral que inclui limiar suave e garrote não negativo como casos especiais. Posteriormente, derivamos o grau de liberdade do limiar suave escalonado no cálculo da estimativa de risco imparcial de Stein. Descobrimos que ele é decomposto no grau de liberdade da limiarização suave e no termo restante conectado à limiarização rígida. Como o grau de liberdade reflete o grau de sobreajuste, isso implica que o limiar suave escalonado tem outra fonte de sobreajuste além do número de componentes não removidos. O resultado teórico foi verificado por meio de um exemplo numérico simples. Neste processo, também focamos na não monotonicidade no termo restante do grau de liberdade acima e descobrimos que, em um cenário de amostra esparso e grande, ela é causada principalmente por componentes inúteis que não estão relacionados à função alvo.

Publicação
IEICE TRANSACTIONS on Information Vol.E105-D No.9 pp.1529-1536
Data de publicação
2022/09/01
Publicitada
2022/06/09
ISSN online
1745-1361
DOI
10.1587/transinf.2021EDP7223
Tipo de Manuscrito
PAPER
Categoria
Inteligência Artificial, Mineração de Dados

autores

Katsuyuki HAGIWARA
  Mie University

Palavra-chave