A funcionalidade de pesquisa está em construção.
A funcionalidade de pesquisa está em construção.

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. ex. Some numerals are expressed as "XNUMX".
Copyrights notice

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. Copyrights notice

Multi-Model Selective Backdoor Attack with Different Trigger Positions Ataque backdoor seletivo multimodelo com diferentes posições de gatilho

Hyun KWON

  • Exibições de texto completo

    0

  • Cite isto

Resumo:

Redes neurais profundas apresentam bom desempenho em reconhecimento de imagem, reconhecimento de fala e análise de padrões. No entanto, as redes neurais profundas apresentam pontos fracos, um dos quais é a vulnerabilidade a ataques backdoor. Um ataque backdoor realiza treinamento adicional do modelo alvo em amostras backdoor que contêm um gatilho específico para que os dados normais sem o gatilho sejam classificados corretamente pelo modelo, mas as amostras backdoor com o gatilho específico serão classificadas incorretamente pelo modelo. Vários estudos sobre esses ataques backdoor foram realizados. No entanto, o ataque backdoor existente causa classificação incorreta por um classificador. Em determinadas situações, pode ser necessário realizar um ataque backdoor seletivo a um modelo específico em um ambiente com múltiplos modelos. Neste artigo, propomos um método de ataque backdoor seletivo multimodelo que induz cada modelo a classificar erroneamente as amostras em uma classe diferente de acordo com a posição do gatilho. O experimento para este estudo usou MNIST e Fashion-MNIST como conjuntos de dados e TensorFlow como biblioteca de aprendizado de máquina. Os resultados mostram que o esquema proposto tem uma taxa média de sucesso de ataque de 100% para cada modelo, mantendo 97.1% e 90.9% de precisão nas amostras originais para MNIST e Fashion-MNIST, respectivamente.

Publicação
IEICE TRANSACTIONS on Information Vol.E105-D No.1 pp.170-174
Data de publicação
2022/01/01
Publicitada
2021/10/21
ISSN online
1745-1361
DOI
10.1587/transinf.2021EDL8054
Tipo de Manuscrito
LETTER
Categoria
Inteligência Artificial, Mineração de Dados

autores

Hyun KWON
  Korea Military Academy

Palavra-chave