novelty日記

データサイエンスやプログラムなど

敵対的な観測が含まれるデータによる学習

論文

Online Anomaly Detection under Adversarial Impactを読む。

適当にまとめる。

概要

通常の機械学習アルゴリズムは観測を均一に扱い学習を行う。

しかしセキュリティ分野においては、観測が敵対的に与えられる場合がある。

敵対的な観測により学習結果は偏りを生じさせられ、通常では受け入れられないような攻撃を正常として受け入れてしまう事になる。

その場合異常検知手法により外れ値を検出する事は敵対的観測を検知する上で大事となる。

従来手法では無限の訓練データが与えられる場合においては、敵対的観測がその中において指数関数的に与えられない限り学習プロセスが阻害される事はない事が分かった。

しかし無限の訓練データは非現実的なため、本論では有限の訓練データ上における考察を行った。 結局、訓練データのうちの数%しか攻撃者が制御出来ない場合であれば、攻撃者の施策はどのような努力を行っても失敗する事が判明した。