概要 深層学習は様々なタスクで従来手法に比べ高い精度を得ることができている一方で、各隠れ層が結果に与える影響がわかりにくいという問題点がある。この研究ではLayer-wise Relevance Propagationを用いて単語の隠れ状態への貢献度を計算することを提案している。各層が入力層の単語等のノードからどの程度の影響を受けているかを色の濃さで可視化することができる。
参考文献Visualizing and Understanding Neural Machine Translation, Yanzhuo Ding, Yang Liu, Huanbo Luan, Maosong Sun, Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics, pages 1150–1159
Vancouver, Canada, July 30 - August 4, 2017.
c 2017 Association for Computational Linguistics
発表スライド[url] |
|
