西山 浩気‎ > ‎文献紹介‎ > ‎

Visualizing and Understanding Neural Machine Translation

概要
 深層学習は様々なタスクで従来手法に比べ高い精度を得ることができている一方で、各隠れ層が結果に与える影響がわかりにくいという問題点がある。この研究ではLayer-wise Relevance Propagationを用いて単語の隠れ状態への貢献度を計算することを提案している。各層が入力層の単語等のノードからどの程度の影響を受けているかを色の濃さで可視化することができる。

参考文献
Visualizing and Understanding Neural Machine Translation, Yanzhuo Ding, Yang Liu, Huanbo Luan, Maosong Sun, Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics, pages 1150–1159 Vancouver, Canada, July 30 - August 4, 2017. c 2017 Association for Computational Linguistics

発表スライド[url]
Comments