運用多層注意力神經網絡識別中文隱式篇章關系

摘要：中文隱式篇章關系識別是一個具有挑戰性的任務,其難點在于如何捕獲論元的語義信息。該文提出了一個模擬人類雙向閱讀和重復閱讀過程的三層注意力網絡模型(TLAN)用于識別中文隱式篇章關系。首先,使用Self-Attention層對論元進行編碼;然后,通過細粒度的Interactive Attention層模擬雙向閱讀過程以生成包含交互信息的論元表示,并且通過非線性變換獲得論元對信息的外部記憶;最后,通過包含外部記憶的注意力層來模擬重復閱讀過程,在論元對記憶的引導下生成論元的最終表示。在中文篇章樹庫(CDTB)上進行的隱式篇章關系識別實驗結果顯示,該文提出的模型TLAN在Micro-F1和Macro-F1上超過了多個基準模型。