基于小樣本機器學(xué)習(xí)的跨任務(wù)對話系統(tǒng)

摘要：對話系統(tǒng)效果主要取決于自然語言理解與對話管理組件的表現(xiàn)。在構(gòu)建特定領(lǐng)域的對話系統(tǒng)時,標(biāo)注數(shù)據(jù)和語料不足、面臨多輪對話中不合作對話的干擾,而且很難將一個構(gòu)建完的系統(tǒng)擴展到新的領(lǐng)域。在少量特定領(lǐng)域樣本的基礎(chǔ)上,將來自機器翻譯模型的雙向編碼表征預(yù)訓(xùn)練模型應(yīng)用到意圖識別模塊,在對話管理組件提出了基于神經(jīng)圖靈機的循環(huán)嵌入對話策略,使系統(tǒng)具備了更強的特征抽取能力,并初步具備了跨任務(wù)對話能力。該對話策略通過神經(jīng)圖靈機對歷史對話和系統(tǒng)行為給予了特別關(guān)注,在用戶和系統(tǒng)記憶中使用了不同的注意力機制,有效地學(xué)習(xí)了對話狀態(tài)與系統(tǒng)行為的向量嵌入。實驗結(jié)果表明,在樣本不足的垂直領(lǐng)域?qū)υ挏y試中更好地完成了意圖識別與槽位填充,基本避免不合作對話導(dǎo)致的對話狀態(tài)錯亂,同時能夠?qū)W(xué)到的對話控制策略遷移到另一領(lǐng)域。