AAAI 2020放榜丨小i機器人&加州大學戴維斯分校聯(lián)合論文入選

　　《MOSS:End-to-End Dialog System Framework with Modular Supervision》是小i機器人研究院團隊與加州大學戴維斯分校聯(lián)合發(fā)表的一篇關于面向任務型對話的論文。MOSS（模塊化監(jiān)督網絡）是一個End-to-End的Encoder-Decoder訓練框架，整合了來自中間對話系統(tǒng)中的各種有監(jiān)督模塊，包括自然語言理解、對話狀態(tài)跟蹤、對話策略學習和自然語言生成。由于缺乏數(shù)據(jù)是訓練端到端面向任務的對話系統(tǒng)的主要瓶頸，MOSS更有效地利用有限的培訓數(shù)據(jù)，在只有60%的訓練數(shù)據(jù)條件下，讓CamRest676任務達到了最先進的水平。在只有40%的訓練數(shù)據(jù)條件下，讓復雜的筆記本電腦網絡故障排除數(shù)據(jù)集（LaptopNetwork）任務達到了最先進的水平。此外，MOSS也是一個靈活的框架，可以去掉一些模塊的監(jiān)督學習，是一個可插拔使用的模型。

　　論文提出了遵循模塊化系統(tǒng)的思路，在一個端到端的可訓練框架中，為每個對話模塊注入豐富的監(jiān)督。在MOSS框架下，諸如自然語言理解、對話狀態(tài)跟蹤、對話策略學習和自然語言生成等對話模塊共享一個編碼器，但分別有各自的解碼器。不同模塊的解碼器通過隱藏狀態(tài)連接，而不是通過符號輸出。然后對各模塊進行聯(lián)合優(yōu)化，避免誤差傳播和模型失配。此外，由于MOSS在測試過程中會產生單個模塊的輸出，所以可以通過檢查模塊輸出來輕松定位錯誤。

　　值得一提的是，該入選論文中還首次發(fā)表了LaptopNetwork——由小i機器人研究院團隊與加州大學戴維斯分校共同收集整理的一個真實的筆記本電腦網絡故障排除的中文任務。LaptopNetwork數(shù)據(jù)集收集來自于一個在線打字的售后服務平臺，它涉及到有技術問題的真實客戶和專業(yè)的電腦維護工程師，因此更加真實。在LaptopNetwork中，工程師可能會根據(jù)客戶的反饋給出不同的解決方案。LaptopNetwork有來自97名工程師的618個對話，每個對話平均14.76個回合，每個話語平均有51.67個漢字，每個對話平均耗時985.82秒。為LaptopNetwork開發(fā)一個注釋方案是很有挑戰(zhàn)性的，因為對話框中充滿了諸如“網絡適配器”和“網絡編程接口”之類的計算機維護術語，這些術語對于初學者來說很難理解。論文最后確定了60種不同的對話行為，其中12種是與網絡解決方案相關的對話行為。與CamRest676這類只有請求和提供信息兩種對話行為的信息查詢任務相比，論文提出的網絡故障排除任務要復雜得多。

　　通過論文的實驗結果表明，當對話任務具有更復雜的對話狀態(tài)和操作空間時，引入模塊化監(jiān)控會帶來更大的好處。如圖所示，在只有40%的訓練數(shù)據(jù)的情況下，MOSS-all在所有指標上都優(yōu)于TSCP。