2020年10月22日下午，CNCC的第1天，由CCF主辦，沈陽經濟技術開發區管理委員會、沈陽市産業轉型升級促進中心、沈陽華瑞博信息技術有限公司承辦的“自然語言處理前沿技術論壇”在沈陽成功舉辦。

論壇執行主席由哈爾濱工業大學計算學部社會計算與信息檢索研究中心張偉男副教授擔任。會議邀請了四位講者，包括教育部青年長江學者，黑龍省“龍江學者”青年學者車萬翔（哈爾濱工業大學）、科大訊飛AI研究院副院長陳志剛、中國中文信息學會首屆優秀博士論文提名獲得者肖桐副教授（東北大學）、中國博士後科學基金特别資助獲得者劉銘副教授（哈爾濱工業大學），四位講者開啟了一場頂尖的自然語言處理領域的學術盛宴。

CCF沈陽分部、CCF YOCSEF沈陽以及來自全國各地的CCF會員、知名企業技術骨幹、政府代表等30餘人在現場參加論壇。同時，部分注冊會議的人員通過愛奇藝和B站觀看了論壇直播并參與互動。

第一位講着車萬翔教授帶來了題目為《數據稀缺情景下的任務型對話系統》的報告。他介紹了數據稀缺情景下的學習任務、任務型對話、任務型對話系統的結構，重點剖析了自然語言理解領域識别、意圖識别、語義槽填充，模仿人類利用少量樣本學習模塊；深入讨論了目前解決數據稀缺的主流方法，包括從模型架構出發——少樣本學習、從數據出發——創造樣本、從學習算法出發——抗過拟合的參數學習算法。車萬翔教授還介紹了對話語言理解的數據增廣研究，具體數據增廣流程seq2seq數據增廣模型訓練過程、預測了且會議且學習的目标轉移機制，提出了“數據稀缺情景下的任務型對話系統中利用少樣本學習、創造樣本、抗過拟合的參數學習算法”。

第二位講者陳志剛博士帶來了題目為《自然語言推理領域的最新進展》的報告，他介紹了在自然語言推理領域的工作内容，全面回顧自然語言推理基礎上，指出自然語言推理的缺陷是語義組合、常識知識理解和機器沒有很強的自主學習能力。他指出了自然語言推理的應用場景，包括閱讀理解，問答等，目前的主要工作是ESIM/HIM，過程中利用編碼attention機制拼接。

陳博士還就結構化文本推理、自然邏輯預測等方面的科學研究進展進行了分析和介紹，陳志剛博士最後指出：“當前做推理已經邁開了第一步，符号的方法可以發揮它的價值，在業務場景中是自然語言 少樣本應用。”

第三位講者肖桐博士帶來了題目為《面向神經機器翻譯的多層信息融合》的報告。他介紹了神經機器翻譯的發展曆程，提出了機器翻譯的挑戰，包括适應性問題（面向地資源場景的高适應性模型）、效率問題和結構學習問題。肖博士還介紹了已取得的成果，可以實現更快的解碼速度（解碼端多層信息共享）、更好的翻譯質量（編碼端深層），然後主要探讨了共享注意力網絡（基于自注意力機制的神經機器翻譯系統和面向神經機器翻譯的深層網絡），以及如何使用更深的網絡（使用線性多步方法讓上層網絡充分利用之前網絡的信息）。他還例舉出在實驗（英語-德語）中使用很強的基線性能模型，伴随着編碼端層數增加，DLCL在兩種範式下效果更好。得出實驗結論：深層網絡對比淺層base與big模型均有提升。

肖桐博士指出：“從網絡表示來探索解釋性，在深層網絡中相鄰網絡表示之間呈現高相似性，同時深層網絡中每個位置表示更傾向于全局句子的表示，不是單獨每個詞的表示”。

第四位講者劉銘教授帶來報告的題目是《多人對話語篇分析及其應用》，劉銘教授以圖靈測試開篇，介紹了報告相關的基本概念，包括語篇、語篇處理、句法分析等。他還講解了語篇結構的相關應用，包括引入語篇标識和RST樹來幫助非事實性問答、假設-基于任務的語篇關系能促進機器閱讀理解、抽取式摘要和生成式摘要。重點介紹了多人對話語篇結構：解析對話文本中話語之間的予以關系。他總結出，現有的工作主要是能預測圖結構，而不僅是樹結構，采用整數線性規劃。

接下來，論壇進行了半個小時的思辨環節，主持人依次抛出三個問題。

1.機器翻譯、篇章分析、對話系統和自然語言推理等方式，可解釋性的需求、任務和方法有哪些？

2.自然語言推理是否具備範式和邏輯屬性？如果有目前範式有哪些？如果沒有原因是什麼？

3.預訓練為自然語言處理帶來了新的機遇，那麼對研究人員是否也同時帶來了挑戰，具體有哪些？

針對這些問題，五位講者都發表了自己的看法，期間，現場和在線的觀衆也與講者進行了精彩的互動。

經過三個半個小時的報告和深入思辨，本論壇有關自然語言處理的基本觀點總結如下：

（1）對于不同的終端，可解釋性有不同理解；

（2）自然語言推理中存在一定的邏輯性，但是範式還在發展中；

（3）預訓練降低了自然語言處理入門的門檻，同時為研究的帶來了挑戰。

最後，論壇主席張偉男對本次論壇進行了總結，今日大會順利結束。