⬆⬆⬆ 點選藍字

關注我們

AI TIME歡迎每一位AI愛好者的加入！

AI TIME PhD

《探究句法資訊對於基於句法距離

的語言模型影響》

2020年10月16日 19:30-20:30

劃重點

！

直播通道:

嗶哩嗶哩直播通道

掃碼或點選連結

關注AITIME嗶哩嗶哩官方賬號

觀看直播

連結：https://live.bilibili.com/21813994

直播時間：

2020年10月16日 19:30-20:30

報告題目：

探究句法資訊對於基於句法距離的語言模型影響

研究人類的語言學知識對於自然語言處理中模型的影響是一個長盛不衰的話題。具體對於語言模型（language model）任務，早在n-gram時代，將句法資訊融入模型中就是學界的主流，這被稱為結構化語言模型（structured language modeling）

但隨著神經網路在上個十年的復興，現代的基於神經網路的語言模型往往用百萬級引數去直接擬合生文字分佈，忽略了任何結構化的句法資訊。目前只有少數工作研究了結構化資訊對於語言模型的影響，本文基於其中的一個流派，即基於句法距離的語言模型作為基線，研究了人類句法結構對於該類語言模型的影響，通過增加句法資訊到模型中，我們成功的提升了語言模型的效能，我們接著開展了詳盡的分析來研究新增的句法資訊對於模型生成結構的影響。

該工作同蒙特利爾人工智慧研究所（MILA）合作，已發表在ACL 2020。

嘉賓簡介：

杜文宇，西湖大學科研助理，導師張嶽副教授，目前主要研究方向為自然語言處理中的傳統自迴歸語言模型，以及大規模預訓練模型，和對相關模型的語言學分析，共指消解等，已在ACL，AAAI，WWW等發表多篇一作文章。

直播結束後我們會邀請講者在微信群中與大家答疑交流，請新增“AI TIME小助手（微訊號：AITIME_HY）”,回覆“phd”，將拉您進“AI TIME PhD交流群-1”！

AI TIME微信小助手

主 辦：AI TIME

聯合支援：中國工程院知領直播、學堂線上、CSDN

公益合作：智譜·AI、學術頭條、biendata、大資料文摘、資料派、 Ever鏈動、機器學習演算法與自然語言處理

清華情懷·AITIME基地

1911主題餐廳

待疫情結束，AI TIME期待與您線下相聚！

AI Time歡迎AI領域學者投稿，期待大家剖析學科歷史發展和前沿技術。針對熱門話題，我們將邀請專家一起論道。同時，我們也長期招募優質的撰稿人，頂級的平臺需要頂級的你，請將簡歷等資訊發至

微信聯絡:AITIME_HY

AI Time是清華大學計算機系一群關注人工智慧發展，並有思想情懷的青年學者們創辦的圈子,旨在發揚科學思辨精神，邀請各界人士對人工智慧理論、演算法、場景、應用的本質問題進行探索，加強思想碰撞，打造一個知識分享的聚集地。

更多資訊請掃碼關注