• 前言
• 正文
• 參考文獻

前言

  寫在前面，本文的內容主要基於2017年12月2日在蘇州大學舉辦的知識圖譜前沿技術課程（感謝各位老師的talk，受益良多）以及本人在之前閱讀的有關paper，對KG和QA的進一步認識還有待我繼續閱讀和學習有關paper與書籍。由於我知識水平有限，難免有些錯誤，如有錯誤還請賜教。

正文

  知識圖譜2012年被谷歌提出之後，被廣泛應用於各個領域。在圖譜中，node一般代表entity或者concept，邊一般代表關係，常見的有isA和subclassOf的關係，類屬關係和子類關係實際上可以對應到語言學中的上下位詞關係，如：姚明是一名籃球運動員，此時姚明是籃球運動員的下位詞（hyponym）或者籃球運動員是姚明的上位詞（hypernym）。這部分屬於知識圖譜的一些常識知識，我就不過多贅述了，之前我也寫過參加其他課程和實習之後的一些見解，請參見之前的文章

  1. Hearst Pattern

  基於一些規則或者模板去做抽取，例如“NP such as NP”可以抽取出上下位關係。

  2. Bootstrapping

  初始化種子entity pair，使用這些種子pair在文字中擴充套件新的entity pair，但是會導致語義漂移的問題。例如，對於首都這一關係，使用種子entity pair（北京，中國）、（首爾，韓國）、（東京，日本）等，在文字中擴充套件時遇到“北京位於中國”的情況，從而將“X位於Y”對應到了首都這一關係，產生（江蘇，中國）這樣的（語義漂移）錯誤。
  解決語義漂移，有如下幾個方法：
  a. Mutual Exclusion Bootstrapping（利用互斥類別，一個實體只能屬於一個類別）[1]

  3. Distant Supervision

  這個部分有幾項工作：
  a. 多源弱監督知識協同建模（這篇論文應該發表在AAAI 2016，但是沒找到）,基於Markov Logic，使用多種不同的弱監督來提升關係抽取的效能。包括兩個實體的一致性、具有特定關係的實體約束以及類似的表達具有相同的語義。
  b. 引入Attention機制對例項做選擇[4]
  c. RL for Relation Classification from Noisy Data
  這是清華大學黃民烈老師組的工作，已被AAAI 2018收錄，是我前不久看的一個talk，將強化學習用於有噪聲的資料去做關係分類（抽取），想要解決也是在噪聲資料集的問題，因為Distant Supervision的兩個假設會導致大量噪聲資料。

  4. Open IE

  在本部分會遇到兩個問題：
  a. 複雜句子的處理
    1) 定義分解規則，將複雜句子分解成簡單句[5]
    2) 使用句子句法結構+轉換規則進行簡單句分解，如Stanford OpenIE
  b. 語義的歸一化
    1) DIRT[6]
    2) Soft Set inclusion
    3) Topic Model
    例如，X得到Y，如果X是公司，“X得到Y”往往可能等價於“X收購了Y”，但X指人的時候往往不能將“X得到Y”和“X收購了Y”歸一，這時候需要Topic Model。
    4) Jaccard
  在Completion和Correction部分，可以使用collaborative filtering和transitivity做知識圖譜的completion，包括遺失的邊（關係）等。關於correction，則可以通過觀察在概念分類（層）出現的環，這種環的結構很大程度需要進行修正。這裡舉一個肖老師講的例子，發現Paris有個下位詞是exciting city，實際上是因為將“……Paris such an exciting city……”打成了“……Paris such as exciting city……”，計算機就將這個錯誤的上下位詞關係抽取出來了。這個問題可以通在兩條邊的置信度來刪除錯誤的關係，即可以統計兩條邊出現的頻率等等。
  在Update部分，實際上是為了保證Freshness，很general的想法是把整個資料來源（如百度百科等）遍歷一遍，看哪些實體需要更新，但是這一過程可能需要很長時間，顯然用這種方法更新圖譜就成了偽命題，永遠更新不完。“How to Keep a Knowledge Base Synchronized with Its Encyclopedia Source”是復旦肖仰華老師組的工作，發表在IJCAI 2017（我曾經總結過這篇paper，詳情見我之前的博文[傳送門——論文閱讀筆記之How to Keep a Knowledge Base Synchronized with Its Encyclopedia Source]，內含paper原文連結），關於Update這部分就不再贅述。
  知識圖譜的構建實際還需要繼續細分，使用諸如實體連結、命名實體識別、實體關係識別等等方法，與此同時還需要人工做一部分工作，也就有了眾包（Crowdsourcing）。
  Crowdsourcing方面主要講兩個方面，第一個方面是基於眾包的資訊標註，在實際情況中，專家標註語料往往需要很大的開銷，而普通標註員往往開銷小，但是標註的語料質量不高。同時在cross-domain和new domain，或者引入new class的時候，之前標註的語料對新任務的幫助並不大。蘇州大學陳文亮老師組的一項工作，利用對抗學習構建了AI Crowd框架，去學習不同標註員（少量專家和大量普通標註員）標註語料的共性，最終使得計算機無法分辨哪部分語料來自專家，哪部分語料來自普通標註員。該工作的意義在於當遇到new domain或者new class，只需要少量專家和大量普通標註員進行標註得到語料（此時的語料中質量並不高），再通過AI crowd框架使得語料質量得到提升。
  第二方面，是關於更general的眾包問題，如何設計眾包的方式等等。目前的眾包方式實際上可以分為顯式眾包（Explicit Crowdsourcing）和隱式眾包（Implicit Crowdsourcing）。在顯式眾包方面，如何設計問題，因為眾包參與者的偏向如下：判斷題>選擇題>填空題；更傾向於回答簡單問題，如將問題“在NBA獲得總冠軍戒指的中國球員是誰？”拆成“孫悅是不是中國籃球運動員”和“孫悅有沒有在NBA獲得總冠軍戒指”這兩個問題。與此同時，需要考慮到cost和accuracy的平衡，在SIGMOD 2017上有一篇文“An Adaptive Human Interface for Crowd Entity Resolution”去mix multi-choice and Yes-or-no。同時在主動眾包方面，如何計算眾包參與者的報酬，也成為一個問題，這個方面可以參見我暑假參加中國人工智慧大會時聽到的一個talk“眾包中的統計推斷與激勵機制”[傳送門]，美國微軟雷德蒙研究院周登勇研究員在這方面做了相關工作。在隱式眾包方面，有些資料的質量往往高於顯式眾包。關於隱式眾包有幾個比較有意思的工作：

  1. reCAPTCHA利用驗證碼去識別古文中難以識別的字元，每年可以識別數十億的內容且正確率超過99%[7]。

  2. Common sense knowledge acquisition

  這項工作實際上是利用類似於“你畫我猜”的遊戲，在玩家遊戲過程中去獲取一些common sense，而common sense是計算機無法從語料中獲取的（如太陽是圓的，很難從語料裡得到，但是一旦獲取這個知識可以在物體檢測裡面發揮比較重要的作用），同時common sense在做一些推理和理解時往往十分的關鍵。在這樣一個遊戲中，當要猜“太陽”時，玩家可能會描述“這個物體發光發熱並且是圓形”，這樣計算機就可能獲得平時得不到的common sense。

  3. 兒童外語學習認知資料收集的線上遊戲框架acquisition

  這個框架來自我看過的一篇論文，發表在CCL 2017上，是清華大學張敏老師組的工作。通過線上遊戲去獲取針對學齡前兒童的第二語言為英語的詞彙認知資料，並且通過一些原則和措施在收集資料的同時滿足測驗者的興趣和使用需求，確保不會對兒童的成長造成負面的影響和打擊。
  關於隱式眾包的一些思路可以給以後的資料收集帶來一些啟發，包括如何設計資料收集的框架，是不是可以引入一些類似於遊戲中等級的機制等等。
  高質量知識圖譜的構建，可以在一些方面有所應用。例如，意圖的理解；實體相似性判斷，比如清華和北大，這兩個詞沒有互相重複的文字，但是具有很強的相似性，這個相似性就可以通過知識圖譜去發現；可解釋的推薦，目前的推薦系統很多都只是推薦商品、新聞等等，並不能給出推薦的理由；可解釋的人工智慧，這部分可以參見肖老師曾經做過的有關talk[傳送門——基於知識圖譜的可解釋人工智慧]。除這些應用之外，其實還有很多很多，比如問答系統，下面就來簡單說下問答系統。
  目前的問答系統很多是基於知識庫的，即KB-QA（Knowledge Based Question Answering），可以將KB-QA分為Semantic Parsing-based KB-QA(SP-QA)和Information Retrieval-based KB-QA(IR-QA)，兩種QA的思路完全有很大的不同
  IR-QA確定問題中的中心實體，然後挑選候選答案，對答案做一個排序後回答query。下面是一個例子，回答query“姚明是哪裡人？”，通過實體連結發現中心實體是姚明，基於知識庫很多三元組比如<姚明，出生地，上海>、<姚明，職業，籃球運動員>等去生成問題，例如“姚明在哪裡出生？”、“姚明的職業是什麼？”，這裡使用了NLG技術，即自然語言生成。將生成的有關問題和答案做一個排序，然後去回答query[8-9]。
  SP-QA實際上是根據Semantic Parsing如CCG, DCS, SMT等去解析，然後生成lamda表示式或者其他形式如SPARQL等，再去KB中尋找相關答案去回答問題[10-12]。Semantic Parsing有下面幾種方法:
  a.Constructed rules[13]
  b.Grammar-based[14]
  c.Supervised Learning[15]
  IR-QA和SP-QA有著各自的優點，SP-QA是基於Semantic Parsing的，在一定程度上是通過解析語義來回答問題，而IR-QA往往Recall很多，在現實場景中往往將兩者結合使用。
  這裡補充智言科技的一個工作：SPARQL Generation via rule based model and seq2seq + RL，通過使用規則（模板）將自然語言的query生成SPARQL語句，在複雜的情況下，rule-based model的效果不是很好，使用一個seq2seq+RL的框架去訓練一個model實現qery2sparql的轉換。
  上面的部分主要和學術界更相關，但實際上技術是要真正落地，所以在落地過程中會產生一些問題以及實際經驗（包括但不限於）：
  1.在學術界研究的時候，往往query是比較理想的，但是在工業界會遇到更例項化的問題。比如，保險領域中使用者問的是“打仗了會理賠嗎？”，實際的條款只出現了“戰爭”這個詞，而沒有出現“打仗”；或者，相關車險有不能異地辦理的限制，而使用者可能更例項化地去問“南京的汽車能不能在上海買這個車險？”，如何更好地去處理這些問題，去回答更例項化的問答。
  2.面對資料量不足的時候，是否可以做遷移學習，將一個已經解決的方案或者資料遷移到另一個相近的問題上；或者利用一些model去產生一些可以使用的資料等等。
  3.在做資料融合（Knowledge Fusion）的時候，如果某個資料來源非常非常可靠、質量很高的時候，可以不做fusion而直接使用某個資料來源。

參考文獻

[1] Mcintosh T, Curran J R. Weighted Mutual Exclusion Bootstrapping for Domain Independent Lexicon and Template Acquisition[J]. Proceedings of the Australasian Language Technology Association Workshop, 2008:97–105.
[2] Carlson A, Betteridge J, Wang R C, et al. Coupled semi-supervised learning for information extraction[J]. 2010:101-110.
[3] Ye F, Shi H, Wu S. Research on Pattern Representation Method in Semi-supervised Semantic Relation Extraction Based on Bootstrapping[C]// International Symposium on Computational Intelligence & Design. IEEE, 2014:568-572.
[4] Lin Y, Shen S, Liu Z, et al. Neural Relation Extraction with Selective Attention over Instances[C]// Meeting of the Association for Computational Linguistics. 2016:2124-2133.
[5] Corro L D, Gemulla R. ClausIE: clause-based open information extraction[C]// International Conference on World Wide Web. ACM, 2013:355-366.
[6] Lin D, Pantel P. DIRT @[email protected] of inference rules from text[C]// ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. ACM, 2001:323-328.
[7] Von A L, Maurer B, Mcmillen C, et al. reCAPTCHA: human-based character recognition via Web security measures.[J]. Science, 2008, 321(5895):1465-1468.
[8] Bordes A, Chopra S, Weston J. Question Answering with Subgraph Embeddings[J]. Computer Science, 2014.
[9] Dong L, Wei F, Zhou M, et al. Question Answering over Freebase with Multi-Column Convolutional Neural Networks[C]// Meeting of the Association for Computational Linguistics and the, International Joint Conference on Natural Language Processing. 2015:260-269.
[10] Yih W T, Chang M W, He X, et al. Semantic Parsing via Staged Query Graph Generation: Question Answering with Knowledge Base[C]// Meeting of the Association for Computational Linguistics and the, International Joint Conference on Natural Language Processing. 2015:1321-1331.
[11] Dong L, Lapata M. Language to Logical Form with Neural Attention[J]. 2016:33-43.
[12] Zou L, Huang R, Wang H, et al. Natural language question answering over RDF: a graph data driven approach[M]. ACM, 2014.
[13] Tunstall-Pedoe W. True Knowledge: Open-Domain Question Answering Using Structured Knowledge and Inference[J]. Ai Magazine, 2010, 31(3):80-92.
[14] Zettlemoyer L S, Collins M. Learning to map sentences to logical form: structured classification with probabilistic categorial grammars[C]// Conference on Uncertainty in Artificial Intelligence. AUAI Press, 2005:658-666.
[15] Berant J, Liang P. Semantic Parsing via Paraphrasing[C]// Meeting of the Association for Computational Linguistics. 2014:1415-1425.