一、文字挖掘  

     文字挖掘則是對文字進行處理，從中挖掘出來文字中有用的資訊和關鍵的規則，在文字挖掘領域應用最往廣泛的是對文字進行分類和聚類，其挖掘的方法分為無監督學習和監督學習。文字挖掘還可以劃分為7大類：關鍵詞提取、文字摘要、文字主題模型、文字聚類、文字分類、觀點提取、情感分析。

   關鍵詞提取：對長文字的內容進行分析，輸出能夠反映文字關鍵資訊的關鍵詞。

   文字摘要：許多文字挖掘應用程式需要總結文字文件，以便對大型文件或某一主題的文件集合做出簡要概述。

   文字聚類：主要是對未標註的文字進行標註，常見的有 K均值聚類和層次聚類。

   文字分類：文字分類使用監督學習的方法，以對未知資料的分類進行預測的機器學習方法。

   文字主題模型 LDA：LDA（Latent Dirichlet Allocation）是一種文件主題生成模型，也稱為一個三層貝葉斯概率模型，包含詞、主題和文件三層結構，該模型可以用於獲取語料的主題提取和對不同類別的文件進行分類。

   觀點抽取：對文字（主要針對評論）進行分析，抽取出核心觀點，並判斷極性(正負面)，主要用於電商、美食、酒店、汽車等評論進行分析。

   情感分析：對文字進行情感傾向判斷，將文字情感分為正向、負向、中性。用於口碑分析、話題監控、輿情分析。

   因為自己的論文寫的是關於情感分析方面的內容，因此打算接下來主要寫情感分析系列的內容，今天主要寫關於情感分析的介紹以及發展史。

二、情感分析

1. 含義

     情感分析主要是通過分析人們對於服務、產品、事件、話題來挖掘出說話人/作者觀點、情感、情緒等的研究。情感分析按照研究內容的不同，可以分為：意見挖掘 / 意見提取 / 主觀性分析 / 情感傾向分析、情感情緒分析、情感打分等。情感傾向問題，即是指挖掘出一段語料中說話人/作者對於某一話題/事件所持有的態度，如褒義、貶義、中性、兩者兼有。情感情緒，則是將情感傾向進行更進一步的細化，依據“大連理工大學的情感詞彙本體庫”可知，可以將情感傾向可以細化為：“喜歡”、“憤怒”、“討厭”等具體的7個大類——21個小類別。情感打分，即根據情感態度對於某一事物進行評分，如淘寶系統的1-5分。 文字中的情感分析還可以分為：顯式情感、隱式情感，顯式情感是指包含明顯的情感詞語（如：高興、漂亮、討厭等），隱式情感則是指不包含情感詞語的情感文字，如：“這個杯子上面有一層灰”。由於隱式情感分析難度較大，因此目前的工作多集中在顯式情感分析領域。

     情感分析按照不同的分析物件，可以分為：文章級別的情感分析、句子級別的情感分析、詞彙級別的情感分析。按照不同的研究內容以及研究的粒度的不同，其研究情感分析的方法也有很大的變化。

     目前的情感分析研究可歸納為：情感資源構建、情感元素抽取、情感分類及情感分析應用系統；

     情感資源構建：情感資源一般來說有：情感詞典、情感語料庫。情感詞典的構建即是將現有的、整理好的情感詞典資源進行整合，比如中文情感詞典有：大連理工大學的情感詞彙本體庫、知網Hownet情感詞典、臺灣大學的NTUSD簡體中文情感詞典等，根據不同的需求，應用這些情感詞典。情感語料庫，則是我們要分析的文字，如關於新聞的文字、微博評論文字、商品評論文字、電影評論文字等，這些語料的獲取可以是尋找已經整理好的資料，或者自己爬蟲獲取。推薦一個比較全的中文語料庫網站：中文NLP語料庫。

    情感元素抽取：情感元素抽取則是從語料中抽取出來能夠代表說話人/作者情感態度問題的詞彙，也稱為細粒度情感分析。語料中的評價物件和表達抽取是情感元素抽取的核心內容。評價物件是指語料中被討論的主題，比如對於商品評論來說，使用者常提起的“外觀”、“快遞”、“包裝”等方面；表達抽取主要針對顯式情感表達的文字，是指文字抽取出來能夠代表說話人/作者情感、情緒、意見等的詞彙，比如“漂亮”、“贊同”、“不贊同”等。一般來說，評價物件和表達抽取也可以作為相互獨立的兩個任務。一般來說，分析這兩者的方法有：基於規則、基於機器學習。對於評價物件來說，現如今使用最多的方法是利用主題模型中的LDA（Latent Dirichlet Allocation）模型進行分析；對於表達抽取則有：深度學習的方法、基於JST (Joint Sentiment/Topic )模型的方法等。

     情感分類：情感分類則是將文字分為一個具體的類別，比如情感傾向分析，則是將文件分為：褒義、貶義、中性等。一般來說，進行情感分類的方法有，基於情感詞典、基於機器學習。基於情感詞典，最典型的方法則是基於知網Hownet情感詞典的So-Hownet指標進行情感分類，基於機器學習的方法則有監督學習方法、半監督學習方法等。

    針對於情感分析，現已經存在一些專有平臺，如：基於Boson 資料的情感分析平臺，基於產品評論的平臺Google Shopping。情感分析除了在電商平臺應用廣泛之外，情感分析技術還被引入到對話機器人領域。例如，微軟的“小冰”機器人 可以通過分析使用者的文字輸入和表情貼圖，理解使用者當前的情緒狀況，並據此回覆文字或者語音等情感迴應。部分研究機構還將情感分析技術融入實體機器人中。

 2. 發展史

     V. H. 和 K. R. McKeown 於 1997 年發表的論文 [1]，該論文使用對數線性迴歸模型從大量語料庫中識別形容詞的正面或負面語義，同時藉助該模型對語料中出現的形容詞進行分類預測。

     Peter Turney在 2002年在論文 [2] 提出了一種無監督學習的演算法，其可以很好的將語料中的詞語分類成正面情感詞和負面情感詞。

    2002 年 Bo Pang 等人在論文 [3] 中使用了傳統的機器學習方法對電影評論資料進行分類，同時也驗證了機器學習的方法的確要比之前基於規則的方法要優。

    2003 年 Blei 等人在論文 [4] 中提出了 LDA(Latent Dirichlet Allocation)模型，在之後的情感分析領域的工作中，很多學者/研究人員都使用主題模型來進行情感分析，當然也不只是基於主題模型來進行情感分析研究，還有很多利用深度學習方法來進行情感分析的研究。

   Lin 和 He在 2009 年的論文 [5] 提出了一種基於主題模型的模型 —JST(Joint Sentiment/Topic)，其有效的將情感加入到了經典的主題模型當中，因此利用該模型可以獲取到不同情感極性標籤下不同主題的分佈情況。傳統的主題模型獲取文件的主題以及詞的分佈情況，但並沒有關注到情感的存在，因此基於該模型可以對文件的情感傾向進行分析。利用 JST 模型可以有效的直接將語料的主題、情感資訊挖掘出來，同時 JST 模型還考慮到了主題、文件、情感、詞之間的聯絡。

    基於對於語義和句法的考慮，Jo 和 H.OH 在 2011 年提出了 ASUM(Aspect and Sentiment Unification Model)模型，該模型和 JST 模型很相似都是四層的貝葉斯網路結構 [6] 。

    基於神經網路的語義組合演算法被驗證是一種非常有效的特徵學習手段，2013年，Richard Socher和Christopher Potts等人提出多個基於樹結構的Recursive Neural Network，該方法通過迭代運算的方式學習變數長度的句子或短語的語義表示，在斯坦福情感分析樹庫（Stanford Sentiment Treebank）上驗證了該方法的有效性 [7]。Nal Kalchbrenner等人描述了一個卷積體系結構，稱為動態卷積神經網路（DCNN），他們採用它來進行句子的語義建模。 該網路使用動態k-Max池，這是一種線性序列的全域性池操作。 該網路處理不同長度的輸入句子，並在句子上引入能夠明確捕獲短程和長程關係的特徵圖。 網路不依賴於解析樹，並且很容易適用於任何語言。該模型在句子級情感分類任務上取得了非常出色的效果[8]。2015年，Kai Sheng Tai，Richard Socher, Christopher D. Manning在序列化的LSTM （Long Short-Term Memory）模型的基礎上加入了句法結構的因素，該方法在句法分析的結果上進行語義組合，在句子級情感分類和文字蘊含任務(text entailment)上都取得了很好的效果[9]。

   2016年，Qiao Qian, Xiaoyan Zhu等人在LSTM和Bi-LSTM模型的基礎上加入四種規則約束，這四種規則分別是: Non-Sentiment Regularizer,Sentiment Regularizer, Negation Regularizer, Intensity Regularizer，利用語言資源和神經網路相結合來提升情感分類問題的精度。

  除了上面的一些研究，關於情感分析領域的應用仍然有很多，比如：2015 年鄭祥雲等人通過主題模型提取出來圖書館使用者的主題資訊，最後利用這些資訊來進行個性化圖書的有效推薦。將 JST 模型中直接引入了情感詞典作為外部先驗知識來對新聞文字進行分析，獲取其中的主旨句，並對主旨句進行情感打分，同時利用情感主旨句來代替全文，這樣能夠使得使用者更有效、更快速的閱讀文章。

  總的來說，情感分析在很多的領域被應用，當然情感分析也有很多的侷限性，就是過多的依賴於語料庫資訊，同時還需要使用自然語言、人工智慧的方法來能夠最大化的挖掘出來其中的資訊。

 參考文獻：

 [1] :Predicting the semantic orientation of adjectives

 [2]:  Thumbs up or thumbs down? Semantic orientation applied to unsupervised classification of reviews 

 [3] : Thumbs up? Sentiment Classification using Machine Learning Techniques

 [4] :   Latent Dirichlet Allocation

 [5] : Joint sentiment/topic model for sentiment analysis

 [6] : Aspect and sentiment unification model for online review analysis

 [7] : Recursive Deep Models for Semantic Compositionality Over a Sentiment Treebank

 [8]:  A Convolutional Neural Network for Modelling Sentences

 [9]: Improved Semantic Representations From Tree-Structured Long Short-Term Memory Networks

 [10] : Linguistically Regularized LSTMs for Sentiment Classification

&n