1. 程式人生 > >(論文閱讀筆記1)Collaborative Metric Learning(一)(WWW2017)

(論文閱讀筆記1)Collaborative Metric Learning(一)(WWW2017)

一、摘要

    度量學習演算法產生的距離度量捕獲資料之間的重要關係。這裡,我們將度量學習和協同過濾聯絡起來,提出了協同度量學習(CML),它可以學習出一個共同的度量空間來編碼使用者偏好和user-user 和 item-item的相似度。

二、背景

2.1 Metric Learning

     令χ={x1,x2,,xn}是空間Rm上的一個數據集。
相似對記為:

S={(xi,xj)|xixj}
非相似對記為:
D={(xi,xj)|xixj}

最普通的度量學習方法採用的是馬氏距離度量:

dA(xi,xj)=(xixj)T
A(xixj)

其中A是空間Rm×m上的半正定矩陣。這個式子將輸入x對映到空間Rm上,且滿足一些期望的限制。有很多方法來建立這樣一個距離,最常用的方法是全域性法,來解決如下凸優化問題:
minA(xi,xj)SdA(xi,xj)2st.(xi,xj)DdA(xi,xj)21andA0
還有其他一些方法,比如非線性轉換函式,比如核函式和神經網路,可以提高度量的準確性。

2.2 Metric Learning for kNN

     上邊的全域性優化本質上式試圖學習一種距離:它將相似的放在一起,將不相似的儘量分開。另一方面,如果學習到的度量被用作knn分類,只要保證目標與k個近鄰共享一個類標就足夠了。
     具體來說,給定一個輸入x

,我們把離x近的資料點作為它的target neighbors。並且假設x的target neighbors構建了不同類標之間的邊界。不同類標的輸入侵入邊界被作為importors。這裡,學習的目標就是最小化importors的個數。
     一種為人知模型是LMNN,它使用2個損失函式來表達上述目標函式。
1. LMNN定義了pull loss:

Lpull(d)=jid(xi,xj)2
其中,ji的target neighbor。
2. push loss:
Lpush(d)=i,jik(1yik)[1+d(xi,xj)2d(xi,xk)2]+
其中,如果i
k擁有同一個類標,則yik=1,否則, yik=0[z]+=max(z,0).完整的損失函式是結合上述兩個損失函式, 可以通過半正定程式設計來進行優化。

2.3 Collaborative Filtering

     這裡重點關注隱性反饋的CF,傳統的CF演算法是基於使用者相似計算出的。MF是一種流行的CF演算法,普通的MF模型設計為使用者的顯性反饋,它是通過將users 和items對映到潛在因子空間上,那麼user-item的關係可以通過潛在因子的乘積獲得。
r

相關推薦

(論文閱讀筆記1)Collaborative Metric Learning()WWW2017

一、摘要     度量學習演算法產生的距離度量捕獲資料之間的重要關係。這裡,我們將度量學習和協同過濾聯絡起來,提出了協同度量學習(CML),它可以學習出一個共同的度量空間來編碼使用者偏好和user-user 和 item-item的相似度。 二、背景

論文閱讀筆記: 2016 cvpr Convolutional Pose Machines轉載

出自https://blog.csdn.net/u010579901/article/details/79606257 論文閱讀筆記: 2016 cvpr Convolutional Pose Machines   部落格   論文地址

論文閱讀筆記】---二值神經網路BNN

二值網路是將權值W和隱藏層啟用值二值化為1或者-1。通過二值化操作,使模型的引數佔用更小的儲存空間(記憶體消耗理論上減少為原來的1/32倍,從float32到1bit);同時利用位操作來代替網路中的乘加運算,大大降低了運算時間。由於二值網路只是將網路的引數和啟用值二值化,並沒有改變網路的結構。因此我們主要關注

論文閱讀筆記1

作者資訊:XinYu Wang, Jiangke Zhu, Zibin Zheng, 分別是浙江大學和中山大學,Zibin Zheng的主要研究方向就是web service recommendation。他已經是IEEE transaction on comp

[論文閱讀筆記] metapath2vec: Scalable Representation Learning for Heterogeneous Networks

## [論文閱讀筆記] metapath2vec: Scalable Representation Learning for Heterogeneous Networks --- ## 本文結構 1. 解決問題 2. 主要貢獻 3. 演算法原理 4. 參考文獻 --- ### (1) 解決問題 **解決

[論文閱讀筆記] node2vec Scalable Feature Learning for Networks

## [論文閱讀筆記] node2vec:Scalable Feature Learning for Networks --- ## 本文結構 1. 解決問題 2. 主要貢獻 3. 演算法原理 4. 參考文獻 --- ### (1) 解決問題 由於DeepWalk的隨機遊走是完全無指導的隨機取樣,即隨機

《深入理解計算機系統》閱讀筆記--程序的機器級表示

還要 所有 執行文件 命令 不同的 指向 local 變量 section 一、為什麽要學習和了解匯編 編譯器基於編程語言的規則,目標機器的指令集和操作系統遵循的慣例,經過一系列的階段生成機器代碼。GCC c語言編譯器以匯編代碼的形式產生輸出,匯編代碼是機器代碼的文

robot framework學習筆記1之_環境安裝win7

glob 檢查 path 運行 完成 setup.py 國內 解壓 內容 一、簡介 Robotframework是基於Python的自動化測試框架。使用關鍵字驅動的測試方法,自帶豐富的庫函數可直接引用,可使用Java/Python進行功能庫擴展,測試用例使用TSV/HTML

論文閱讀筆記LeNet--Gradient-Based Learning Applied to Document Recognition

輸入 共享 rbf map 內部 field dex title 手動 作者:Yann LeCun,Leon Botton, Yoshua Bengio,and Patrick Haffner這篇論文內容較多,這裏只對部分內容進行記錄:以下是對論文原文的翻譯:在傳統的模式識

論文閱讀筆記Network In Network

hole orm 後來 entropy function ppr master 3層 上進 該論文提出了一種新穎的深度網絡結構,稱為“Network In Network”(NIN),以增強模型對感受野內local patches的辨別能力。與傳統的CNNs相比,NIN主要

論文閱讀筆記】Deep Learning based Recommender System: A Survey and New Perspectives

【論文閱讀筆記】Deep Learning based Recommender System: A Survey and New Perspectives 2017年12月04日 17:44:15 cskywit 閱讀數:1116更多 個人分類: 機器學習

論文閱讀筆記二十二:Learning to Segment Instances in Videos with Spatial Propagation NetworkCVPR-20017

論文源址:https://arxiv.org/abs/1709.04609 摘要       該文提出了基於深度學習的例項分割框架,主要分為三步,(1)訓練一個基於ResNet-101的通用模型,用於分割影象中的前景和背景。(2)將通用模型進行微調成為一個例項分割模型,藉

《GraphGAN:Graph Representation Learning with Generative Adversarial Nets》論文閱讀筆記

最近在準備碩士期間的畢業論文的開題工作,也是比較愁於沒有什麼好的畢業設計的想法。在學習完這篇論文後,我發現基於生成對抗網路的網路表示學習的方法挺有意思。通過寫這篇部落格也是想要加深自己對這篇論文的idea的理解,同時也想著是否我也可以提出一種改進或是適當借鑑一下這種思想。 &nbs

論文閱讀筆記三十:YOLOv3: An Incremental Improvement

    論文源址:https://pjreddie.com/media/files/papers/YOLOv3.pdf 程式碼:https://github.com/qqwweee/keras-yolo3 摘要        本文針對YOL

文陽平教授化學學科論文閱讀筆記

一、《電子舌電化學特徵引數的穩定性研究與應用》 1. 三種常用的電化學分析方法:溶液等效電路分析、對稱方波分析、計時庫侖分析 2.資料處理的方法 (1)剔除異常值 樣本大於3倍的標準差剔除 3.PCA  DI值     CV值  

part-aligned系列論文:1707.Deep Representation Learning with Part Loss for Person ReID 論文閱讀筆記

Deep Representation Learning with Part Loss for Person ReID 本論文為了更好的提升reid模型在未見過的行人影象判別能力,正對現有大部分只有全域性特徵表達(轉化為分類,一般minimize the em

視覺場景理解論文閱讀筆記2:Hierarchically Structured Reinforcement Learning for Topically Coherent Visual Story

一、文章相關資料二、閱讀筆記1.論文思想       針對序列影象生成故事描述的需求,使用層次結構的網路進行解碼學習。高階網路用於學習序列中每幅影象的語義資訊,所屬主題;低階網路用於根據學到的主題與語義屬性逐詞逐句生成句子描述。2.結構(1)Manager-Worker 框架

論文閱讀筆記——《Crafting a Toolchain for Image Restoration by Deep Reinforcement Learning

這篇論文是CVPR 2018 (Spotlight),是本人團隊小夥伴餘可的作品~ 程式碼連結:https://github.com/yuke93/RL-Restore 專案主頁:http://mmlab.ie.cuhk.edu.hk/projects/RL-Restore/ 論文連

1705.Person Re-Identification by Deep Joint Learning of Multi-Loss Classification 論文閱讀筆記

Person Re-Identification by Deep Joint Learning of Multi-Loss Classification 本文采用多loss分類聯合訓練同時學習行人條紋區域性特徵和全域性特徵,受益於區域性和全域性學習到的特徵具有

論文閱讀筆記四十:Very Deep Convolutional Networks For Large-Scale Image RecongnitionVGG ICLR2015

結合 等價 選擇 mac 不同的 works info 內存 enc 論文原址:https://arxiv.org/abs/1409.1556 代碼原址:https://github.com/machrisaa/tensorflow-vgg 摘要 本