Slope one
沒有或很少條目連入本條目。 (2016年12月17日) |
Slope One 是一系列應用於協同過濾的算法的統稱。由 Daniel Lemire和Anna Maclachlan於2005年發表的論文中提出。 [1]有爭議的是,該算法堪稱基於項目評價的non-trivial 協同過濾算法最簡潔的形式。該系列算法的簡潔特性使它們的實現簡單而高效,而且其精確度與其它複雜費時的算法相比也不相上下。 [2]. 該系列算法也被用來改進其它算法。[3][4].
協同過濾簡介及其主要優缺點
協同過濾推薦(Collaborative Filtering recommendation)在信息過濾和信息系統中正迅速成為一項很受歡迎的技術。與傳統的基於內容過濾直接分析內容進行推薦不同,協同過濾分析用戶興趣,在用戶群中找到指定用戶的相似(興趣)用戶,綜合這些相似用戶對某一信息的評價,形成系統對該指定用戶對此信息的喜好程度預測。 與傳統文本過濾相比,協同過濾有下列優點:
- 能夠過濾難以進行機器自動基於內容分析的信息。如藝術品、音樂。
- 能夠基於一些複雜的,難以表達的概念(信息質量、品位)進行過濾。
- 推薦的新穎性。
儘管協同過濾技術在個性化推薦系統中獲得了極大的成功,但隨着站點結構、內容的複雜度和用戶人數的不斷增加,協同過濾技術的一些缺點逐漸暴露出來。 主要有以下三點:
- 稀疏性(sparsity):在許多推薦系統中,每個用戶涉及的信息量相當有限,在一些大的系統如亞馬遜網站中,用戶最多不過就評估了上百萬本書的1%~2%。造成評估矩陣數據相當稀疏,難以找到相似用戶集,導致推薦效果大大降低。
- 擴展性(scalability):「最近鄰居」算法的計算量隨着用戶和項的增加而大大增加,對於上百萬之巨的數目,通常的算法將遭遇到嚴重的擴展性問題。
- 精確性(accuracy):通過尋找相近用戶來產生推薦集,在數量較大的情況下,推薦的可信度隨之降低。
Item-based協同過濾 和 過適
當可以對一些項目評分的時候,比如人們可以對一些東西給出1到5星的評價的時候,協同過濾意圖基於一個個體過去對某些項目的評分和(龐大的)由其他用戶的評價構成的數據庫,來預測該用戶對未評價項目的評分。 例如: 如果一個人給披頭四的評分為5(總分5)的話,我們能否預測他對席琳狄翁新專輯的評分呢?
這種情形下, item-based 協同過濾系統[5][6]根據其它項目的評分來預測某項目的分值,一般方法為 線性回歸 ( ). 於是,需要列出x^2個線性回歸方程和2x^2個回歸量,例如:當有1000個項目時,需要列多達1,000,000個線性回歸方程, 以及多達2,000,000個回歸量。除非我們只選擇某些用戶共同評價過的項目對,否則協同過濾會遇到過適[2](過擬合) 問題。
另外一種更好的方法是使用更簡單一些的式子,比如 :實驗證明當使用一半的回歸量的時候,該式子(稱為Slope One)的表現有時優於[2]線性回歸方程。該簡化方法也不需要那麼多存儲空間和延遲。
Item-based 協同過濾只是 協同過濾的一種形式.其它還有像 user-based 協同過濾一樣研究用戶間的聯繫的過濾系統。但是,考慮到其他用戶數量龐大,item-based協同過濾更可行一些。
電子商務中的Item-based協同過濾
人們並不總是能給出評分,當用戶只提供二進制數據(購買與否)的時候,就無法應用Slope One 和其它基於評分的算法。 二進制 item-based協同過濾應用的例子之一就是Amazon的 item-to-item 專利算法[7],該算法中用二進制向量表示用戶-項目購買關係的矩陣,並計算二進制向量間的cosine相關係數。
有人認為Item-to-Item 算法甚至比Slope One 還簡單,例如:
顧客 | 項目 1 | 項目 2 | 項目 3 |
---|---|---|---|
John | 買過 | 沒買過 | 買過 |
Mark | 沒買過 | 買過 | 買過 |
Lucy | 沒買過 | 買過 | 沒買過 |
在本例當中,項目1和項目2間的cosine相關係數為:
,
項目1和項目3間的cosine相關係數為:
,
而項目2和項目3的cosine相關係數為:
.
於是,瀏覽項目1的顧客會被推薦買項目3(兩者相關係數最大),而瀏覽項目2的顧客會被推薦買項目3,瀏覽了項目3的會首先被推薦買項目1(再然後是項目2,因為2和3的相關係數小於1和3)。該模型只使用了每對項目間的一個參數(cosine相關係數)來產生推薦。因此,如果有n個項目,則需要計算和存儲 n(n-1)/2 個cosine相關係數。
Slope One 協同過濾
為了大大減少過適(過擬合)的發生,提升算法簡化實現, Slope One 系列易實現的Item-based協同過濾算法被提了出來。本質上,該方法運用更簡單形式的回歸表達式( ) 和單一的自由參數,而不是一個項目評分和另一個項目評分間的線性回歸 ( )。 該自由參數只不過就是兩個項目評分間的平均差值。甚至在某些實例當中,它比線性回歸的方法更準確[2],而且該算法只需要一半(甚至更少)的存儲量。
例:
- User A 對 Item I 評分為1 對Item J.評分為1.5
- User B 對 Item I 評分為2.
- 你認為 User B 會給 Item J 打幾分?
- Slope One 的答案是:2.5 (1.5-1+2=2.5).
舉個更實際的例子,考慮下表:
顧客 | 項目 1 | 項目 2 | 項目 3 |
---|---|---|---|
John | 5 | 3 | 2 |
Mark | 3 | 4 | 未評分 |
Lucy | 未評分 | 2 | 5 |
在本例中,項目2和1之間的平均評分差值為 (2+(-1))/2=0.5. 因此,item1的評分平均比item2高0.5。同樣的,項目3和1之間的平均評分差值為3。因此,如果我們試圖根據Lucy 對項目2的評分來預測她對項目1的評分的時候,我們可以得到 2+0.5 = 2.5。同樣,如果我們想要根據她對項目3的評分來預測她對項目1的評分的話,我們得到 5+3=8.
如果一個用戶已經評價了一些項目,可以這樣做出預測:簡單地把各個項目的預測通過加權平均值結合起來。當用戶兩個項目都評價過的時候,權值就高。在上面的例子中,項目1和項目2都評價了的用戶數為2,項目1和項目3 都評價了的用戶數為1,因此權重分別為2和1. 我們可以這樣預測Lucy對項目1的評價:
於是,對「n」個項目,想要實現 Slope One,只需要計算並存儲「n」對評分間的平均差值和評價數目即可。
Slope One 的算法複雜度
設有「n」個項目,「m」個用戶,「N」個評分。計算每對評分之間的差值需要n(n-1)/2 單位的存儲空間,最多需要 m n2步. 計算量也有可能挺悲觀的:假設用戶已經評價了最多 y 個項目, 那麼計算不超過n2+my2個項目間計算差值是可能的。 . 如果一個用戶已經評價過「x」個項目,預測單一的項目評分需要「x」步,而對其所有未評分項目做出評分預測需要最多 (n-x)x 步. 當一個用戶已經評價過「x」個項目時,當該用戶新增一個評價時,更新數據庫需要 x步.
可以通過分割數據(參照分割和稀疏存儲(沒有共同評價項目的用戶可以被忽略))來降低存儲要求,
應用Slope One的推薦系統
- hitflip(頁面存檔備份,存於互聯網檔案館) DVD推薦系統
- How Happy(頁面存檔備份,存於互聯網檔案館)
- inDiscover(頁面存檔備份,存於互聯網檔案館) MP3推薦系統
- RACOFI Composer
- Value Investing News(頁面存檔備份,存於互聯網檔案館) 股票新聞網站
- AllTheBests 購物推薦引擎
腳註
- ^ Slope One Predictors for Online Rating-Based Collaborative Filtering (頁面存檔備份,存於互聯網檔案館)
- ^ 2.0 2.1 2.2 2.3 Daniel Lemire, Anna Maclachlan, Slope One Predictors for Online Rating-Based Collaborative Filtering (頁面存檔備份,存於互聯網檔案館), In SIAM Data Mining (SDM'05), Newport Beach, California, April 21-23, 2005.
- ^ Pu Wang, HongWu Ye, A Personalized Recommendation Algorithm Combining Slope One Scheme and User Based Collaborative Filtering, IIS '09, 2009.
- ^ DeJia Zhang, An Item-based Collaborative Filtering Recommendation Algorithm Using Slope One Scheme Smoothing, ISECS '09, 2009.
- ^ Slobodan Vucetic, Zoran Obradovic: Collaborative Filtering Using a Regression-Based Approach. Knowl. Inf. Syst. 7(1): 1-22 (2005)
- ^ Badrul M. Sarwar, George Karypis, Joseph A. Konstan, John Riedl: Item-based collaborative filtering recommendation algorithms. WWW 2001: 285-295
- ^ Greg Linden, Brent Smith, Jeremy York, "Amazon.com Recommendations: Item-to-Item Collaborative Filtering," IEEE Internet Computing, vol. 07, no. 1, pp. 76-80, Jan/Feb, 2003