推荐系统——开源代码

拼搏现实的明天。 2022-05-25 00:35 226阅读 0赞

最近这两年推荐系统特别火，本文搜集整理了一些比较好的开源推荐系统，即有轻量级的适用于做研究的SVDFeature、LibMF、LibFM等，也有重量级的适用于工业系统的 Mahout、Oryx、EasyRecd等

##  ##

\#1.SVDFeature ![IMAG2014031001.png][]

主页：[http://svdfeature.apexlab.org/wiki/Main\_Page][http_svdfeature.apexlab.org_wiki_Main_Page] 语言：C++  
一个feature-based协同过滤和排序工具，由上海交大Apex实验室开发，代码质量较高。在KDD Cup 2012中获得第一名，KDD Cup 2011中获得第三名，相关论文 发表在2012的JMLR中，这足以说明它的高大上。  
SVDFeature包含一个很灵活的Matrix Factorization推荐框架，能方便的实现SVD、SVD++等方法, 是单模型推荐算法中精度最高的一种。SVDFeature代码精炼，可以用 相对较少的内存实现较大规模的单机版矩阵分解运算。另外含有Logistic regression的model，可以很方便的用来进行ensemble。

##  ##

\#2.LibMF ![IMAG2014031002.gif][]

主页：[http://www.csie.ntu.edu.tw/~cjlin/libmf/][http_www.csie.ntu.edu.tw_cjlin_libmf] 语言：C++  
作者[Chih-Jen Lin][]来自大名鼎鼎的台湾国立大学，他们在机器学习领域享有盛名，近年连续多届KDD Cup竞赛上均 获得优异成绩，并曾连续多年获得冠军。台湾大学的风格非常务实，业界常用的LibSVM， Liblinear等都是他们开发的，开源代码的效率和质量都非常高。  
LibMF在矩阵分解的并行化方面作出了很好的贡献，针对SGD（随即梯度下降）优化方法在并行计算中存在的locking problem和memory discontinuity问题，提出了一种 矩阵分解的高效算法FPSGD（Fast Parallel SGD），根据计算节点的个数来划分评分矩阵block，并分配计算节点。系统介绍可以见这篇 [论文][Link 1]（ACM Recsys 2013的 Best paper Award）。

##  ##

\#3.LibFM ![IMAG2014031003.jpg][]

主页：[http://www.libfm.org/][http_www.libfm.org] 语言：C++  
作者是德国Konstanz大学的Steffen Rendle，他用LibFM同时玩转KDD Cup 2012 Track1和Track2两个子竞赛单元，都取得了很好的成绩，说明LibFM是非常管用的利器。  
LibFM是专门用于矩阵分解的利器，尤其是其中实现了MCMC（Markov Chain Monte Carlo）优化算法，比常见的SGD优化方法精度要高，但运算速度要慢一些。当然LibFM中还 实现了SGD、SGDA（Adaptive SGD）、ALS（Alternating Least Squares）等算法。

##  ##

\#4.Lenskit ![IMAG2014031004.png][]

主页：[http://lenskit.grouplens.org/][http_lenskit.grouplens.org] 语言Java

这个Java开发的开源推荐系统，来自美国的明尼苏达大学的GroupLens团队，也是推荐领域知名的测试数据集Movielens的作者。  
该源码托管在GitHub上，[https://github.com/grouplens/lenskit][https_github.com_grouplens_lenskit]。主要包含lenskit-api,lenskit-core, lenskit-knn,lenskit-svd,lenskit-slopone,lenskit-parent,lenskit-data-structures,lenskit-eval,lenskit-test等模块，主要实现了k-NN，SVD，Slope-One等 典型的推荐系统算法。

##  ##

# 5.GraphLab #

![IMAG2014031005.png][]

主页：[GraphLab - Collaborative Filtering][] 语言：C++  
Graphlab是基于C++开发的一个高性能分布式graph处理挖掘系统，特点是对迭代的并行计算处理能力强（这方面是hadoop的弱项），由于功能独到，GraphLab在业界名声很响。 用GraphLab来进行大数据量的random walk或graph-based的推荐算法非常有效。Graphlab虽然名气比较响亮（CMU开发），但是对一般数据量的应用来说可能还用不上。  
GraphLab主要实现了ALS，CCD++，SGD，Bias-SGD，SVD++，Weighted-ALS，Sparse-ALS，Non-negative Matrix Factorization，Restarted Lanczos Algorithm等算法。

##  ##

\#6.Mahout

![IMAG2014031006.png][]

主页：[http://mahout.apache.org/][http_mahout.apache.org] 语言：Java  
Mahout 是 Apache Software Foundation (ASF) 开发的一个全新的开源项目，其主要目标是创建一些可伸缩的机器学习算法，供开发人员在 Apache 在许可下免费 使用。Mahout项目是由 Apache Lucene社区中对机器学习感兴趣的一些成员发起的，他们希望建立一个可靠、文档翔实、可伸缩的项目，在其中实现一些常见的用于 聚类和分类的机器学习算法。该社区最初基于 Ngetal. 的文章 “Map-Reduce for Machine Learning on Multicore”，但此后在发展中又并入了更多广泛的机器学习 方法，包括Collaborative Filtering（CF），Dimensionality Reduction，Topic Models等。此外，通过使用 Apache Hadoop 库，Mahout 可以有效地扩展到云中。  
在Mahout的Recommendation类算法中，主要有User-Based CF，Item-Based CF，ALS，ALS on Implicit Feedback，Weighted MF，SVD++，Parallel SGD等。

##  ##

\#7.Myrrix

![IMAG2014031007.png][]

主页：[http://myrrix.com/][http_myrrix.com] 语言：Java  
Myrrix最初是Mahout的作者之一Sean Owen基于Mahout开发的一个试验性质的推荐系统。目前Myrrix已经是一个完整的、实时的、可扩展的集群和推荐系统，主要 架构分为两部分：服务层：在线服务，响应请求、数据读入、提供实时推荐；计算层：用于分布式离线计算，在后台使用分布式机器学习算法为服务层更新机器学习 模型。Myrrix使用这两个层构建了一个完整的推荐系统，服务层是一个HTTP服务器，能够接收更新，并在毫秒级别内计算出更新结果。服务层可以单独使用，无需 计算层，它会在本地运行机器学习算法。计算层也可以单独使用，其本质是一系列的Hadoop jobs。目前Myrrix以被 Cloudera 并入Oryx项目。

##  ##

\#8.EasyRec

![IMAG2014031008.png][]

主页：[http://easyrec.org/][http_easyrec.org] 语言：Java  
EasyRec是一个易集成、易扩展、功能强大且具有可视化管理的推荐系统，更像一个完整的推荐产品，包括了数据录入模块、管理模块、推荐挖掘、离线分析等。 EasyRec可以同时给多个不同的网站提供推荐服务，通过tenant来区分不同的网站。架设EasyRec服务器，为网站申请tenant，通过tenant就可以很方便的集成到 网站中。通过各种不同的数据收集（view,buy.rating）API收集到网站的用户行为，EasyRec通过离线分析，就可以产生推荐信息，您的网站就可以通过 Recommendations和Community Rankings来进行推荐业务的实现。

##  ##

\#9.Waffles

![IMAG2014031009.png][]

主页：[http://waffles.sourceforge.net/][http_waffles.sourceforge.net] 语言：C++  
Waffles英文原意是蜂蜜甜饼，在这里却指代一个非常强大的机器学习的开源工具包。Waffles里包含的算法特别多，涉及机器学习的方方面面，推荐系统位于 其中的Waffles\_recommend tool，大概只占整个Waffles的1/10的内容，其它还有分类、聚类、采样、降维、数据可视化、音频处理等许许多多工具包，估计 能与之媲美的也就数Weka了。

##  ##

\#10.RapidMiner

![IMAG2014031010.png][]

主页：[http://rapidminer.com/][http_rapidminer.com] 语言：Java  
RapidMiner（前身是Yale）是一个比较成熟的数据挖掘解决方案，包括常见的机器学习、NLP、推荐、预测等方法（推荐只占其中很小一部分），而且带有GUI的 数据分析环境，数据ETL、预处理、可视化、评估、部署等整套系统都有。另外RapidMiner提供commercial license，提供R语言接口，感觉在向着一个商用的 数据挖掘公司的方向在前进。  
======================================分割线======================================

开源的推荐系统大大小小的还有很多，以上只是介绍了一些在学术界和工业界比较流行的TOP 10，而且基本上都是用C++/Java实现的，在参考资料\[1\]、\[2\]中还提 到的有Crab（Python）、CofiRank（C++）、MyMediaLite（.NET/C\#）、PREA（Java）、Python-recsys（Python）、Recommendable（Ruby）、Recommenderlab（R）、 Oryx（Java）、recommendify（Ruby）、RecDB（SQL）等等，当然GitHub上还有更多。。。即有适合单机运行的，也有适合集群的。虽然使用的编程语言不同，但实现 的算法都大同小异，主要是SVD、SGD、ALS、MF、CF及其改进算法等。

</div>
                </div>

[IMAG2014031001.png]: /images/20220525/caa28c046a4a4a68979606d07e6ed69c.png
[http_svdfeature.apexlab.org_wiki_Main_Page]: http://svdfeature.apexlab.org/wiki/Main_Page
[IMAG2014031002.gif]: /images/20220525/72bad8a9e10e4656a0fb3fd8173c0150.png
[http_www.csie.ntu.edu.tw_cjlin_libmf]: http://www.csie.ntu.edu.tw/~cjlin/libmf/
[Chih-Jen Lin]: http://www.csie.ntu.edu.tw/~cjlin/
[Link 1]: http://www.csie.ntu.edu.tw/~cjlin/papers/libmf.pdf
[IMAG2014031003.jpg]: /images/20220525/06210bb550824e3abed97e7d56987882.png
[http_www.libfm.org]: http://www.libfm.org/
[IMAG2014031004.png]: /images/20220525/87d2e7a5f2d14cada9af3a855c7c5dc0.png
[http_lenskit.grouplens.org]: http://lenskit.grouplens.org/
[https_github.com_grouplens_lenskit]: https://github.com/grouplens/lenskit
[IMAG2014031005.png]: /images/20220525/f0d9b4b7d8a84b638dbcd4349d044a89.png
[GraphLab - Collaborative Filtering]: http://docs.graphlab.org/collaborative_filtering.html
[IMAG2014031006.png]: /images/20220525/df5aef0a707e4acaae8bfc730703a75c.png
[http_mahout.apache.org]: http://mahout.apache.org/
[IMAG2014031007.png]: /images/20220525/167485fdf9224621bc425c30d648e777.png
[http_myrrix.com]: http://myrrix.com/
[IMAG2014031008.png]: /images/20220525/389527e7c59248cfa85ad016e03d746a.png
[http_easyrec.org]: http://easyrec.org/
[IMAG2014031009.png]: /images/20220525/68fb3b70f91b4aafb847b78a76aedbf5.png
[http_waffles.sourceforge.net]: http://waffles.sourceforge.net/
[IMAG2014031010.png]: /images/20220525/98d4c9e44d784856b64729664be5acf4.png
[http_rapidminer.com]: http://rapidminer.com/