TranslateProject/published/201612/20160817 Building a Real-Time Recommendation Engine with Data Science.md
wxy 420f7db5ea 归档 201612
2016 再见~
2016-12-31 23:55:02 +08:00

197 lines
16 KiB
Markdown
Raw Permalink Blame History

This file contains ambiguous Unicode characters

This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.

用数据科学搭建一个实时推荐引擎
======================
编者注:本文是 2016 年 4 月 Nicole Whilte 在欧洲 [GraphConnect][1] 时所作。这儿我们快速回顾一下她所涉及的内容:
- 图数据库推荐基础
- 社会化推荐
- 相似性推荐
- 集群推荐
今天我们将要讨论的内容是数据科学和图推荐graph recommendations
我在 [Neo4j][2] 任职已经两年了,但实际上我已经使用 Neo4j 和 [Cypher][3] 工作三年了。当我首次发现这个特别的图数据库graph database的时候我还是一个研究生那时候我在奥斯丁的德克萨斯大学攻读关于社交网络的统计学硕士学位。
[实时推荐引擎][4]是 Neo4j 中最广泛的用途之一,也是使它如此强大并且容易使用的原因之一。为了探索这个东西,我将通过使用示例数据集来阐述如何将统计学方法并入这些引擎中。
第一个很简单 - 将 Cypher 用于社交推荐。接下来,我们将看一看相似性推荐,这涉及到可被计算的相似性度量,最后探索的是集群推荐。
### 图数据库推荐基础
下面的数据集包含所有达拉斯 Fort Worth 国际机场的餐饮场所,达拉斯 Fort Worth 国际机场是美国主要的机场枢纽之一:
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816214938/recommendation-engine-data-science-nicole-white-graphconnect-768x432.png)
我们把节点标记成黄色并按照出入口和航站楼给它们的位置建模。同时我们也按照食物和饮料的主类别将地点分类,其中一些包括墨西哥食物、三明治、酒吧和烤肉。
让我们做一个简单的推荐。我们想要在机场的某一确定地点找到一种特定食物,大括号中的内容表示是的用户输入,它将进入我们的假想应用程序中。
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816215426/food-drink-real-time-recommendation-engine-parameters-768x208.png)
这个英文句子表示成 Cypher 查询:
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816215537/cypher-query-dfw-food-drink-real-time-recommendations-768x364.png)
这将提取出该类别中用户所请求的所有地点、航站楼和出入口。然后我们可以计算出用户所在位置到出入口的准确距离,并以升序返回结果。再次说明,这个非常简单的 Cypher 推荐仅仅依据的是用户在机场中的位置。
### 社交推荐Social Recommendations
让我们来看一下社交推荐。在我们的假想应用程序中,用户可以登录并且可以用和 Facebook 类似的方式标记自己“喜好”的地点,也可以在某地签到。
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816215655/social-media-recommendation-engine-data-model-768x550.png)
考虑位于我们所研究的第一个模型之上的数据模型,现在让我们在下面的分类中找到用户的朋友喜好的航站楼里面离出入口最近的餐饮场所:
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816215751/social-recommendation-engine-parameters-768x258.png)
MATCH 子句和我们第一次 Cypher 查询的 MATCH 子句相似,只是现在我们依据喜好和朋友来匹配:
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816215846/social-recommendation-engine-cypher-query-768x468.png)
前三行是完全一样的,但是现在要考虑的是那些登录的用户,我们想要通过 :FRIENDS_WITH 这一关系来找到他们的朋友。仅需通过在 Cypher 中增加一些行内容,我们现在已经把社交层面考虑到了我们的推荐引擎中。
再次说明,我们仅仅显示了用户明确请求的类别,并且这些类别中的地点与用户进入的地方是相同的航站楼。当然,我们希望按照登录并做出请求的用户来滤过这些目录,然后返回地点的名字、位置以及所在目录。我们也要显示出有多少朋友已经“喜好”那个地点以及那个地点到出入口的确切距离,然后在 RETURN 子句中同时返回所有这些内容。
### 相似性推荐Similarity Recommendations
现在,让我们看一看相似性推荐引擎:
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816215944/similarity-recommendation-engine-data-model-768x646.png)
和前面的数据模型相似,用户可以标记“喜好”的地点,但是这一次他们可以用 1 到 10 的整数给地点评分。这是通过前期在 Neo4j 中增加一些属性到关系中建模实现的。
这将允许我们找到其他相似的用户,比如以上面的 Greta 和 Alice 为例,我们已经查询了他们共同喜好的地点,并且对于每一个地点,我们可以看到他们所设定的权重。大概地,我们可以通过他们的评分来确定他们之间的相似性大小。
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816220107/user-similarity-recommendation-engine-768x481.png)
现在我们有两个向量:
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816220204/user-length-vectors-300x180.png)
现在让我们按照欧几里得距离Euclidean distance的定义来计算这两个向量之间的距离
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816220239/euclidean-distance-user-vectors.png)
我们把所有的数字带入公式中计算,然后得到下面的相似度,这就是两个用户之间的“距离”:
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816220323/user-vector-distance-similarity-metric-768x140.png)
你可以很容易地在 Cypher 中计算两个特定用户的“距离”,特别是如果他们仅仅同时“喜好”一个很小的地点子集。再次说明,这儿我们依据两个用户 Alice 和 Greta 来进行匹配,并尝试去找到他们同时“喜好”的地点:
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816220517/similarity-recommendation-engine-Cypher-query-users-768x399.png)
他们都有对最后找到的地点的 :LIKES 关系,然后我们可以在 Cypher 中很容易的计算出他们之间的欧几里得距离,计算方法为他们对各个地点评分差的平方求和再开平方根。
在两个特定用户的例子中上面这个方法或许能够工作。但是,在实时情况下,当你想要通过和实时数据库中的其他用户比较,从而由一架飞机上的一个用户推断相似用户时,这个方法就不一定能够工作。不用说,至少它不能够很好的工作。
为了找到解决这个问题的好方法,我们可以预先计算好距离并存入实际关系中:
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816220642/similarity-recommendation-engine-user-euclidean-distance-768x284.png)
当遇到一个很大的数据集时我们需要成批处理这件事在这个很小的示例数据集中我们可以按照所有用户的迪卡尔乘积Cartesian product和他们共同“喜好”的地点来进行匹配。当我们使用 WHERE idu1 < idu2 作为 Cypher 询问的一部分时它只是来确定我们在左边和右边没有找到相同的对的一个技巧
通过用户之间的欧几里得距离我们创建了他们之间的一种关系叫做 :DISTANCE并且设置了一个叫做 euclidean 的欧几里得属性理论上我们可以也通过用户间的一些关系来存储其他相似度从而获取不同的相似度因为在确定的环境下某些相似度可能比其他相似度更有用
Neo4j 的确是对关系属性建模的能力使得完成像这样的事情无比简单然而实际上你不会希望存储每一个可能存在的单一关系因为你仅仅希望返回离他们最近的一些人
因此你可以根据一些临界值来存入前几个从而你不需要构建完整的连通图这允许你完成一些像下面这样的实时的数据库查询因为我们已经预先计算好了距离并存储在了关系中 Cypher 我们能够很快的攫取出数据
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816220737/similarity-recommendation-engine-parameters-768x256.png)
在这个查询中我们依据地点和类别来进行匹配
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816221031/similarity-real-time-recommendation-engine-cypher-query-768x384.png)
再次说明前三行是相同的除了登录用户以外我们找出了和他们有 :DISTANCE 关系的用户这是我们前面查看的关系产生的作用 - 实际上你只需要存储处于前几位的相似用户 :DISTANCE 关系因此你不需要在 MATCH 子句中攫取大量用户相反我们只攫取和那些用户喜好的地方有 :DISTANCE 关系的用户
这允许我们用少许几行内容表达较为复杂的模型我们也可以攫取 :LIKES 关系并把它放入到变量中因为后面我们将使用这些权重来评分
在这儿重要的是我们可以依据距离大小将用户按照升序进行排序因为这是一个距离测度同时我们想要找到用户间的最小距离因为距离越小表明他们的相似度最大
通过其他按照欧几里得距离大小排序好的用户我们得到用户评分最高的三个地点并按照用户的平均评分高低来推荐这些地点换句话说我们先找出一个活跃用户然后依据其他用户喜好的地点找出和他最相似的其他用户接下来按照这些相似用户的平均评分把那些地点排序在结果的集合中
本质上我们通过把所有评分相加然后除以收集的用户数目来计算出平均分然后按照平均评分的升序进行排序其次我们按照出入口距离排序假想地我猜测应该会有交接点因此你可以按照出入口距离排序然后再返回名字类别出入口和航站楼
### 集群推荐Cluster Recommendations
我们最后要讲的一个例子是集群推荐 Cypher 这可以被想像成一个作为临时解决方案的离线计算工作流这可能完全基于在[欧洲 GraphConnect 上宣布的新方法][5]但是有时你必须进行一些 Cypher 2.3 版本所没有的算法逼近
在这儿你可以使用一些统计软件把数据从 Neo4j 取出然后放入像 Apache SparkR 或者 Python 这样的软件中下面是一段把数据从 Neo4j 中取出的 R 代码运行该程序如果正确写下程序返回结果的给 Neo4j可以是一个属性节点关系或者一个新的标签
通过持续把程序运行结果放入到图表中你可以在一个和我们刚刚看到的查询相似的实时查询中使用它
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816221336/cluster-recommendation-r-code-algorithm-neo4j.png)
下面是用 R 来完成这件事的一些示例代码但是你可以使用任何你最喜欢的软件来做这件事比如 Python Spark你需要做的只是登录并连接到图表
在下面的例子中我基于用户的相似性把他们聚合起来每个用户作为一个观察点然后得到他们对每一个目录评分的平均值
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816221449/cluster-recommendation-engine-r-code-example-768x403.png)
假定用户对酒吧类评分的方式和一般的评分方式相似然后我攫取出喜欢相同类别中的地点的用户名类别名、“喜好关系的平均权重比如平均权重这些信息从而我可以得到下面这样一个表格
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816221557/cluster-user-category-likes-768x295.png)
因为我们把每一个用户都作为一个观察点所以我们必须巧妙的处理每一个类别中的数据这些数据的每一个特性都是用户对该类中餐厅评分的平均权重接下来我们将使用这些数据来确定用户的相似性然后我将使用聚类clustering算法来确定在不同集群中的用户
R 中这很直接
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816221716/clustering-algorith-recommendation-r-example-768x347.png)
在这个示例中我们使用 K-均值k-means聚类算法这将使你很容易攫取集群分配总之我通过运行聚类算法然后分别得到每一个用户的集群分配
Bob David 在一个相同的集群中 - 他们在集群二中 - 现在我可以实时查看哪些用户被放在了相同的集群中
接下来我把集群分配写入 CSV 文件中然后存入图数据库
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816221805/load-csv-cypher-example-768x227.png)
我们只有用户和集群分配因此 CSV 文件只有两列 LOAD CSV Cypher 中的内建语法它允许你从一些其他文件路径或者 URL 调用 CSV 并给它一个别名接下来我们将匹配图数据库中存在的用户 CSV 文件中攫取用户列然后合并到集群中
我们在图表中创建了一个新的标签节点Cluster ID 这是由 K-平均聚类算法给出的接下来我们创建用户和集群间的关系通过创建这个关系当我们想要找到在相同集群中的实际推荐用户时就会很容易进行查询
我们现在有了一个新的集群标签在相同集群中的用户和那个集群存在关系新的数据模型看起来像下面这样它比我们前面探索的其他数据模型要更好
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816221913/clustering-recommendation-engine-data-model-768x401.png)
现在让我们考虑下面的查询
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816222009/clustering-recommendation-engine-parameters-768x259.png)
通过这个 Cypher 查询我们在更远处找到了在同一个集群中的相似用户由于这个原因我们删除了距离关系
![](https://s3.amazonaws.com/dev.assets.neo4j.com/wp-content/uploads/20160816222045/cluster-recommendation-engine-cypher-query-example-768x385.png)
在这个查询中我们取出已经登录的用户根据用户-集群关系找到他们所在的集群找到他们附近和他们在相同集群中的用户
我们把这些用户分配到变量 c1 然后我们得到其他被我取别名为 neighbor 变量的用户这些用户和那个相同集群存在着用户-集群关系最后我们得到这些附近用户喜好的地点再次说明我把喜好放入了变量 r 因为我们需要从关系中攫取权重来对结果进行排序
在这个查询中我们所做的改变是不使用相似性距离而是攫取在相同集群中的用户然后对类别航站楼以及我们所攫取的登录用户进行声明我们收集所有的权重来自附近用户喜好地点的喜好关系得到的类别确定的距离值然后把它们按升序进行排序并返回结果
在这些例子中我们可以进行一个相当复杂的处理并且将其放到图数据库中然后我们就可以使用实时算法结果-聚类算法和集群分配的结果
我们更喜欢的工作流程是更新这些集群分配更新频率适合你自己就可以比如每晚一次或每小时一次当然你可以根据直觉来决定多久更新一次这些集群分配是可接受的
--------------------------------------------------------------------------------
via: https://neo4j.com/blog/real-time-recommendation-engine-data-science/
作者[Nicole White][a]
译者[ucasFL](https://github.com/ucasFL)
校对[wxy](https://github.com/wxy)
本文由 [LCTT](https://github.com/LCTT/TranslateProject) 原创编译[Linux中国](https://linux.cn/) 荣誉推出
[a]: https://neo4j.com/blog/contributor/nicole-white/
[1]: http://graphconnect.com/
[2]: http://neo4j.com/product/
[3]: http://neo4j.com/blog/why-database-query-language-matters/#cypher
[4]: https://neo4j.com/use-cases/real-time-recommendation-engine/
[5]: https://neo4j.com/blog/neo4j-3-0-massive-scale-developer-productivity/